AI获得了Micron和其他芯片的记忆

高带宽内存（HBM）芯片，3D堆叠的SDRAM微处理器正在革新高性能计算。它们的影响在大型语言模型（LLM）的领域尤其重要，增强了记忆能力并增强了上下文数据的效用。这种硬件的进步是由半导体行业的主要参与者驱动的。

HBM景观

Micron，Samsung和SK Hynix是HBM芯片的全球供应商。有趣的是，三星与HBM芯片制造的主要铸造厂TSMC合作。对单个主要铸造厂的这种依赖强调了全球芯片供应链中的潜在脆弱性，这导致了过去的短缺和地缘政治问题。

尽管三星和TSMC是HBM生产中的关键参与者，但它们与Nvidia的关系很复杂。 NVIDIA最初计划从三星那里采购HBM3E芯片，但据报道，三星未能符合Nvidia的规格。 NVIDIA首席执行官詹森·黄（Jensen Huang）承认三星的角色，但确认没有正式命令。

在HBM芯片中

HBM芯片是3D堆叠的DRAM芯片，专为低潜伏期，高带宽和低功耗而设计，通过将存储器定位在CPU或GPU附近。 Chatgpt报告的关键规格包括：

• 带宽：每堆819 GB/S
• 速度：6.4 GB/PIN
• 容量：每个堆栈最多64 GB
• 提高了热效率

主要应用程序包括AI，高性能计算（HPC）和GPU，当前关注AI应用程序。与GDDR6（一种更常见但功能较低的游戏芯片）的比较进一步说明了HBM的专业设计。

市场含义

最近的市场波动反映了这些技术进步和地缘政治因素的影响。 NVIDIA的股票价格大幅下降，部分归因于美国出口管制影响其中国销售。微米和三星也从其历史最高点上大幅下降。这些市场的转变突出了AI芯片市场的相互联系和更广泛的地缘政治动态。正如艾尔莎·奥伦（Elsa Ohlen）在巴伦（Barron's）所引用的那样，AJ Bell投资总监Russ Mold表示，由于出口限制，NVIDIA预计损失了55亿美元，这标志着美国 - 中国紧张局势的新阶段。

这些硬件的进步直接影响LLM开发，从而使具有持久内存的模型。这种提高的内存能力，结合了经过思考的处理，可以显着增强AI功能和用户体验，例如芝麻的“ Maya”（例如“ Maya”）表现出改进的上下文记忆。

以上是AI获得了Micron和其他芯片的记忆的详细内容。更多信息请关注PHP中文网其他相关文章！