AI獲得了Micron和其他芯片的記憶

高帶寬內存（HBM）芯片，3D堆疊的SDRAM微處理器正在革新高性能計算。它們的影響在大型語言模型（LLM）的領域尤其重要，增強了記憶能力並增強了上下文數據的效用。這種硬件的進步是由半導體行業的主要參與者驅動的。

HBM景觀

Micron，Samsung和SK Hynix是HBM芯片的全球供應商。有趣的是，三星與HBM芯片製造的主要鑄造廠TSMC合作。對單個主要鑄造廠的這種依賴強調了全球芯片供應鏈中的潛在脆弱性，這導致了過去的短缺和地緣政治問題。

儘管三星和TSMC是HBM生產中的關鍵參與者，但它們與Nvidia的關係很複雜。 NVIDIA最初計劃從三星那裡採購HBM3E芯片，但據報導，三星未能符合Nvidia的規格。 NVIDIA首席執行官詹森·黃（Jensen Huang）承認三星的角色，但確認沒有正式命令。

在HBM芯片中

HBM芯片是3D堆疊的DRAM芯片，專為低潛伏期，高帶寬和低功耗而設計，通過將存儲器定位在CPU或GPU附近。 Chatgpt報告的關鍵規格包括：

• 帶寬：每堆819 GB/S
• 速度：6.4 GB/PIN
• 容量：每個堆棧最多64 GB
• 提高了熱效率

主要應用程序包括AI，高性能計算（HPC）和GPU，當前關注AI應用程序。與GDDR6（一種更常見但功能較低的遊戲芯片）的比較進一步說明了HBM的專業設計。

市場含義

最近的市場波動反映了這些技術進步和地緣政治因素的影響。 NVIDIA的股票價格大幅下降，部分歸因於美國出口管制影響其中國銷售。微米和三星也從其歷史最高點上大幅下降。這些市場的轉變突出了AI芯片市場的相互聯繫和更廣泛的地緣政治動態。正如艾爾莎·奧倫（Elsa Ohlen）在巴倫（Barron's）所引用的那樣，AJ Bell投資總監Russ Mold表示，由於出口限制，NVIDIA預計損失了55億美元，這標誌著美國 - 中國緊張局勢的新階段。

這些硬件的進步直接影響LLM開發，從而使具有持久內存的模型。這種提高的內存能力，結合了經過思考的處理，可以顯著增強AI功能和用戶體驗，例如芝麻的“ Maya”（例如“ Maya”）展示了改進的上下文記憶。

以上是AI獲得了Micron和其他芯片的記憶的詳細內容。更多資訊請關注PHP中文網其他相關文章！