發布成功
贊賞金額:
支付金額:5元
支付方式:
贊賞成功!
你的贊賞是對作者最大的肯定~?
美國當地時間8月8日,英偉達又發布了新一代GH200 Grace Hopper(簡稱“新版GH200”)平臺。但與今年5月發布的GH200不同的是,新一代GH200搭載了全球首款HBM3e內存,內存容量和帶寬都有顯著提高,專為加速計算和生成式AI時代而打造。
英偉達稱,新版GH200旨在處理世界上最復雜的生成式AI工作負載,涵蓋大型語言模型、推薦系統和矢量數據庫,將提供多種配置。新版GH200將于2024年第二季度投產。
具體來說,新版GH200芯片平臺基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內存以及 GH100 計算 GPU,搭配 141 GB 的 HBM3e 內存,分為六個 24 GB 的堆棧,并使用了 6,144 位的內存接口。雖然英偉達實際安裝了 144 GB 的內存,但只有 141 GB 是可用的。
相比原版GH200平臺,新版GH200平臺的雙芯片配置將內存容量提高3.5倍,帶寬增加三倍,一個服務器就有144個Arm Neoverse高性能內核、8 petaflops 的 AI 性能和282GB的最新HBM3e內存技術。
HBM3e是全新一代的高帶寬內存,帶寬達每秒5TB,比原版的GH200所搭載的HBM3快50%,可為新版的GH200提供總共每秒10TB的組合帶寬,使新平臺能運行比前代大3.5倍的模型,同時通過快3倍的內存帶寬提高性能。
據英偉達介紹,目前配備 HBM3 內存的原版GH200 Grace Hopper超級芯片平臺已經在生產中,并將于下個月開始商業銷售。而配備 HBM3e 內存的新版GH200 Grace Hopper超級芯片平臺現在正在樣品測試中,預計將于 2024 年第二季度上市。
英偉達強調,新版GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無需推出任何新的軟件版本或步進。英偉達表示,原版 GH200 和升級版 GH200 將在市場上共存,這意味著后者將以更高的價格出售,畢竟其更先進的內存技術帶來的更高性能。
英偉達表示,配備 HBM3e 內存的下一代 Grace Hopper 超級芯片平臺完全兼容英偉達的 MGX 服務器規范,并且可以與現有的服務器設計直接兼容。
黃仁勛說,為了滿足生成式 AI 不斷增長的需求,數據中心需要有針對特殊需求的加速計算平臺。新的GH200 Grace Hopper 超級芯片平臺提供了卓越的內存技術和帶寬,以此提高吞吐量,提升無損耗連接GPU聚合性能的能力,并且擁有可以在整個數據中心輕松部署的服務器設計。