7 月 3 日消息,,臺媒《工商時報》消息,英偉達 H200 上游芯片端于二季度下旬起進入量產(chǎn)期,,預計在三季度以后開始大規(guī)模交付,。
據(jù)此前報道,OpenAI 近日在舊金山舉辦了一場研討會,英偉達首席執(zhí)行官黃仁勛親自出席,,共同宣布交付第一臺 Nvidia DGX H200,。
H200 作為 H100 的迭代升級產(chǎn)品,基于 Hopper 架構,,首次采用了 HBM3e 高帶寬內存技術,,實現(xiàn)了更快的數(shù)據(jù)傳輸速度和更大的內存容量,對大型語言模型應用表現(xiàn)出顯著優(yōu)勢,。
根據(jù)英偉達官方發(fā)布的數(shù)據(jù),,在處理諸如 Meta 公司 Llama2 這樣的復雜大語言模型時,H200 相較于 H100 在生成式 AI 輸出響應速度上最高提升了 45%,。
供應鏈指出,,目前待出貨的客戶端訂單仍多集中于 HGX 架構的 H100,H200 比重有限,,因采用配貨制,,目前各家終端系統(tǒng)合作伙伴的出貨主力 H100 GPU,到貨時間最長仍可能達 20 周,。
消息稱 B100 將于明年上半年出貨,。英偉達 CEO 黃仁勛此前表示,從 B100 開始未來所有產(chǎn)品的散熱技術都將由風冷轉為液冷,。英偉達 H200 GPU 的 TDP 為 700W,,保守估計 B100 的 TDP 接近千瓦,傳統(tǒng)風冷不能滿足芯片工作過程中對于散熱需求,,散熱技術將全面向液冷革新,。
本站內容除特別聲明的原創(chuàng)文章之外,轉載內容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉載的所有的文章、圖片,、音/視頻文件等資料的版權歸版權所有權人所有,。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者。如涉及作品內容,、版權和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。