課程資訊與媒體訪談

課程資訊與媒體訪談

*********** 媒體訪談: 1. 中廣流行網「理財生活通」 :每月最後一週星期五 PM 1:40~3:00, 2. 壹電視「年代向錢看」 :每星期四、五 PM 9:00 ~ 10:00 3. 三立iNew「Catch 大錢潮」: 每星期六、日 ,PM 9:00...

2024年6月27日星期四

又貴又難用!輝達欲推伺服器機櫃 大客戶微軟硬是不買

評析:嫌貴,沒話說,但說難用?微軟分明是找碴!!

試問微軟,市場上有可同時使用英特爾跟AMD CPU的主機板嗎?再問,賓士車可以用BMW的零件嗎?微軟竟然要求輝達伺服器可以安裝其他公司的GPU,這不是找碴是什麼!?

其次,輝達用的是業界統一規格的標準機櫃尺寸,微軟自己是特規。微軟要求輝達配合,這是誰的問題?花錢的是老大??

又貴又難用!輝達欲推伺服器機櫃 大客戶微軟硬是不買
鉅亨網新聞中心 2024-06-27 07:26
近期, 科技巨頭輝達 (NVDA-US) 和微軟 (MSFT-US) 之間出現分歧。根據消息,主要原因是輝達要求微軟在採購伺服器機櫃時必須向其公司購買,但卻遭到微軟拒絕,分析師指出兩大原因:一是太貴,二是無法與其他廠商的 GPU(如 AMD 的 MI300X) 互通。

根據外媒《The Information》報導,輝達對於如何在伺服器機房安裝最新 Blackwell 架構「B200」GPU,跟 AI 大客戶微軟有些爭執。

輝達副總裁 Andrew Bell 希望微軟能採購專為 B200 GPU 設計的伺服器機櫃,因為 B200 的構型 (form factor) 跟微軟資料中心使用中的機櫃有幾英寸差異。

然而,微軟拒絕接受輝達建議,輝達最終讓步,允許微軟使用自家客製化伺服器機櫃來安裝 B200 AI GPU。

值得注意的是,輝達一直在積極推動整體解決方案的概念。輝達執行長黃仁勳曾表示,他們已不再單純考慮獨立的 GPU,而是將整個 NVL72 伺服器機櫃當作一個整體 GPU 來看待。輝達希望客戶能夠直接向其採購包括機櫃、伺服器等在內的完整人工智能資料中心解決方案。

輝達稱這樣的整合方式可以提升 GPU 效能,因為可以更好地優化連接。然而,微軟最終拒絕了輝達的建議, 選擇繼續使用自有的客製化機櫃來安裝輝達的 GPU。

分析人士認為,這恐非輝達和微軟之間最後一次爭議。因為輝達最新 Blackwell 架構 GPU 以及整套解決方案的價格都較高,這勢必會大幅增加微軟等大客戶的成本。

得注意的是,輝達的 MGX 模組化系統同時支援 OCP 的開放式伺服器機櫃「Open Rack」(21 吋),以及美國電子工業聯盟 (EIA) 制定的標準 19 吋機櫃。微軟似乎使用較先進、密度較佳的 OCP 機櫃,且該公司現有的基礎設施許多仍運作良好,現在就將之全部升級、成本勢必相當高昂。

資深科技專欄作家 Tae Kim 指出,輝達頂級的 GB200 伺服器機櫃可能高達 300 萬美元。這無疑會對微軟等大規模部署人工智能基礎設施的客戶造成沉重負擔,未來雙方恐怕還會在此問題上再次發生衝突。

輝達 GPU & 伺服器機櫃價格估算

分析師估計,輝達最新 Blackwell 架構 GPU 將比 Hopper 架構更昂貴,由兩顆 B200 Blackwell GPU 及一顆 Grace CPU 組成 GB200 超級晶片價格來看,約 7 萬美元。

資深科技專欄作家 Tae Kim 指出,匯豐估計,GB200 均價將介於 60000~70,000 美元,入門款的 B100 均價則介於 30000 至 35000 美元之間。

基於輝達設計的伺服器昂貴許多。根據 Tae Kim 推文,匯豐估計,輝達 GB200 NVL36 伺服器機櫃 (擁有 18 顆 Grace CPU 及 36 顆先進 B200 GPU) 均價或許將達 180 萬美元,而輝達 GB200 NVL72 伺服器機櫃 (擁有 36 顆 CPU、72 顆 GPU) 均價可能在 300 萬美元左右。

沒有留言:

發佈留言