微軟明年部署百萬自家AI晶片
微軟公佈第三代自訂人工智能晶片Maia 300,計劃明年大規模部署,數量可能超過一百萬顆,以支援內部人工智能服務。該晶片採用不同於輝達的技術路徑,使用台積電2納米及3納米晶片,目標是降低成本並提升每瓦特的計算效能。
微軟(Microsoft)於周一公佈其第三代自訂人工智能晶片Maia 300,並計劃明年部署可能超過一百萬顆該晶片,以支援其內部的人工智能服務。此舉被視為微軟在人工智能運算市場上,進一步挑戰輝達(Nvidia)主導地位的行動。
Maia 300晶片專為處理人工智能數據運算而設,包括編碼及代表用戶執行複雜商業任務。其前代晶片已在微軟的內部人工智能模型,以及透過微軟Azure雲端運算服務提供的OpenAI模型上運行。
在技術設計上,微軟採取與輝達不同的路徑。輝達的人工智能加速器使用一個巨大運算晶片,配以高頻寬記憶體晶片。而微軟的Maia 300晶片則採用「晶片組」(chiplets)設計,將專門晶片結合在一起。其中關鍵運算功能使用台積電(Taiwan Semiconductor Manufacturing Co)的2納米技術,其他功能則使用成本較低的3納米技術。
每組Maia 300處理器將裝入包含96顆晶片的機架,耗電約167千瓦。相比之下,輝達最新的GB300人工智能伺服器機架則有72顆圖像處理器(GPU),耗電142千瓦。微軟表示,Maia 300晶片每兆瓦能完成的實質運算量,比「領先的GPU系統」高出約四成,但未指明比較對象。
微軟Azure硬件系統及基建總裁Rani Borkar向路透社表示:「這基本上是在每瓦特、每美元、每字節記憶體上傳遞更多智能,通過對整個系統進行優化。」微軟計劃從明年開始進行「多吉瓦級部署」,並已表示本曆年度的資本開支預計超過1750億美元(約1.37萬億港元)。