微軟於26日宣布推出第二代人工智慧(AI)晶片,採用台積電3奈米製程,是微軟迄今部署的最高效推理系統,可望提升旗下服務的運作效率,並減少對輝達(Nvidia)晶片的依賴。
微軟發布Maia 200晶片,採用台積電3奈米製程,每顆片晶片包含超過1,400億個電晶體,配備216GB HBM3e記憶體,頻寬達7 TB/s,以及272MB片上SRAM,專門設計的DMA引擎和資料傳輸架構,可確保大規模模型快速高效地運行。
微軟的雲端與AI業務負責人格瑟理(Scott Guthrie)透過文章表示,Maia 200是微軟「歷來部署過最高效的推理系統」,每美元性能比微軟當前最新一代硬體提升30%,且在某些性能指標上超越Google和亞馬遜(Amazon)的同類晶片。格瑟理指出,Maia 200晶片在FP4精度下的性能是第三代亞馬遜Trainium晶片的三倍,FP8性能則超過Google第七代TPU。
據格瑟理表示,晶片首先將供應給微軟的超級智慧團隊用於生成資料以改進下一代AI模型,也將用於驅動企業版Copilot助手,以及微軟向雲端客戶提供租用的AI模型,包括OpenAI的最新模型。
微軟、亞馬遜和Google等公司在輝達晶片供應緊張且成本高昂的背景下,陸續加快自研晶片進程,力求為雲端客戶提供成本更低、集成更順暢的替代方案。Maia 200目前已部署在微軟位於愛荷華州第蒙(Des Moines)附近的美國中部資料中心區域,隨後將進駐亞利桑那州鳳凰城附近的美國西部3區,未來還將部署至更多區域。
微軟進一步透露,已著手設計下一代產品 Maia 300。格瑟理透露,微軟的Maia AI加速器專案被設計為多代反覆運算計畫,「隨著我們在全球基礎設施中部署Maia 200,我們已經在為未來幾代產品進行設計,預計每一代都將不斷為最重要的AI工作負載樹立新標杆,提供更好的性能和效率」。(新聞來源:工商時報)