AI基礎建設瓶頸浮現 微軟:效率突破在跨層設計
(中央社記者江明晏台北2日電)AI需求快速成長,記憶體、網路、電力等基礎建設瓶頸逐步浮現,微軟Azure硬體系統與基礎架構總裁Rani Borkar表示,「AI效率的下一個突破口是跨層協同設計」;Meta AI與運算基礎架構工程副總裁唐春強則指出,客製化晶片讓共同設計可堆疊、更有效率。
SEMICON Taiwan 2026國際半導體展登場,微軟Azure硬體系統與基礎架構總裁波卡爾(Rani Borkar)出席CEO Summit大師論壇,以「下一個曲線:智慧化發展的必然趨勢」為題發表演說。
她表示,AI是採用速度極快的技術,比網路、個人電腦更迅速,但在全球勞動年齡人口中的滲透率仍然很低,主要集中在軟體工程等少數領域,未來將擴展到所有職能與產業。
波卡爾進一步說,目前人工智慧基礎設施遇到多層次瓶頸,包括記憶體、網路、電力供應與管理等,單一層的改善不足以解除瓶頸,需要跨模型架構、硬體與系統軟體的整體設計,才能應對需求與瓶頸,「AI效率的下一個突破口是跨層協同設計。」
她以農業比喻,過去農業透過增加勞力、水、肥料等投入來提高產量,到了某個時點出現限制,例如作物因肥料增加而長得過高,農業科學家透過培育矮化小麥,讓更多能量轉向穀粒而非莖桿,在相同土地與生長季下顯著提升產量,是「改善輸出效率,而非只加大投入」的典型案例。
波卡爾說明,微軟的Maia 200晶片透過模型架構設計、資料科學與壓縮技術、軟體管理、晶片設計等,減少資料移動與快取需求;許多看似某個零件或供應的瓶頸,其實是整體系統問題,需要跨多層次協調調整。
她強調,下一階段AI的關鍵不僅在於擴大基礎設施數量,而在於從現有與新增資源中產生多少智慧輸出與實際價值,真正持久的影響將體現在避免災難與問題,成功的樣貌是AI人工智慧真正「落地」,成為每個人與每家公司的日常工作基礎;產業最偉大的成就是「讓不可能變得可製造,讓昂貴變得可負擔」。
此外,Meta AI與運算基礎架構工程副總裁唐春強今天在CEO Summit大師論壇以「從晶片到資料中心:Meta 如何協同設計AI基礎設施」為題,發表專題演說。
他表示,Meta在北美、歐洲、亞太都有資料中心,在AI加速方面,Meta同時採用AMD和Nvidia的GPU,也自行開發快速的AI晶片,客製化晶片讓共同設計可以堆疊,從硬體、軟體到AI模型進行整合,可以更有效率地服務數百萬使用者的工作負載,自研的AI晶片MTIA 450與MTIA 500預計約2027年推出。(編輯:林淑媛)1150902