微軟於 SEMICON Taiwan 揭示 AI 基礎建設新思維 聚焦提升有效產出
發布時間:
微軟 Azure 雲端硬體與基礎建設總裁 Rani Borkar 於 SEMICON Taiwan CEO Summit 發表主題演講，提出 AI 基礎建設發展的全新衡量方式。過去幾年，AI 的發展體現在資料中心、晶片、記憶體與電力等資源的擴張規模，Rani Borkar 呼籲產業聚焦「提升有效產出為當務之急（yield imperative）」，不單以能建置多少運算容量定義 AI 基礎建設的成功與否，更需關注資源能以多高的效率轉化為真正有用的智慧。要滿足現今 AI 基礎建設的需求，不僅需要擴大容量，更需提升「有效產出（useful yield）」，亦即讓晶片、記憶體、網路與電力能更有效率地轉化為具備價值的實際成果，並透過增加每一分錢與每瓦電力所能產生的 token 數量、整體處理效能提升以及降低延遲等指標來衡量整體效益。
2026/09/02
台灣微軟新聞稿
AI 基礎建設的新關鍵：提升有效產出（Useful Yield）
微軟於 SEMICON Taiwan 2026 揭示現今 AI 發展的系統思維，整合晶片、記憶體、網路與電力等基礎建設，打造更實用且成本更可控的智慧
【2026 年 9 月 2 日，台北訊】微軟 Azure 雲端硬體與基礎建設總裁 Rani Borkar 於 SEMICON Taiwan CEO Summit 發表主題演講，提出 AI 基礎建設發展的全新衡量方式。過去幾年，AI 的發展體現在資料中心、晶片、記憶體與電力等資源的擴張規模，Rani Borkar 呼籲產業聚焦「提升有效產出為當務之急（yield imperative）」，不單以能建置多少運算容量定義 AI 基礎建設的成功與否，更需關注資源能以多高的效率轉化為真正有用的智慧。
要滿足現今 AI 基礎建設的需求，不僅需要擴大容量，更需提升「有效產出（useful yield）」，亦即讓晶片、記憶體、網路與電力能更有效率地轉化為具備價值的實際成果，並透過增加每一分錢與每瓦電力所能產生的 token 數量、整體處理效能提升以及降低延遲等指標來衡量整體效益。
隨著每一代新 AI 對晶片、記憶體、電力與網路的需求增加，只仰賴基礎建設的擴充已不足以支撐未來發展。持續推動 AI 基礎建設的發展不僅需要提升各層雲端架構的效率，也需透過跨領域技術整合才能實現突破性創新，這有賴全球半導體生態系攜手合作，從零組件、設備與材料供應商，到水、電等公共事業、資料中心營運商、模型開發者與軟體開發人員共同參與。
根據微軟設計與營運全球規模 AI 基礎建設的經驗，跨層設計（cross-layer design）將成為下一階段提升效率的關鍵。企業不應受限於單點優化零組件，而是必需打破既有思維，從晶片、記憶體、網路、電力、散熱、軟體、模型、工作負載和大規模營運等各個層面跨層整合，因為最棘手的限制，往往需要跳脫最初出現問題的層級才能找出解決方案。
微軟 Azure 雲端硬體與與基礎建設總裁 Rani Borkar 表示：「我們將持續擴充基礎建設容量以因應世界未來發展所需，然而衡量進展的核心標準必須是最終的產出成果，不只是晶片或 token，而是轉化為賦能、機會與人類的成就的實用智慧。」
微軟的目標不只是生成更多 token 或部署更多基礎建設，而是讓智慧的成本變得更可控、可靠且普及。當更多人與組織皆能運用 AI 智慧，並以此為基礎進一步創新與創造自身價值，基礎建設的進步將能轉化為更廣泛的經濟機會與社會影響力。
微軟於 SEMICON Taiwan 演講重點包含：
下一階段的 AI 基礎建設發展將不再僅限於原始硬體容量（raw capacity），而是更重視有效產出（useful yield）。
Agentic AI 正為運算基礎建設帶來全新需求。
微軟正採取從晶片到系統（silicon-to-systems）的方法，涵蓋晶片、記憶體、網路、電力與軟體等層面。
持續深化生態系合作將是提升 AI 效率、成本可控性與普及程度的關鍵。
微軟 Azure AI 基礎建設技術堆疊策略：
記憶體：讓每個位元組（byte）釋放更多智慧。透過整合模型最佳化、記憶體管理、晶片設計與編譯器配置，提升 Azure Maia 加速器平台從既有記憶體資源所提供的有效智慧。
網路：Azure Maia 以跨層設計方式，結合雙層垂直擴展網路拓撲與客製化傳輸層，並將網路介面卡（NIC）直接整合至晶片，提升工作負載的彈性與效率，讓運算資源以較少的網路硬體實現更高的運算效能。
電力：從電網到晶片協同設計以提升效率。微軟採取軟硬體協同設計的電力供應與管理方式，在降低功耗的同時維持運算效能。例如，微軟 Azure Cobalt 客製化 CPU 將更精細的電力控制直接整合至晶片，使相同兆瓦數的電力能支援更多伺服器運作。