AI 處理器 2025年將提升30倍能源效率

分類: PC零組件 新品報導   9/30/2021   AMD
[偉大的城堡-Great Castle]


AMD 宣布在2025年之前註1,將在加速運算節點上執行人工智慧(AI)訓練與高效能運算(HPC)應用的AMD EPYC CPU與AMD Instinct加速器的能源效率提升30倍。為實現此遠大目標,AMD運算節點能源效率的提升速度必須比過去5年註2整個產業的提升速度快2.5倍。

加速運算節點是全球最強大且最先進的運算系統,旨在執行科學研究以及大規模超級電腦模擬,為科學家提供強大運算力,並在材料科學、氣象預測、基因組學、新藥開發以及替代能源等各領域實現突破。此外,加速節點也用在訓練AI類神經網路,這類系統目前用來執行包括語音辨識、語言翻譯、專家推薦系統,將用於未來十年各種新興應用。30倍的提升目標將在2025年節省數十億個千瓦小時的電力,並在未來5年使這些系統執行單次運算所需的電力大幅減少97%。

AMD執行副總裁暨技術長Mark Papermaster表示,提升處理器能源效率是AMD在產品設計上的長期優先要務,如今我們為搭載AMD高效能CPU與加速器且應用於AI訓練與高效能運算部署的現代運算節點立下一項新目標。AMD專注於將重心放在這些重要領域並重視領先企業應提升環境管理方面的價值主張,AMD的30倍目標相比業界過去5年在這些領域的能源效率表現高出150%。

Intersect360 Research執行長Addison Snell表示,隨著運算全面從邊緣布局至核心再到雲端,AMD為其處理器立下遠大的能源效率目標,這次更瞄準AI與高效能運算應用的加速運算。隨著摩爾定律的演進,過去產生的推進效益將會逐漸減緩,未來的進步勢必會更加困難。在5年內提升30倍的能源效率將會是重大的技術成就,不僅展現AMD技術的實力,更突顯AMD致力投入環境永續發展的決心。

提升加速運算應用的能源效率是AMD新目標的一部分,該項環境保護、社會責任、公司治理(ESG)的目標涵蓋營運、供應鏈以及產品。在超過25年的時間,AMD持續公開發布其環境管理與績效報告。由於近期在產品能源效率的成就,AMD獲得提名榮登《財富》雜誌2021年「改變世界」排行榜,以表彰公司為解決社會需求所做出的傑出努力。

提升能源效率方法

除了運算節點的每瓦效能測量註1,為了讓目標針對全球能源使用狀況作出改善,AMD採用特定領域資料中心能源使用效率(PUE)的標準,並將設備使用率列入考量註3。能源消耗基準使用與2015至2020年相同的產業能源單次營運改進率,外推至2025年。2020至2025年間,每個領域的單次營運能源改進衡量標準是由全球預測量註4乘以每個運算領域的典型用電量(TEC)進行加權,以得出一個有意義的全球實際能源使用改進指標。

Koomey Analytics總裁Jonathan Koomey博士表示,AMD為用於AI訓練與高效能運算的加速運算節點所設定的能源效率目標充分反映了現代工作負載、具代表性的操作行為以及精準的基準評效方法。

註1:包括高效能CPU與GPU加速器,用來執行AI訓練與高效能運算,部署於4個加速器的CPU組態。目標計算是基於標準效能量測的數據(HPC:
採用4k矩陣的Linpack DGEMM kernel FLOPS。AI訓練:較低精準度的訓練浮點數學運算GEMM(通用矩陣乘法)核心,對4k矩陣執行FP16或BF16
FLOPS運算,求得的數據再除以代表加速運算節點的額定能源消耗,此節點包含CPU host+記憶體,以及4個GPU加速器。

註2:根據2015至2020年業界在能源效率進步的趨勢,以及2025年資料中心耗能的預測。

註3:CPU插槽與GPU節點耗能是根據特定領域使用量(啟動與待機)比例,然後乘以PUE,推算出實際能源使用量,用來計算每瓦效能。

註4:2025年伺服器CPU總量 - 18.8 Mu(IDC- 2021年第1季追蹤報告), HPC CPU總量 – 3.3Mu(Hyperion- 2020年第4季追蹤報告),2025年高效能運
算GPU總量預估為624k(Hyperion高效能運算市場分析報告,2021年4月)。