AMD全新EPYC處理器加速生成式AI的發展

AMD在「數據中心與人工智能技術發表會(Data Center and AI Technology Premiere)」上，展示將塑造支援未來運算的產品、策略，以及產業體系合作夥伴，推動新一輪數據中心創新發展。AMD與Amazon Web Services (AWS)、Citadel、Hugging Face、Meta、Microsoft Azure和PyTorch共同展示與各行業的技術合作細節，為市場帶來新一代高效能CPU與AI加速器解決方案。

為現代數據中心提供優化的運算基礎架構

AMD董事長暨執行長蘇姿丰博士表示：「AMD在實現數據中心策略上再度向前邁出重要一步，擴展第4代EPYC處理器產品陣容，為雲端和技術運算工作負載提供領先業界的全新解決方案，而我們亦與最具規模的雲端供應商攜手公布全新的合作應用實例及內部部署。人工智能(AI)是新一代運算的關鍵技術，亦為AMD帶來最大的策略性增長機會。我們專注於加快AMD AI平台在數據中心的大規模部署，並計劃於今年稍後推出Instinct MI300加速器，同時，針對AMD硬件提供優化的企業級AI軟件，推動相關產業體系持續發展。」

AMD發表第4代EPYC處理器產品線一系列最新資訊，提供能全面滿足企業客戶對特定專業工作負載的獨特需求。

• 進一步提升全球最頂尖的數據中心CPU效能－第4代AMD EPYC處理器配備頂尖的效能與能源效益，持續擴大其領先優勢。AMD與AWS展示新一代Amazon Elastic Compute Cloud(Amazon EC2) M7a實例的預覽，搭載第4代AMD EPYC處理器(編號為「Genoa」)。此外，Oracle亦宣布計劃推出搭載第4代AMD EPYC處理器的新款Oracle Computing Infrastructure(OCI)E5實例。
• 為雲端原生運算帶來頂尖效能－AMD推出先前編號為「Bergamo」的第4代AMD EPYC 97X4處理器。憑藉每插槽128個「Zen 4c」核心，新款處理器為雲端應用提供最高的vCPU密度與領先業界的效能，同時帶來能源效益的領先優勢。Meta指出第4代AMD EPYC 97X4處理器為Instagram、WhatsApp等Meta主流應用程式提供卓越效能；與第3代AMD EPYC處理器相比，第4代AMD EPYC 97X4處理器為Meta各種工作負載帶來顯著的效能提升，同時大幅減少TCO，AMD與Meta憑藉對優化EPYC CPU的效能，滿足Meta對功耗效率與運算密度的要求。
• 為技術運算開發更卓越產品－AMD推出搭載AMD 3D V-Cache技術的第4代AMD EPYC處理器，是用於技術運算的全球最高效能x86伺服器CPU。Microsoft宣布全面推出Azure HBv4和HX實例，採用搭載AMD 3D V-Cache技術的第4代AMD EPYC處理器。

AMD Al平台－The Pervasive Al Vision

AMD發表一系列產品資訊，展現如何推動AI平台策略，為客戶提供涵蓋雲端、邊緣、終端的硬件產品，結合與業界進行的深度軟件合作，發展可擴展的全方位AI解決方案。

• 為生成式AI推出全球最先進的加速器－AMD公布AMD Instinct MI300系列加速器產品線的最新細節，包括推出AMD Instinct MI300X加速器，為全球最先進的生成式AI加速器。MI300X採用新一代AMD CDNA 3加速器架構，支援高達192 GB的HBM3記憶體，提供大型語言模型推導與生成式AI工作負載所需的運算力與記憶體效率。憑藉AMD Instinct MI300X的大容量記憶體，客戶可處理Falcon-40B等大型語言模型，僅需使用一個MI300X GPU加速器就能處理400億個參數的模型。此外，AMD推出AMD Infinity架構平台，將8個MI300X加速器整合至業界標準設計，構建極致的生成式AI推論與訓練環境。MI300X將從第3季開始向各大客戶發送樣本。AMD同時發表AMD Instinct MI300A，為針對HPC與AI工作負載所開發的全球首款APU加速器，現已開始向客戶發送樣本。
• 向市場推出開放、經驗證、可立即運行的AI軟件平台－AMD展示為數據中心加速器所開發的ROCm軟件產業體系，展現其於相關領域的的成熟發展，並準備就緒與各行業領導者合作，聯手推動開放AI軟件生態系統的發展。PyTorch分享AMD與PyTorch基金會之間的合作，從上游全面提供ROCm軟件堆疊，透過ROCm 5.4.2版本在所有AMD Instinct加速器上為PyTorch 2.0提供即時的Day-0支援。這樣的整合為開發人員提供廣泛的PyTorch AI模型，可在AMD加速器上「開箱即用」。針對AI開發者的領先開放平台Hugging Face宣布將在AMD Instinct加速器、AMD Ryzen和AMD EPYC處理器、AMD Radeon GPU、Versal及Alveo自行調適處理器等AMD平台上為數千個Hugging Face模型進行優化。

瞄準雲端與企業的強大網絡產品陣容

AMD展示陣容強大的網絡產品線，包括AMD Pensando DPU、AMD超低延緩NIC與AMD自行調適NIC。AMD Pensando DPU結合軟件堆疊與「零信任安全性」以及領先業界的可程式化封包處理器，開發全球最智慧與最高效能的DPU。IBM Cloud、Microsoft Azure和 Oracle Compute Infrastructure等合作夥伴雲端平台亦大規模部署AMD Pensando DPU。企業更可將AMD Pensando DPU部署在 HPE Aruba CX 10000 Smart Switch中，並與領先的IT服務公司如DXC等合作，透過VMware vSphere Distributed Services Engine分散式服務引擎為其客戶提升應用程式效能。

AMD發表代號為「Giglio」的新一代DPU，目標為客戶提供更高的效能與能源效益，預計在2023年底推出。

此外，AMD發表AMD Pensando Software-in-Silicon開發套件(SSDK)，讓客戶能快速開發或遷移各項服務，在AMD Pensando P4可程式化DPU上進行部署，並與建置在AMD Pensando平台上豐富的現有功能並存運行。AMD Pensando SSDK讓客戶能夠使用AMD Pensando DPU領先業界的效能，在其基礎架構上運行並打造客製化的虛擬化與安全功能，配合已建置在Pensando平台上的現有功能並存運行。