美超微宣布,推出輝達平台Vera CPU機櫃可為代理式AI、強化學習(RL)提供高密度運算效能、支援2.25萬個沙箱環境,此100%全液冷式CPU機櫃可與已上市的輝達AI伺服器Vera Rubin互補搭配,也能獨立運行,為資料中心提供高密度CPU運算效能,支援急速上升的代理式AI應用需求。
美超微表示,GPU仍是生成Token、程式與查詢的主要運算引擎,基於CPU的沙箱環境則負責執行程式、評估結果、操作工具與編排工作流程,具有數百或數千個GPU的現代化AI工廠,需要透過專用的CPU運算資源,支援數千個或數百萬個平行執行環境,以順暢地運行AI代理程序。
美超微表示,Vera CPU機櫃整合了256個輝達Vera CPU,每機櫃可提供22,528個核心與45,056個執行緒,並支援最高22,500個並行的代理沙箱環境,而輝達的BlueField-4 DPU提供了高效能網路與電腦模擬(In-Silicon)安全配置,採用全液冷式的機櫃。
【點擊看完整全文】
更多鏡報報導
輝達Vera Rubin伺服器來了 美超微宣布現已出貨
輝達、美超微高層爆「內鬼」走私!130台高階AI伺服器繞道運往中國
又捲AI伺服器走私案!美超微急發聲:台灣分公司不是檢調調查目標
