輝達 Vera CPU 實現 2.2 倍更快的 AI Agent 編排,支援最高 1.6 倍的併發量

NVDA1.96%
根據輝達的說法,7 月 21 日,Vera CPU 在 AI 具代理(agentic)工作負載的編排速度方面,較競品 CPU 最多快 2.2 倍;同時支援更多並發代理執行,達到 1.6 倍。DeepInfra 的測試顯示,在處理複雜代理操作時,效能提升明顯。DeepInfra 表示,其平台每週約處理 50 兆(trillion)tokens,其中約 30% 來自具代理應用所產生,凸顯出在 AI 推論(inference)管線中,對高效率 CPU 排程的需求正在成長。
免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆