OpenAIとBroadcomは、データセンター向けの大規模言語モデル推論専用に設計された新チップ「Jalapeño」を発表した。このASICは、OpenAIの研究者の知見と同社の製品ロードマップに基づき、9ヶ月でゼロから開発された。
Broadcomによると、Jalapeñoは既存の推論ハードウェアよりも現在のLLMのニーズに特化している。OpenAIは、初期テストでは同チップが現行ソリューションよりもワットあたりの性能を大幅に向上させることを示していると主張しているが、詳細な技術的成果は数ヶ月以内に公開される予定である。
