AIインフラのOpenAI、Broadcomと初のLLM推論向けカスタムチップJalapeñoを発表

AIインフラのOpenAIが、Broadcomと共同でLLM推論向けのカスタムAIチップJalapeñoを発表しました。OpenAIにとって初の専用AIプロセッサであり、ChatGPTを含む大規模AIサービスの推論コストと性能を最適化するためのフルスタック戦略の一部です。

Jalapeñoは、OpenAIのモデルロードマップ、推論カーネル、運用要件を前提に設計されたプロセッサです。Broadcomの半導体設計・接続技術と組み合わせ、LLM推論に必要な低遅延、高スループット、電力効率を狙い、ギガワット規模のAIデータセンターでの展開を視野に入れています。

投資家や事業会社にとって重要なのは、基盤モデル企業がGPU調達だけでなく、半導体、ネットワーク、データセンター運用まで含めた垂直統合へ進んでいることです。AIの競争軸はモデル性能だけでなく、推論単価、供給制約、専用インフラを制御できるかに移っています。

OpenAIについて
OpenAIとは、2015年に米国カリフォルニア州サンフランシスコで設立されたAI研究・製品企業です。創業メンバーには Sam Altman、Greg Brockman、Ilya Sutskever、John Schulman、Wojciech Zaremba、Elon Musk らが含まれます。主力製品はChatGPT、OpenAI API、Codex、画像・音声・動画生成モデルです。基盤モデル、開発者基盤、企業向けAI、推論インフラを統合して提供できる点が強みです。ミッションは、汎用人工知能が人類全体に利益をもたらすようにすることです。