データセンターインフラ最適化スタートアップの"Clockwork Systems"がSeries Bで$20.5Mを調達

Clockwork Systemsは、New Enterprise Associates (NEA)がリードし、業界著名人が参加したSeries Bで$20.5Mを調達した。

データセンターインフラ最適化スタートアップのClockwork Systemsは、グラフィックス処理ユニット(GPU)の活用を最大化し、AIワークロードのパフォーマンスを向上させるために、FleetIQという新しいプロダクトを立ち上げ、クロック同期技術を拡張すると発表しました。

Clockworkの技術は、分散ネットワークにおけるレイテンシの問題を解決するために設計されており、正確なクロック同期を提供することで、サーバーがより効率的に稼働できるようにします。FleetIQの立ち上げにより、Clockworkは非常に正確なクロック技術をAIおよびGPU分野に拡張するとしており、サブマイクロ秒レベルの可視性と高速なクラスター性能により、AIの学習および推論を強化し、ワークロードの中断を防ぐと述べています。

現代のデータセンターを構成するサーバークラスターにおいて、クロック同期の改善が強く求められています。従来の分散ネットワークでは、スイッチやルーターなどのハードウェアの内部タイミング機構に依存していましたが、同期の欠如がワークロードのボトルネックを引き起こす可能性があります。

Clockworkのエッジベースの同期技術を使用すれば、ネットワークハードウェアに依存せずにレイテンシを正確に測定できます。このアプローチにより、ネットワークはレイテンシを低く保ちながら高い使用率で稼働でき、特にマイクロ秒単位が数百万ドルの損益を左右する高頻度金融取引のようなアプリケーションにおいて大きな利点があります。

この仕組みはAIワークロードにも当てはまります。より強力なGPUの登場により、ボトルネックはコンピュートから通信へと移行しました。現在、ほとんどのAIの学習および推論ワークロードは、NvidiaやAdvanced Micro DevicesのGPUによって支えられています。

最も要求の厳しいジョブでは、時に数千個のGPUからなる巨大なクラスターがAIタスクを同期して処理するために使われます。これにより、データセンター運営者はGPUクラスターを同期させ続けることに頭を悩ませています。1つのチップが遅れるだけでも、他のすべてのGPUがその遅れを待たなければならず、処理が停止する可能性があります。

Clockworkはこの問題を「AI効率ギャップ」と呼んでいます。現実世界のGPUクラスターは、理論上の性能の30%から55%しか達成できておらず、これはリンクの断続的な障害や、信頼性のある同期の欠如による問題が原因とされています。この非効率性により、企業は長期的に数十億ドルの損失を被る可能性があります。

たとえば、OpenAIのGPT-4oのような、今日最先端の大規模言語モデルは、10万個以上のGPUで構成されるクラスター上で稼働しており、その投資額は約$6Bに上ります。理論上の性能の半分以下で稼働している場合、$3Bが無駄になることになります。

FleetIQはこの課題を解決します。Clockworkによると、FleetIQは同社の基盤となるクロック同期技術を活用したソフトウェア駆動型のGPUファブリックであり、クラスター内のボトルネックをマイクロ秒レベルで即座に特定する可視性を提供します。クラスター内の個別チップが遅れてもAIワークロードを継続できる状態保持型のフォールトトレランスを実現し、スループットを向上させ、再起動にかかる高コストを回避します。これにより、クラスター全体の効率が向上します。

FleetIQはハードウェアに依存しないサービスであり、NvidiaやAMDのGPUだけでなく、Amazon Web ServicesのTraniumチップのようなカスタムAIアクセラレーターにも対応しています。また、NvidiaのInfiniBandやEthernet/RoCEなどのネットワークインフラにも対応しており、どのような構成であっても優れたクラスター利用率を実現します。GPUクラスターの効率を向上させることで、FleetIQはAI学習、推論、ユーザー向けアプリケーションを同時に実行できるようにし、パフォーマンスと経済性を大幅に改善しつつ、ネットワーク運用を簡素化します。