チューリング、大規模GPUクラスタ「Gaggle Cluster」の構築に着手。完全自動運転AIの実現に向けて
TURING（チューリング）は11月22日、完全自動運転AIの実現に向け、大規模言語モデル（LLM）やマルチモーダルモデル向けの専用計算基盤として、GPUクラスタシリーズ「Gaggle Cluster」の構築に着手したことを発表した。
LLMは、大量のテキストデータから学習し、人間のような自然な文章を生成したり、質問に答えたりすることができるAIモデル。同社は、完全自動運転の実現には人間と同等以上にこの世界を理解した自動運転AIが必要であると考え、言語を通じて極めて高いレベルでこの世界を認知・理解している、LLMを含むマルチモーダルモデルの開発を進めている。
今回構築する最初のクラスタ「Gaggle-Cluster-1」は、96基のNVIDIA H100 GPUを搭載し、総計算能力190PFLOPSとなる、国内の企業が専有するGPU計算基盤としては最大規模のGPUクラスタとなる。システム全体として2024年前半の稼働開始を目指す。
Gaggle-Cluster-1は多数のGPUサーバーで構成されているだけでなく、サーバー間の通信帯域とストレージ速度を最大限に確保し、これによりクラスタ全体を「単一の計算機」として大規模な学習タスクに最適化させる。分散並列学習技術を活用することにより、LLMを含む非常に大規模なパラメータのモデルを高速かつ効率的に学習させることが可能になるという。
同社は、高速なGaggle Clusterと、スケーラブルなクラウド計算資源を活用し、LLMを含む独自の大規模マルチモーダルモデル開発を進め、完全自動運転AIの実現に向けて開発を加速させていく。
