全産業向けの大規模解析支援サービス「さくらONE」始動！ スパコン世界ランキングに「内製」で挑む理由とは

さくらONEは、当社のGPUサーバー「高火力 PHY」を基盤に、LLMの開発・学習に最適なアーキテクチャを構築したマネージドHPCクラスタです。原点にあるのは、2024年の内閣府戦略的イノベーション創造プログラム（SIP）で進めた、日本語版医療LLMの開発システムです。このプロジェクトは、日本語医療LLMを臨床現場で社会実装するまでを目的にしていました。さくらインターネットはこのなかで、計算基盤としてベアメタル型のGPU環境「高火力 PHY」をベースに、LLMの開発に最適化したクラスタ環境を構築しました。

さくらONEは、このプログラムの完了後、当社がこのシステムを全面的に再構築し、LLM開発環境の商用利用ができるようにしたものです。

私はユーザーとして、医療LLMプロジェクトの研究開発責任者という立場で「高火力 PHY」を利用しました。LLMが開発できるようなHPCクラスタとしてシステムを構成し、提供側であるさくらインターネットのインフラチームと連携して、全体を調整する役割を担っていました。現在は「さくらインターネット研究所」と「AI事業推進室」を兼務し、提供側でもあり、かつユーザーでもあるという立場でいます。さくらONEではおもに、ユーザーに最適な環境を提案する提供者、という役割です。

LLMの需要は、医療や創薬に限らず、すべての業界にあります。しかし、「富岳」や「ABCI」といったスパコンには公共設備ならではの利用の制約があり、順番待ちが発生したり、成果を公表する義務があったりします。

一方でさくらONEは、当社が自社で構築し、商用サービスとして提供するものなので、公共利用の制約がありません。順番待ちで困っている方や、研究成果を公表せずに自分たちの事業のため徹底的にAIのチューニングをしていきたい方にとって便利なサービスだと思います。LLMの並列処理や継続的な事前学習、AIのファインチューニングといった用途にはすでに実績があり、安心して使い始めていただけると考えています。

とくにHPCの分野では、システムをつねに100%の電力で限界まで稼働しつづけるのが一般的です。そのため、電源、ネットワーク、冷却の各リソースを十分に確保することが、非常に重要です。

われわれのセールスポイントは、GPUの持つポテンシャルを最大限発揮できる、それらの環境作りです。700Wの電源を確保し、ほかのサービスで起きがちな電源によるキャッピングを回避しています。そのため、安定して優れた処理性能を発揮できました。

現在のさくらONEは、TOP500にランクインした当時の技術を元にして再構築したものです。 GPUリソースをさらに強力にし、「NVIDIA H200 GPU」を8基搭載したサーバーを最大で55台（GPUリソース440基分）同時に活用できるようになっています。

LLM開発の現場で重要となるのは、ノード間の効率的なデータ転送です。さくらONEは高火力 PHYの改良版をベースにしており、GPU間のデータ通信における、ボトルネックを抑制する「Rail-Optimized」という構成を採用しています。これによって、ほかのノードから受ける影響を抑え、それぞれのGPUが独立した高速なネットワーク接続を持ち、LLM開発で定期的に発生する一斉データ処理（AllReduce）を効率的に実行できます。

さらにストレージ用のネットワークも分離しているため、データ書き込みがほかの計算処理に与える影響も限定的になります。オーバーヘッドを気にせず、安心して高速な処理ができる構造になっています。

今後はあらゆる研究でLLMが使われるようになると考えています。さくらインターネットがそのベースのインフラとして機能し、LLMの継続事前学習やファインチューニングを広く提供する「LLMファクトリー」の役割を担えれば、とてもうれしいですね。