公海上でGPUクラスタの運用はできるか？
現状利用者が3億人いる某闇サイトで、この会社（Del Complex社）が話題になっているのを目撃。
G7でAIの規制について共有されたりしている中、この会社では公海上でAIモデルを開発することでその規制から逃れるという話らしく、そのために海の上で1万台以上のGPUを動かすということなんですが。
そんなこと本当にできるのか？と思ったので簡単に計算してみました。
なお、できるのか？っていうのはお金の話ではなく物理的にできるのかという話です。
この話、Misskeyに書いたり、そのまとめをYouTubeのコミュニティに書いたりしてたんですが、noteにも書いておこうかな？ってことで焼き増しします。
結論だけ見たい人は上記リンクを見てください。
ここでは、Misskeyの資料付きの説明をまとめたいと思います。
（まあYouTubeならコミュニティじゃなくて動画投稿したら？って思うかもしれないんですが、今ちょっと時間がないんですよね。来年はできると信じているんですが。）
一番のネックは？
まず、この話を見たときに1番疑問だったのは電源だったんですよね。
「電源はともかくネット回線がヤバい」って言ってる人も見かけたんですが、おそらくクラスタマシンとかスパコンがダイソンも驚くほど電力をチューチューすることを知らないんだろうなと。
というか、業界としては大きく話題になっていても、それを知っている方が現時点では逸般人なのかもしれないなぁと思い知らされたり。
ネット回線
回線は衛星通信でどうにかなるだろうなと思いました。そもそも、単に自社内で学習させるだけならそんなにヘビーな通信は不要だというのもありますし、逆にすごく大きなデータをやり取りするならおそらく空輸でHDD運んだほうが速いというのもあります。
軽く調べてみたら、公海上でも8Mbps（1MB/s）ぐらいは出るらしいです。
感覚的に8Mbpsがどれくらいの速度かというと、720p/30fpsの動画をストリーミング視聴できたり、Live配信できたりする程度の速度です。
ベストエフォートではありますが、結構思ったより速いし（地上でもこれぐらいのところは普通にある）、公海上なら障害物もないのでまあわりと普通にネットが使える感じだと思います。
電力供給
それで、電源の方ですが、公海上だとどう考えても船の形にならざるを得ないと思うので、船上で電力が賄えるかということを考えてみたいと思います。
まず、GPUが10000台載ったクラスタマシンの消費電力量を考えてみたいと思います。
この会社が搭載するとしているGPUはH100なんですが、PCIe接続版とSXMソケット版で消費電力が2倍違うんですよね。2倍も違うと実現可能性がだいぶ変わるので、とりあえず少ない方としてPCIe版をスペック表通り300～350Wと仮定します。
参考として、産総研のABCIはのGPUは専用ソケット版のV100で、その消費電力は1台300Wで1台あたりは大体同じです。ABCIはGPU数が合計4352台（1ノードあたり4台）で最大2.3MWです。
（参考：https://abci.ai/ja/how_to_use/data/ABCI_2020.pdf）
これをGPU数で割ると約528W。CPUの1個あたりの消費電力が100～150Wぐらいなので（※計算ノードではCPUはGPUの1/4しか存在しない）、冷却やらストレージやらここに他のもろもろが入ることを考慮すると結構妥当な数字だと思います（むしろ水冷なので少ないぐらいかも？）。
これを基準に考えると、GPU1台あたり500W使うとして、10000台の場合は5MWになります。
ちなみに実際もっと多いと思われますが、フェルミ推定的な話なのでとりあえずこう仮定します（って書かないと某現状利用者が3億人いる闇サイトとかでは「私にはフェルミ推定も仮定の話も理解できません」という素敵な自己申告引用リポストが飛んできそうなので、ここは闇サイトではないですが一応書いておきます）。
で、今度は船側がその電力を供給できるのか、という話。
これは以下の論文（のFig.2）を見ると、1隻あたり最大6.6MWの電力を供給できるものがあると書いてあります。
https://www.jstage.jst.go.jp/article/jime/55/1/55_120/_pdf
まあ、この数字だと結構ギリギリだと思いますが、これを見る限りだと公海上でも現実的に電力が賄えそうです。
発電機の燃料はまあタンカーとか用意すればどうにかなるんじゃないでしょうか？
結論：できそう
というわけで、結論ですが、わりと物理的にはできるっぽいです。
少なくとも、1番ネックであろう電力についてはどうにかなるだろうという感じです。お金は投資してくれる人がいて頑張ればどうにかなるんじゃないでしょうか？しらんけど。
なお、ここでは、実際にできそうか、というテーマだったので現状存在する船のデータで考えましたが、発電機の数に全振りするとかすれば、実際にはもっと多くの電力を賄えるかもしれないです。
なんかこういう話もっと聞きたいって人は、ぜひYouTubeにチャンネル登録していただけると嬉しいです！
余談
こういう方向性について、ちょっと過激な？意見です。見たい人だけ～
ここから先は
この記事が気に入ったらサポートをしてみませんか？