パソコンもらった
ある日、「パソコンが欲しい」と呟いた。
「何を言ってるんだきみは」と思うかもしれない。
確かに、ざっと見回しだけで部屋にはパソコンがいっぱいある。
しかもほとんど全てにNVIDIAのGPUが載っている。一番素朴なもので、1080Ti(12GB VRAM)が5台くらい、一番や大きいやつで4UのA6000(48GB VRAM)というのもあるのだが、にもかかわらず、パソコンが足りねえなあと思ったのである。KVMスイッチも4系統のが二つある。最大7台をKVM経由で使える。それ以外にドスパラのゲーミングノート(3080)とMacBookPro(M2MAX)とビデオキャプチャ経由で繋がってるM1 Mac miniなどがある。
まあ1080Tiはそろそろお役御免ということでいいのではないか。
しかしパソコンを作るとなるとまたドスパラに行ってパーツ構成を店員さんに考えてもらって組み上げるというわけだ。それはそれでとても楽しいのだが、最近インバウンドで秋葉原は平日も激混みだ。
どうしようかなと思っていると、カズことLISPハッカーの橋本和幸が「余ったPCあげる」というのでもらった。カズが会社で使ってたマシンなら、それほどボロくもないだろう。なんせカズはハッカーだ。ハッカーはボロいマシンなんか人にあげないのである。
スペックを確認すると、Windows10だが、GPUは2080super(8GB)だった。悪くない。悪くないがすごくいいわけでもない。GPUだけは換装しないと俺の仕事には使えないなと思って、秋葉原をパトロールしにいった。
ちょっと前までは3090の中古がゴロゴロしていたのだ。
そしてドスパラの5F、つまり中古品フロアで3080tiの12GB版をいくつか見た。安い。安いのだが、「果たして俺はこれを買っていいのか」と立ち止まった。
もしかしたら、今こうしている間にも、夏休み中にバイトに汗を流して、夏休みが終わったらドスパラで中古GPUを買って、AI開発に精を出そうとしている若者がいるかもしれない。おれが「ちょっと安いやつでいいや」という軽い気持ちでこのGPUを買ってしまったら、そんな一縷の思いを託して炎天下の中UberEats配達をしている仲間の夢を奪うことになってしまうかもしれない。
幸いにして、僕は今、ギリギリ、食べるのに困っているわけではない。多くの皆様に支えられてなんとか口に糊する状態ではあるが、一日一食に減らして、毎日ネギだけが具のスープを飲んだりするほど困窮しているというわけでもない。去年の今頃はそうだったが。でももしかして、今、日本のどこかには、そんな状態で我慢しながら「VRAM多めのGPUが欲しい」と涙している少年少女がいるかもしれない。
そしたら僕がそれに手をつけてしまったら、未来を担うAI少年少女があまりにも不憫ではないか。
そういうわけで、やはりドスパラの新品コーナーに行って、4090の在庫が払底しそうだったので慌ててネットでドスパラに注文した。ドスパラ会員として。4090とか手で運びたくないじゃん。壊れたら大変だし。
4090ならいくら在庫が払底しても全く良心が痛まない。初心者に4090は贅沢。どうしても12GBより多くのVRAMが欲しいなら大人しくGoogle Colabにお金を払いなさいという。
かくして、自室に1080、2070、3060(16GB)、3090x2、TITAN RTX、4090、A6000x2というVolta世代以降のGPUがあらかた揃ってしまった。あとはもうA100(80GB)を買えば完成する(何が?)のだが、A100(80GB)は高価な上に在庫がない。
自動車買えるぜ。新車で。
むかし、東大の先生かなんかで個人宅にクレイのスーパーコンピュータを何台も買ってる人がいて「どういう人間なんだ」と思っていたのだが、なんだか近い方向性に来てしまった。クレイのやつよりずっと小さいけど。
しかし欲しい。A100。誰かくれないかな。くれないと思うが。
すでにさくらインターネットさんに相当量のGPU資源を借りているからA100が欲しいというのが贅沢なのはわかっている。しかしABCIのA100も40GBしかないし、80GBのVRAMがないと何も始まんないんだよということをみんなわかってくれない。ABCIは直ちにぜんぜん納品されないH100とか諦めてA100の80GBを100ノードくらいでいいから入れて欲しい。A100(80GB)がないというだけで日本の競争力落ちるぜマジで。
そういや、何年か前にABCIが無駄って言ってる人がいたなあ
何がしたいのか理解できなかったんですね。そろそろご理解いただけたでしょうか。
結局、大規模言語モデルも拡散モデルもデータパラレルで学習するので、最大容量のVRAM(80GB)がないと動くかもしれないものも動かないということになってしまうのだ。48GBでも推論だけならCPUオフロードで動くけどさ。
岸田首相は日本のAI競争力を真面目に高めるつもりがあるんだったらABCIにもっと予算を集中すべきだ。仕事しろデジタル庁(関係ない)
さすがに二冊の初版印税あわせてもA100(80GB)は買えないんだよな。車買ったつもりでローン組むか・・・