Copilot+PCとは結局なんだったのか
正直いうと予約する寸前だった。
Surfaceの新しいやつ。良さそうじゃん。楽しそうだし。
じっくり考えたい
TOPS(テラオペレーションズ)とは何か?
ちなみにCopilot+PCで必要条件とされる「40TOPS以上」の性能(TOPS;テラオペレーションズ)とは、8ビット整数演算を一秒間に40兆回できることを言う。IntelのNPU搭載チップは48TOPSくらいで、AMDも45TOPSくらいだ。去年のNPUは軒並み10TOPSくらいだったからすごい進歩である。
なるほど各社頑張ってますな。という感じがするのだが、ここにNVIDIAのGPU、H100の同じ8ビット整数演算性能は3958TOPSになるので比較するとこうなる。
ちなみにINT8ではなくより効率的なFP4だと、H100の次世代期のB200は、9POPS(ペタオペレーションズ)になる。FP4でどこまでの性能が出るのかわからないが。
もちろん価格対性能比というのはある。
ただ、NVIDIAの場合、H100と4090のコアはそこまで性能差があるわけではないので、民生品になったところで性能が1/100とかになるわけではない。
実はチップの最高性能としては各社横並び
もちろんIntelもAMDも本気出したGPUではNVIDIAに迫る性能を出せている。
ただ、これらは大電力の消費を前提としているほか、そもそも価格が数百万円からスタートなのでこんなの持ち歩く人はいない。
僕も3060を搭載したドスパラのゲーミングノートを持っているが、持ち歩くにはあまりにもデカすぎる。仕事でなければ持ち歩けないサイズだ。
しかし普通の人が「AIに特化した新世代のPCが30万円」と聞いたら、NVIDIAのGPUを搭載したゲーミングノートくらいの性能を期待すると思われる。
しかし実際には、Copilot+PCではStableDiffusionすらそのままでは動かない(まあ当たり前なんだけど)し、いつかNPUで動くようになる保証もない。
Snapdragon X Eliteにしても、同じARM由来のアーキテクチャならApple M2 Ultraとかの方がメモリバンド幅がHBM3並(NVIDIAのGPU並)に速いので、こいつでギリギリローカルLLMを高速に動かせると言われてる。ただしM2 Ultraを搭載したMac Studioは70万円以上する。