【生成AIニュース】史上最速のAI チップ登場

まいどです。

生成特化のチップが発表されました。
8台のSohuサーバー１台で160台のH100をリプレイスだそうです。
欲しいですねぇ。

XユーザーのEtchedさん: 「Meet Sohu, the fastest AI chip of all time. With over 500,000 tokens per second running Llama 70B, Sohu lets you build products that are impossible on GPUs. One 8xSohu server replaces 160 H100s. Sohu is the first specialized chip (ASIC) for transformer models. By specializing, https://t.co/IndYfP2CN0」 / X