Google Cloud、AIハイパーコンピューターアーキテクチャを大幅強化、独自に開発したAI向けアクセラレータ Cloud TPU v5p の提供開始

Google Cloud は、AI ハイパーコンピューター アーキテクチャの全面的な強化を発表しました。Googleが独自に開発したAI向けアクセラレータTensor Processing Unit(TPU) 、Cloud TPU v5pの提供を開始しました。この強化により、開発者は、より迅速かつ効率的に、より高性能でコスト効率の高い AI ワークロードを構築、展開、実行できるようになります。

【主な強化点】

・パフォーマンスが最適化されたハードウェア:

■Cloud TPU v5p の一般提供開始：従来の TPU の 2 倍以上の性能
・NVIDIA H100 GPU 搭載 A3 Mega VM の一般提供開始：2 倍の GPU 間ネットワーク帯域幅
・NVIDIA Blackwell GPU の導入：リアルタイム LLM 推論と大規模なトレーニング向け

■AI ワークロード向けに最適化されたストレージ
・Cloud Storage FUSE の一般提供開始：2.9 倍のトレーニング スループット
・Parallelstore のキャッシュ機能のプレビュー提供開始：最大 3.9 倍のトレーニング時間の短縮
・Hyperdisk ML のプレビュー提供開始：モデル読み込み時間を最大 12 倍高速化

■オープンソフトウェアの進歩
・JAX と PyTorch/XLA のパフォーマンス向上
・新しい LLM 推論エンジン Jetstream の導入：1 米ドルあたり最大 3 倍のパフォーマンス
・NVIDIA とのオープン コミュニティ モデルのコラボレーション

■新しい Dynamic Workload Scheduler モード
・フレックス スタート モード：経済性を最適化
・カレンダー モード：ジョブの開始時間と期間を予測可能

■Google Distributed Cloud で、場所を選ばない AI を実現
・Gemma 搭載の生成 AI 検索パッケージ ソリューション
・パートナー ソリューションが拡張されたエコシステム
・新しいコンプライアンス認定

詳細内容は、Googleが提供する元記事を参照してください。

【引用元】

What’s new with Google Cloud’s AI Hypercomputer architecture | Google Cloud 公式ブログ

【読み上げ】
VOICEVOX 四国めたん/No.7