インテル® Gaudi® 3 AI アクセラレーター、NVIDIA H100の推論パフォーマンスより50%向上
インテルは、AI Vision 2024カンファレンスで、エンタープライズAIの新たな地平を開くインテル® Gaudi® 3 AI アクセラレーターを発表しました。この革新的なアクセラレーターは、NVIDIA H100と比較して推論パフォーマンスを平均50%向上させ、電力効率も40%改善することが期待されています。
インテル® Gaudi® 3は、AIの学習処理と推論に特化し、数万のアクセラレーターを共通のイーサネット標準規格で接続することで、AIシステムの大幅な性能向上を実現します。前世代に比べ、AI演算処理が4倍、メモリー帯域幅が1.5倍に拡大し、生成AIのグローバル規模での展開を支援します。
インテルは、オープンなコミュニティベースのソフトウェアと業界標準のイーサネットネットワーキングに対応し、単一ノードから数千ノード構成のメガクラスターまで柔軟に拡張可能なソリューションを提供します。これにより、企業は推論、ファインチューニング、学習処理を最大規模で行うことができます。
さらに、Dell Technologies、HPE、Lenovo、SupermicroなどのOEM各社への提供開始を発表し、エンタープライズ向けAIデータセンター市場への展開を拡大しています。Bharti Airtel、Bosch、CtrlS、IBMなど多くの顧客企業やパートナー企業がインテル® Gaudi® アクセラレーターの採用を発表し、AIイニシアチブの拡大を支援しています。
インテルは、SAP、Red Hat、VMwareなどの業界リーダーと協力し、セキュアな生成AIシステムの導入を加速するオープンプラットフォームの共同開発を進めています。これにより、企業は生成AIを本番稼働へ移行する際の課題を克服し、AI対応の組織への移行を加速させることができます。
インテル® Gaudi® 3 AI アクセラレーターは、2024年第2四半期に量産品の提供開始が予定されており、AIの未来を切り開く重要な一歩となるでしょう。この取り組みにより、企業はAIの可能性を最大限に活かし、イノベーションを加速させることが期待されます。
詳細内容は、インテルが提供する元記事を参照してください。
【引用元】
【読み上げ】
VOICEVOX 四国めたん/No.7
この記事が気に入ったらサポートをしてみませんか？