2023年の半導体製造装置メーカーのトップ15社
エヌビディアの次期人工知能（AI）半導体「ブラックウェル」シリーズが設計上の不備により遅延する見込みです。この遅延は3カ月以上続く可能性があり、大
規模な出荷は2025年の第1四半期まで見込まれません
。エヌビディアは今週、マイクロソフトに対しこの遅延について通知しましたが、広報担当者は詳細なコメントを避けました。メタ、グーグル、マイクロソフトなどの主要顧客に影響が及ぶ恐れがあります
MetaのLlama 3モデルの学習中に発生した障害について詳しく説明します。
概要
Metaは、16,384個のNvidia H100 GPUを使用してLlama 3モデルの学習を行いました。この学習は54日間続き、その間に419回の予期せぬ障害が発生しました。これは平均して3時間に1回の頻度です。
障害の内訳
GPU関連の問題
GPUの障害: 予期せぬ中断の58.7%を占め、最大の原因でした。具体的には、NVLinkの障害を含む様々なGPUの故障が含まれます。
HBM3メモリの障害: 17.2%を占めました。Nvidia H100 GPUは高い電力を消費し、熱ストレスにさらされるため、これらの故障が発生しやすいです。
CPU関連の問題
CPUの障害: 54日間でわずか2回の障害が発生しました。
その他の問題
ソフトウェアバグ、ネットワークケーブル、ネットワークアダプタなど: 残りの41.3%の障害はこれらの要因によるものでした。
対策と結果
Metaのチームは、ジョブの起動時間とチェックポイント作成時間の短縮、独自の診断ツールの開発、PyTorchのNCCL Flight Recorderの活用など、複数の戦略を採用して障害を緩和しました。これにより、90%以上の実効トレーニング時間を維持することに成功しました。
このような大規模なAIトレーニングでは、ハードウェアの信頼性と効率的な障害対策が非常に重要です。Metaの経験は、今後のAIトレーニングにおける重要な教訓となるでしょう。
GPU障害を防ぐためにどのような対策が取られていますか？
GPU障害を防ぐためには、いくつかの対策が取られています。以下に主な対策を紹介します：
1. 冷却と温度管理
適切な冷却システム: 高性能な冷却システムを使用して、GPUの温度を低く保つことが重要です。これには、空冷や水冷システムが含まれます。
定期的な清掃: GPUのファンやヒートシンクに溜まったホコリを定期的に清掃することで、冷却効率を維持します。
2. 電力管理
安定した電源供給: 高品質な電源ユニット（PSU）を使用して、安定した電力供給を確保します。電力の不安定さはGPUの故障の原因となることがあります。
過電圧保護: 過電圧や電力サージからGPUを保護するための機能を備えた電源ユニットを使用します。
3. ソフトウェアの最適化
最新のドライバ: GPUドライバを最新のバージョンに更新することで、パフォーマンスの向上とバグ修正が行われます。
診断ツールの使用: GPUの健康状態を監視するための診断ツールを使用し、異常が検出された場合に早期に対処します。
4. 物理的な対策
適切な取り付け: GPUを正しく取り付け、PCIeスロットにしっかりと固定します。緩んだ接続は障害の原因となります。
振動の最小化: 振動を最小限に抑えるために、ケース内のケーブルを整理し、GPUをしっかりと固定します。
5. 環境管理
適切な環境温度: コンピュータが設置されている部屋の温度を適切に保つことも重要です。高温環境はGPUの寿命を縮める可能性があります。
これらの対策を講じることで、GPUの障害を防ぎ、長寿命化を図ることができます
2023年の半導体製造装置メーカーのトップ15社
ASML: 約29.27億ドルでトップ。
Applied Materials: 約22億ドル。
Lam Research: 約14.31億ドル。
東京エレクトロン: 約12.45億ドル。
KLA: 約9.19億ドル。
アドバンテスト: 約2.89億ドル
ASMI: 約2.84億ドル
SCREENセミコンダクターソリューションズ: 約2.76億ドル
Teradyne: 約1.81億ドル
NAURA: 約1.81億ドル
SEMES: 約1.75億ドル
日立ハイテク: 約1.64億ドル
DISCO: 約1.60億ドル
Kokusai Electric: 約1.36億ドル
レーザーテック: 約1.27億ドル
ASML: 市場シェアのトップを維持し、前年比でプラス成長を達成しました1。
Applied Materials: 14.31億ドルの売上で2位にランクインし、堅調な成長を見せています。
Lam Research: 9.19億ドルの売上で3位に位置し、安定したパフォーマンスを維持しています。
セクター別の動向
ウェーハファブ装置: 2023年の販売額は906億ドルと予測され、前年から3.7%減少しましたが、2024年には成長を回復する見込みです。
テスト装置: 2023年の販売額は前年比15.9%減の63億ドルとなる見込みですが、2024年には13.9%の増加が予測されています。
将来の見通し
2024年以降の成長: 2024年には市場が回復し、2025年には新記録となる1240億ドルに到達することが予測されています。特にメモリ生産能力の拡大や新規ファブ建設が成長を牽引するでしょう。