水冷 AI サーバーがボトルネックに直面
Sep 30, 2024
ご伝言
Blackwell チップの出荷量の増加に伴い、顧客の液冷採用意欲も高まるでしょう。
業界関係者は、液冷ソリューション用のユニバーサルクイックディスコネクトデバイス(UQD)の供給が逼迫しており、これがAIサーバー液冷の成長にとって大きなボトルネックになる可能性があると報告している。
サーバー ODM メーカーは、B100 および B200 を含む Nvidia の Blackwell AI チップが今年出荷を開始する一方、GB200 ソリューションが量産に入るのは 2024 年末か 2025 年末になると示唆しています。B100 および B200 のほとんどの顧客は依然として空冷設計を使用しています。しかし、ODMメーカーは液体冷却の普及率が引き続き増加していると報告しており、Blackwellチップの出荷量の増加に伴い顧客の液体冷却採用意欲も高まると予想している。

▲水冷AIサーバー
I 液冷需要の高まりに対応するための生産能力の拡大
関連企業は液冷の新時代を迎えて生産を拡大している。サーマルモジュールメーカーの Amlogic は、水冷プレートの月産生産能力を 30,000 ユニットから 300,000 ユニットに増やす計画です。
オーラスは、顧客の地政学的な懸念と要求に応えるため、タイに新しい工場を設立しました。この工場は第 3 四半期に量産を開始する予定です。オーラスは、冷却プレートの現地生産能力を拡大することに加えて、冷却分配ユニット(CDU)と冷却液分配マニホールド(CDM)を現地で生産することも計画しており、予定されている月間生産能力は約 2,000-3,{{2 }} セット。
サーマルモジュールメーカーの AVC は、最近の決算発表で、中国とベトナムにおける同社の冷却プレートモジュールの月産能力は約 115,000 ユニットであり、これは月産生産量に換算すると約 420,000 ユニットであると述べています。冷却プレートによって計算されます。
AVC は年末までに生産能力を 50% 拡大する予定です。 AVCはまた、CDUの月間生産能力を1,000ユニットに、CDMの月間生産能力を30,000セットに増やす計画です。 AVC は、この計画された生産能力は顧客の注文需要に基づいて柔軟に調整できることを強調しました。
Thermo Technology Company Goli Thermal Processing は、液体冷却に対する顧客の需要の増加に伴い、台湾の中壢工場の生産能力を拡大しています。第 3 四半期の終わりまでに、CDM の月間生産能力は 1,{1}} ユニットから 2,000 ユニットに増加し、年末までに 4,{{5} ユニットに増加すると予想されます}ユニットであり、年間CDU生産も年末までに2,000ユニットに達すると予想されます。
これらのメーカーは、主に中国と EU の計算効率とデータセンターの PUE 基準により、液体冷却の需要に大きな期待を寄せていますが、最も重要な要因は、NVIDIA がチップ メーカーに課した熱仕様の自主規制を解除したことです。
II 液体冷却の急速な成長により UQD 不足が生じる
業界が液冷時代の到来を待ち望んでいる中、UQD が成長の最大のボトルネックとなっています。サーマルモジュールメーカーは、最近UQDの供給が逼迫していると指摘しています。現在の水冷の市場シェアは一桁にすぎませんが、将来二桁に上昇すると、UQDの入手が困難になる可能性があります。
UQDサプライヤーは主にヨーロッパとアメリカから来ており、アメリカの大手企業であるパーカー・ハニフィンやCPC、スイスのストウブリ・インターナショナル、デンマークのダンフォス、スウェーデンのセインなどがある。台湾のコネクタ部品大手ローテスも積極的に市場参入しており、サンプル納品を開始している。
Anbo Technologyの梁志堅会長は、液体冷却は主に漏れを避けることを目的としており、UQDは最も漏れやすい部品であるため、液体冷却部品の中でUQDの供給が最も制約されていると指摘した。これは技術的な問題だけではありません。関連メーカーも特許で保護されており、安保技術はこれらの特許の壁を突破する方法を研究しています。
業界関係者らは、UQDメーカーは特許で保護されているものの、OCP認証や顧客検証など複数の検証も受けなければならず、時間と労力がかかると指摘している。さらに、既存の欧米メーカーは生産能力を拡大するつもりがなく、これが液冷の急速な発展にとって大きなボトルネックとなるだろう。
Supermicro は、最も急速に成長している液体冷却メーカーの 1 つです。創業者兼最高経営責任者(CEO)のLiang Jianhou氏は、過去30年間で液体冷却がサーバー市場に占める割合はわずか1%だったが、その普及率は2025年までに30%に跳ね上がるだろうと予測していると指摘した。
III 潜在的な解決策としての液体冷却。 AI ブームが電力網を圧迫
生成人工知能の急速な発展により、データセンターは前例のないほど拡大しており、電力網への影響についての懸念が高まっています。これらのエネルギー集約型施設は、停電やエネルギーコストの増加につながる可能性があります。電力研究所の推計によると、2030 年までにデータセンターは米国の電力の 9% を消費する可能性があり、現在の数値の 2 倍になります。大規模なデータセンターの電力消費量は、数十万世帯の電力消費量に相当します。
人工知能からの電力需要の増大は特に懸念されます。初期の AI モデルは Google 検索の 10 倍のエネルギーを消費しましたが、新しいチップではさらに多くの電力が必要になります。専門家は、人工知能の将来の発展は、十分な電力を生成する人間の能力によって制限される可能性があると警告しています。
一部の国は深刻な課題に直面しています。たとえば、アイルランドは 2026 年までに電力の 30% をデータセンター専用にする可能性があります。米国では、データセンターの電力消費量は 15 の州に集中しており、テキサス州とバージニア州が最も多くなっています。カリフォルニア州は危機的な状況にあり、データセンターの新設により原子力発電所を超える電力需要が発生すると予想されている。
IV データセンター: 膨大なエネルギー消費と液体冷却の台頭
人工知能の計算需要によりサーバーの温度と炭素排出量が上昇し、その結果、冷却システムの需要が大幅に増加しています。冷却システムはデータセンターの総電力消費量の 40% を占めており、サーバー自体に次いで 2 番目に大きな電力消費源となっています。世界のサーバー冷却市場は、2024 年の 200 億ドルから 2027 年までに 900 億ドルに成長すると予測されています。データセンターの液体冷却システムの市場は 1% から 22% に増加し、市場価値は 3 億 1,700 万ドルから 2027 年までに成長すると予測されています。今後 3 年間で 78 億ドル。
水または冷却剤を使用してサーバーを冷却する液体冷却ソリューションの人気が高まっています。新しいテクノロジーには、浸漬冷却 (サーバー ラック全体を非導電性液体に浸す) および直接液体冷却 (サーバーの周囲に水を循環させる) が含まれます。現在、空冷システムよりも高価ですが、液体冷却はデータセンターの電力消費を 10% 以上削減できます。
調査会社 Global Market Insights は、データセンターの世界の液体冷却市場が 2022 年の 21 億ドルから 2032 年までに 122 億ドルに成長すると予測しています。 Uptime Institute の調査によると、データセンター管理者の 16% が液体冷却が主要な冷却になると考えていることがわかりました。この方法は 1-3 年かかりますが、41% は 4-6 年かかると考えています。したがって、ハイブリッド冷却方式が短期的に登場する可能性が高くなります。
データセンターの空冷システム管理のリーダーである Upsite Technologies は、技術は継続的に進歩しているものの、液冷装置は依然として熱放散のために空冷を必要とするため、短期的には 100% 液冷データセンターを達成する可能性は低いと述べました。 。液体冷却はより効率的ですが、大規模に実装するのは難しく、多額の先行投資が必要です。空冷はコストが低くなりますが、効率も低くなります。したがって、液体冷却と空冷の両方の利点を最大限に活用するために、ハイブリッド冷却設備の人気が高まっています。
V データセンターのエネルギー危機には緊急の行動が必要
環境への影響により、データセンターに対する監視はますます高まっています。世界中の政府は、エネルギー消費と二酸化炭素排出量を管理するための規制を導入しています。中国の「グリーン データ センター」ガイドラインや、ドイツ、シンガポール、日本の同様の取り組みは、この傾向を例示しています。シュナイダーエレクトリックなどの業界専門家は、データセンターの持続可能性を評価するための包括的な環境指標の必要性を強調しています。これには、水資源や廃棄物の発生など、エネルギー使用以外の要素も含まれます。
米国政府は大手ハイテク企業に対し、クリーンエネルギーへの投資と、人工知能による電力需要の増大が環境に与える重大な影響を認識するよう圧力をかけている。
VI 適切な電源の発見: データセンターとエネルギーの課題
データセンターは、増大する需要に応えながら、信頼性と持続可能性のバランスをとるために、多様なエネルギーの組み合わせを必要としています。太陽光や風力などの再生可能エネルギー源は、二酸化炭素排出量が低いため魅力的です。ただし、気象条件に依存して出力が不安定になる可能性があり、データセンターの唯一の電源としては適していません。この不一致を補うために冗長施設を構築することが必要になる場合がありますが、コストがかかります。
原子力が潜在的な解決策として浮上しています。従来の原子力発電所は、信頼性の高いベースロード電力を供給し、データセンターの運用に不可欠な安定した電力を生成します。さらに、世界の原子力市場は今後 10 年間にわたって安定した成長を遂げると予想されています。
原子力分野におけるイノベーションは、より有望な可能性をもたらします。小型モジュール型原子炉 (SMR) は、従来の原子力発電所に代わる、より小型で安全かつ拡張性の高い代替炉として開発されています。 SMR はまだ研究開発段階にありますが、データセンターに直接導入して専用のクリーン エネルギーを提供できる可能性があります。

▲ 世界の水冷市場(十億米ドル)
しかし、SMR の普及には大きな障害があります。規制や製造上の課題により、商業展開が数年遅れる可能性があります。米国政府は、コスト削減とプロセスの合理化を目的とした大手テクノロジー企業との提携など、解決策を積極的に模索している。
データセンターのエネルギー需要を削減するもう 1 つの方法は、人工知能のワークロードを最適化することです。一部の AI タスクをクラウドから、より小規模でリソース消費量の少ない AI モデルを備えたローカル デバイスに移行することで、全体的なエネルギー消費を削減できます。
今後のデータセンターの発展には多面的なアプローチが必要です。 SMR のような再生可能で革新的なソリューションを積極的に模索しながら、原子力のような信頼できるエネルギー源を含む多様なエネルギーミックスを採用することが不可欠です。さらに、ローカル デバイス上の AI ワークロードを最適化することで、データ センターの持続可能性をさらに促進できます。
