急増する需要がコンピューティングパワー革命を引き起こし、液体冷却が業界の成長を強力に推進します。

 

2023年以来、OpenAIのAIチャットボットモデルであるChatGPTは、幅広い評価を受けています。大量のトレーニングデータを使用して人間の言語動作をシミュレートし、意味分析を通じてテキストを生成することで、人間とのやり取りと区別がつかないほど自然でリアルな方法でユーザーとやり取りすることができます。

 

詩の創作や脚本執筆など、多くの分野では人間の能力を超えています。しかし、人工知能の開発には非常に強力なコンピューティング能力が必要であり、サーバーの消費電力の増加、データセンターのユニットあたりの電力密度の増加、エネルギー消費の増加につながります。従来の空冷技術では冷却のニーズを満たすことができなくなり、液体冷却が必需品となり、間違いなく業界の成長を牽引するでしょう。

 

▲OpenAIのAIチャットボットモデル「ChatGPT」

 

 

Ⅰ ChatGPT の爆発的な成功: どのような計算能力が必要なのか?

 

データ、アルゴリズム、コンピューティングパワーは人工知能の3つの中核要素であり、コンピューティングパワーはAIの「エンジン」または「モーター」と呼ばれています。データとアルゴリズムはどちらもコンピューティングパワーに依存しています。OpenAIの推定によると、2012年以降、世界トップクラスのAIモデルのトレーニングに必要なコンピューティングパワーは約3-4か月ごとに2倍になっており、トップクラスのトレーニングモデルに必要なコンピューティングパワーの年間増加は10倍にも達しています。トレーニングフェーズ中、ChatGPTは合計約3640 PF日を消費しました（つまり、1ペタフロップス/秒の効率で3640日間実行したことになります）。これは、強力なコンピューティングパワーが、将来AI生成コンテンツ（AIGC）のさらなる応用と普及をサポートする鍵となることを示しています。

 

ChatGPTを例に挙げてみましょう。これはGPT-3.5モデルによってサポートされており、3回の反復（GPT-1、GPT-2、GPT-3）を経て、パラメータの数は1億1,700万から1,750億に増加し、事前トレーニングデータの量は5GBから45TB（英語版Wikipedia全体の160倍に相当）に増加しています。この膨大な量のデータと計算を処理するには、より高い計算能力が必要です。Similarwebのデータによると、2023年1月、ChatGPTには約1,300万人の毎日のアクティブユーザーがおり、それぞれが平均約1,000語の質問をしていました。

 

これにより、合計で約 130 億ワード (173.3 億トークン) が生成されました。タスクが 24 時間にわたって均等に分散されると仮定すると、必要な A100 GPU の数は 173.3 億 * 2 * 3000 億 / (20% * 24 時間 * 3600 秒)=601.75 ペタフロップス/秒になります。トラフィックのピークが存在することを考慮すると、ピーク トラフィックが 1 日の平均の 5 倍であると仮定すると、現在のトラフィック需要を満たすには合計 602 台の DGX A100 サーバーが必要となり、コンピューティング能力の要件が極めて厳しくなります。

 

これは、より優れた AI モデルをトレーニングし、さまざまな業界に AI モデルを実際に適用するには、より効率的なコンピューティング パワーとより豊富なコンピューティング リソースが必要であることを示しています。コンピューティング パワーは AI の産業化を制限する重要な要素となっており、新たなコンピューティング パワー革命を引き起こすことは間違いありません。AI コンピューティング パワーの需要が急速に増加するにつれて、関連する CPU/GPU のパワーも加速しており、機器をスムーズに稼働させるには、より強力で効果的な冷却ソリューションが必要になります。

 

 

Ⅱ コンピューティングパワーの広範な応用

 

デジタル経済時代において、コンピューティングパワーは重要な生産性要因であるだけでなく、普遍的に適用される要因にもなりつつあります。コンピューティングパワーインフラの構築が進むにつれて、コンピューティングパワーの応用の新しいモデルとビジネス形態が急速に出現し、コンピューティングパワーは製造、運輸、教育、航空宇宙、金融、メディアなど、より多くの業界に深く統合されています。同時に、コンピューティングパワーのスケジュール、管理、取引は、業界の探求の焦点になりつつあります。コンピューティングパワーは「リソース」から「要素」へと進化し、人々の生産と生活に不可欠な部分になりつつあります。

 

さまざまな産業の発展により、コンピューティング パワーの需要が爆発的に増加しています。プロセッサのパフォーマンスを最大限に高めるには、より高い冷却効率が必要であり、従来の空冷技術では、急増するコンピューティング パワーの需要を満たすことができなくなります。利点のある液冷サーバーは、大きな市場シェアを獲得し、産業の発展を強力に推進するでしょう。

 

 

Ⅲ 液体冷却需要の大幅な増加

 

2022年、Intelの第4世代サーバープロセッサでは、CPU単体の消費電力が350ワットを超え、NVIDIAのGPUチップ単体の消費電力は700ワットを超えました。AIクラスターのコンピューティング電力密度は一般的に1筐体あたり50kWに達し、従来の空冷技術では対応できなくなりました。プロセッサの性能を最大限に引き出すには、より高い冷却効率が必要です。

 

一方、政策面では、中​​国の「東のデータ、西のコンピューティング」プロジェクトの開始と二重の炭素目標により、業界は省エネ、排出削減、高品質の開発にさらに注意を払うようになりました。データセンターの電力使用効率（PUE）に対してより厳しい技術要件が設定され、全​​国で新しく建設される大規模および超大規模データセンターの平均PUEは1.3未満に削減され、さらに全国ハブノードでは1.25未満に削減されます。

 

液体冷却は、経済効率や冷却性能など、多くの面で市場の費用対効果と政策ガイダンスのニーズを満たしており、非常に価値があり、経済的にも有益です。CCIDコンサルティングによると、中国の液体冷却IDC市場は2025年までに1200億元を超えると予想されており、成長率は30％を超え、普及率は現在約20％です。液体冷却の需要は大幅に増加しており、市場の見通しは有望です。

 

 

Ⅳ 液体冷却サーバー産業チェーン

 

1. 液体冷却業界の全景

液体冷却サーバー業界は、液体冷却サーバーだけにとどまりません。業界チェーン全体が長く、幅広いサブフィールドと多くの参加企業を抱えており、資本集約型の業界となっています。液体冷却技術は現在、急速な発展段階にあり、関連企業が資金調達や顧客獲得で優位に立てば、一定の参入障壁を築くことができる。

 

各サブ分野の企業は、自社の中核的な優位性に基づいて徐々に関連分野に浸透し、独自のエコシステムを構築しています。インフラストラクチャからアプリケーションへの区分に応じて、液冷データセンター業界は、液冷インフラストラクチャ、ミッドストリーム産業、および産業アプリケーションの3つの主要なサブフィールドに分けられます。

 

液冷インフラ部門は、液冷式データセンターの構築に不可欠な機器や設備を提供する部門で、液冷キャビネット、冷却剤、冷却システム、電力システム、ネットワークシステム、データセンターインフラ管理システムなどのサブ分野に分かれています。これらのサブ分野は、主にサーバー運用のための機器、ソフトウェアシステム、冷媒を供給しています。また、インフラ部門には、建設請負業者、ネットワークオペレータ、電力供給業者が含まれます。建設請負業者は、前述の機器や設備の構築と設置を担当し、ネットワークオペレータは基本的なネットワークアクセスを提供し、電力供給業者は機器の運用に必要な電力を供給します。これらの分野は、データセンターの比較的基本的な周辺環境を提供します。

 

ミッドストリーム業界には、サーバーメーカー、データセンターホスティングプロバイダー、および新規参入企業が含まれます。サーバーメーカーは、液体冷却環境に適したサーバーの研究、設計、製造を行うか、コールドプレート液体冷却サーバーを直接製造します。データセンターホスティングプロバイダーは、データセンターを構築および運用し、独自の利点を活用してインフラストラクチャセクターのリソースを統合し、アプリケーションユーザーにサーバーホスティングサービスを提供します。データセンターが急速に発展するにつれて、新しい企業が液体冷却データセンター分野に参入しています。

 

データセンター アプリケーションのユーザーは、主にクラウド コンピューティングとクラウド コンピューティング パワー、インターネットとブロックチェーン、その他のユーザーの 3 つのサブフィールドに分かれています。これらはデータセンターの主なユーザーです。クラウド コンピューティングとクラウド コンピューティング パワーのプロバイダーは、仮想化を通じて顧客に柔軟なコンピューティング パワーの割り当てとスケジュールを提供することで収益を生み出します。一部の大手インターネットおよびブロックチェーン企業は、データセンター オペレーターと直接協力してデータセンターを構築することがよくありますが、他のユーザーは通常、データセンター オペレーターからサーバーまたはコンピューティング パワー リソースを直接ホストするか、リースします。

 

2. 液体冷却業界の概要

空冷と比較して、液体冷却技術は高い安定性と高い冷却効率という利点があります。総合的なアプリケーションの観点から見ると、電力密度がキャビネットあたり15kWを超えると、液体冷却は徐々に経済的利点を発揮します。UPS アプリケーションジャーナルによると、液冷サーバーの CPU コア温度は空冷システムの最大温度よりも 20-30 度低くなるため、信頼性が大幅に向上します。

 

インテルのホワイトペーパー、グリーン データ センター イノベーション プラクティス - コールド プレート液体冷却システム設計リファレンスは、空冷式データセンターでは通常、最大 12kW の電力レベルのキャビネットの冷却を管理できることを示しています。15kW を超えるキャビネットの場合、既存の空冷式データセンターは空気対流冷却能力の限界に達しています。より強力な冷却能力を提供する液体冷却技術は、より高い電力密度をサポートできます。

 

空冷ソリューションと比較すると、AIGC と「Eastern Data, Western Computing」イニシアチブによって推進されている液体冷却への傾向は、データ センター温度制御市場の量と価格の両方の上昇を必然的に招きます。液体冷却サーバー業界は、コールド プレート、浸漬、スプレー冷却の 3 つの技術ルートを採用しています。コールド プレート液体冷却では、冷却剤がサーバーの発熱コンポーネントに直接接触しない冷却方法が採用されています。

 

▲ コールドプレート冷却

 

▲ スプレー液冷システム

 

▲ 単相液浸冷却

 

▲ 二相冷却

 

代わりに、主な発熱部品はコールド プレートに取り付けられ、冷却剤はコールド プレートの内部液体冷却システム内を循環して熱を除去します。熱交換能力を高めるには、熱交換面積を最大化する必要があり、コールド プレートをサーバーの発熱部品の表面にできるだけ近づけて取り付ける必要があります。この方法では、不規則な形状の発熱部品を冷却するのは困難です。コールド プレート冷却に適したのは、比較的規則的な形状のチップのみです。

 

これは、コールド プレート液体冷却ソリューションにとって重大な問題となります。ストレージ、メモリ、電源などの他のコンポーネントによって生成されるサーバーの熱の約 30% は、依然として従来の空冷を必要とします。このため、コールド プレート液体冷却ソリューションでは 2 つの冷却システムを同時に使用する必要があり、コストと実際のシステム PUE の両方が増加します。現在のコールド プレート ソリューションは比較的成熟しており、堅固な商業基盤を備えており、すでに数多くの商業用途で使用されています。

 

▲ コールドプレート液体冷却ソリューション

 

液浸冷却とは、サーバー機器を冷却剤に完全に浸漬し、冷却剤と発熱部品を直接接触させることで冷却を実現する方法です。この方法では、サーバーの発熱部品が冷却剤に完全に浸漬されるため、冷却剤と十分に接触し、発生した熱を継続的に運び去り、サーバーを冷却します。液浸冷却は冷却効率が高く、キャビネットあたりの電力密度を3倍以上に高める可能性があります。2025年までに市場の40％以上を占めると予想されており、完全液浸液冷サーバーは将来の技術トレンドになる可能性があります。

 

▲ 液浸液冷却

 

スプレー冷却液体冷却システムは、サーバーの発熱部品に冷却剤を正確に噴霧するように設計された直接接触液体冷却技術です。冷却剤は、重力またはシステム圧力によって、発熱デバイスまたはそれらに接続された固体熱伝導性材料に直接塗布されます。このプロセスにより、熱交換によってサーバーを冷却できます。熱交換中、サーバー内の冷却剤レベルは、発熱部品またはそれらに接続された固体熱伝導性材料より下に保たれます。このシステムでは、外部の熱交換ユニットを使用して冷却剤を冷却およびリサイクルします。

 

 

3. 液体冷却市場の状況

高度な技術である液体冷却は、高い技術的障壁を伴う複数の分野にまたがっています。

現在、国内外のデータセンターインフラメーカーの間で液体冷却技術の採用は比較的少なく、この技術を習得している企業はごくわずかです。

 

しかし、国内外の多くの企業が顧客にカスタマイズされた液体冷却ソリューションを提供し始めており、一部のテクノロジー企業は徐々に独自の液体冷却データセンターを構築して導入し始めています。それにもかかわらず、データセンターインフラストラクチャメーカーの間で液体冷却技術の採用率は依然として低く、市場では依然として支配的なリーダーが現れておらず、競争環境は依然として不透明です。

 

中国市場では、数社の企業が長年の技術蓄積と経験を通じて、大きな技術的優位性と市場優位性を発揮しており、将来的には大手企業が市場を独占し、大手企業が大きな市場シェアを占める競争環境が形成されると予想されています。

 

4. チップレベルの液体冷却

液体冷却装置とチップなどのコア熱源との距離を短縮することは重要なトレンドです。将来的には、冷却は部屋レベル、キャビネットレベル、サーバーレベルからチップレベルへと進化し、冷却コンポーネントとチップ表面との直接接触により、より優れたチップ冷却を実現すると予想されます。液体クーラーは、液体の流れとラジエーターの内面との摩擦により大量の熱を移動させることで熱を放散します。従来の空冷システムと比較して、液体冷却は冷却効率を大幅に向上させることができます。現在、液体冷却技術は主に間接型と直接型に分けられます。

 

最新の中国半期液体冷却サーバー市場（2022年後半）の追跡インターナショナル・データ・コーポレーション（IDC）が発表したレポートによると、中国の液体冷却サーバー市場は2022年に10億1,000万ドルに達し、前年比189.9％の成長を示しています。IDCは、2022年から2027年にかけて、中国の液体冷却サーバー市場の複合年間成長率は56.6％に達し、市場規模は2027年までに95億ドルに達すると予測しており、液体冷却業界の明るい未来を示しています。

 

 

▲ 2023年から2027年までの中国液冷サーバー市場の予測