液冷サーバーと液浸サーバー、デル・テクノロジーズが検証施設を初公開
デル・テクノロジーズが、メディア向け説明会において、CPUなど筐体内部のパーツを液体で冷却する液冷サーバーの実機を紹介したほか、東京・大手町の本社内にある「液浸冷却・水冷ラボ」で液浸サーバーおよび液冷サーバーを稼働させている様子を公開した。 【もっと写真を見る】
デル・テクノロジーズは2024年6月18日、メディア向け説明会において、CPUなど筐体内部のパーツを液体で冷却する液冷サーバーの実機を紹介したほか、東京・大手町の本社内にある「液浸冷却・水冷ラボ」で液浸サーバーおよび液冷サーバーを稼働させている様子を公開した。 なお液浸冷却・水冷ラボは、最先端の冷却ソリューションの実証を行い、顧客に最新冷却技術の価値を体験してもらうこと、ソリューション提案をすることを目的とした施設。メディア向けの公開は今回が初めてとなる。 空冷方式はGPUサーバーなどで限界、海外では液冷化が進む サーバーなどのデータセンター機器において、従来の空冷方式ではなく、液冷、液浸といった新しい冷却方式が必要とされている理由について、デル・テクノロジーズ DCWソリューション本部 シニア・ビジネス開発マネージャー AI Specialist / CTO Ambassadorの増月孝信氏は次のように説明する。 「最新のGPUでは、1基で消費電力が1000Wを超えるようなものが出てきており、従来の空冷方式では限界が生まれている。海外では液冷化が進んでおり、それに合わせた(データセンターの)ファシリティ設計も進んでいる。今後は国内でも同様の動きになるだろう。ただし、AI用途のサーバーでは液冷が活用されるが、既存の用途では空冷も残り、使い分けが行われる」(増月氏) 液冷サーバーとして実機展示された「PowerEdge C6620」は、2Uサイズの筐体に4ノードを内蔵する高密度マルチノードサーバーだ。第4世代インテルXeonスケーラブル・プロセッサー(Xeon-SP)を搭載しており、一般的な42Uラックに収容した場合の最大コア数は8960。HPCやWebファーム用途に最適なモデルと位置付けられている。 標準仕様のC6620は空冷方式だが、オプションの液冷方式を選択することで、工場出荷時に液冷技術が組み込まれる。 液冷方式の場合、CPU上にはヒートシンクの代わりに「コールドプレート」と呼ばれるジャケットが据え付けられ、サーバー外部の「CDU(Cooling Distribution Unit)」から供給される冷却液が、CPUに接する銅製プレートの熱を吸収する。熱くなった冷却液はCDUに戻り、再び冷却されてサーバーとの間を循環する仕組みだ。 CDUからは毎分1リットルの冷却液が供給され、約20℃でコールドプレートに入ったものが約40℃まで熱せられてCDUに戻る。なおCDUには別途、屋外に設置されるチラーから冷却水が供給されており、サーバーの排熱を運んできた冷却液を非接触で冷やし、熱せられた水はチラーへと循環して、再び冷却される(つまり「サーバー~CDU」「CDU~チラー」という2系統のループがある)。 サーバー内部を冷却する冷却液は、原則としてコールドプレート内を流れるだけであり、サーバーコンポーネントとは直接触れないため、サーバーの材質は従来のものがそのまま利用できる。また、万が一この冷却液が漏れたとしても、誘電性液体を使っているため電子回路がショートすることはないという。 デル・テクノロジーズ データセンターソリューションズ事業統括システム周辺機器部シニアプロダクトマネージャーの水口浩之氏によると、コールドプレート上の水路は「細かくすればするほど、熱交換効率が高まる(熱を吸収する能力が高まる)」ため、髪の毛程度の細さの水路が無数に走っているという。「そこに、デルならではの技術が活用されている」(水口氏)。また、冷却液は自動車のラジエーター冷却水に似た成分であり、価格的にも入手しやすいと説明した。 「液冷方式にすることで、より少ないエネルギーでより多くの熱交換(サーバー排熱の回収)ができる。高性能サーバーの場合は500W以上の放熱があり、これを冷やすには液冷を活用する必要がある」(水口氏) タンクを満たすオイルにサーバーを沈める液浸方式のメリットは 上述した液冷サーバーでは、冷却液がサーバーコンポーネントに直接触れることはない。しかし、サーバーの発熱量がよりいっそう大きくなると、そうした間接的な冷却方式では間に合わなくなる。そこでデル・テクノロジーズでは、冷却する液体がサーバーコンポーネントに直接触れる液浸方式の実証も進めている。 液浸冷却・水冷ラボでは、液浸サーバーとして「PowerEdge R650」が2台稼働している。液浸サーバー用タンクに専用オイル(ドラム缶1本分)を満たし、ここにサーバーを沈めて液浸冷却を行う。 CDUから供給される冷たいオイルはタンクの下方から流し込まれ、サーバーの排熱で温められたオイルは上方からCDUへと循環する。その後、チラーからCDUに供給される冷却水でオイルを冷やす点は、前述した液冷サーバーの仕組みと同じだ。なお小規模な実証環境のため、ここでは屋内設置型の小型チラーを使用している。 通常は空冷サーバーとして販売されているPowerEdge R650を液浸サーバー化するためには、空冷ファンなどの部品を取り外すカスタマイズが必要となる。ただしデル・テクノロジーズでは、パートナーとのコラボレーションにより液浸環境での冷却性能を検証しており、液浸環境下でもサーバーの動作保証サービスを提供している。 液浸サーバーは空冷サーバーのようなファンの音がせず、小売店やオフィス、倉庫といった場所にも設置することが可能だ。また特別な空調が必要なく、室内温度が40℃でも稼働するので、データセンター全体の低消費電力化が図れるという。 外部チラー不要、ラック1台で完結する液冷サーバーもテスト中 液浸冷却・水冷ラボにも、「PowerEdge R760」をベースとした液冷サーバーが設置されている。ただしここでは、屋外チラーなどのデータセンター設備とは接続せず、CDUも含めて1台のラック内で完結する仕組みを構築、検証している。 屋外チラーなどの一次冷却システムと接続する場合、CDUに約10℃の冷却水が供給されるため、最大で100kWの冷却ができる。一方で、このラック内完結型のシステムでは、冷却能力は1台のCDUあたり20kWにとどまる。それでも、一次冷却システムの設置が難しいコンテナデータセンター、既設ビルを流用したデータセンターなどでの利用が考えられるという。また35℃の室内環境でも動作するため、室内空調は不要だと説明した。 なおデータセンターへの設置にあたっては、ラックあたりの重量も制約事項となる。空冷サーバーの場合、42Uラックで1平方メートルあたりおよそ1~1.5トンだが、ラボで稼働している液浸サーバー、液冷サーバーとも、ほぼ同等の重量で済むという。 文● 大河原克行 編集● 大塚/TECH.ASCII.jp