和碩、仁寶參展SC24 發表伺服器及冷卻解決方案

代工廠和碩今天宣布參加2024年美國超級運算大會Supercomputing（簡稱SC24），展出適合即時大型語言模型（LLM）運算與先進散熱基礎設施的解決方案，並發表採用多節點高密度運算效能設計的直接液冷（DLC）伺服器產品。仁寶宣布展出多款伺服器與冷卻解決方案。

和碩發布新聞稿表示，呼應今年SC24展覽主題「創造高效運算」，展出一系列與合作廠商超微（AMD）、英特爾（Intel）及輝達（NVIDIA）合作設計，支援高效運算的伺服器與機架級方案。

和碩此次展出產品包括支援大規模生成式人工智慧運算的機架，運算節點採用NVIDIA GB200 NVL72高密度機架級繪圖處理器（GPU）解決方案，提供30倍的即時大型語言模型推論速度，並減少25倍的能源消耗。

另外，隨著資料中心持續追求提高運算密度與增加運算效能的方案，和碩結合直達晶片（direct-to-chip）冷卻散熱解決方案，並搭載最新AMD EPYCTM 9005系列處理器，打造多節點高密度、符合第3代開放機櫃（ORv3）規範的開放運算計畫（OCP）伺服器。

在伺服器領域起步較晚的仁寶日前宣布，將在SC24展示多款伺服器解決方案，可滿足不同人工智慧（AI）訓練與大規模數據處理需求。

仁寶也將展示針對多樣化運算需求所設計的冷卻解決方案，包括氣冷、直接液冷及浸沒式液冷，以符合不同行業對散熱效率與計算性能的需求。

電競大廠微星宣布將於SC24展示NVIDIA MGX AI伺服器以及Intel Xeon 6 DC-MHS伺服器產品線，可滿足AI、高效能運算和數據密集型應用需求。