戴爾科技宣布強化與 NVIDIA 合作 協助企業採用 AI 技術

戴爾科技集團強化與 NVIDIA 的合作，協助企業採用 AI 技術，透過擴大 Dell 新一代 AI 解決方案組合，包括全新的 Dell AI Factory with NVIDIA，企業可加速資料、AI 工具及內部部署基礎架構的整合，進而使其生成式 AI 投資達到最大效益。

【以下內容為廠商提供資料原文】

戴爾科技集團創辦人兼執行長 Michael Dell 表示：「企業客戶正在尋找應用 AI 解決方案的簡易方法，而這正是戴爾科技集團和 NVIDIA 目前提供的服務。透過我們的共同努力，企業可將資料與本身的使用案例無縫整合，並精簡客製化生成式 AI 模型開發。」

NVIDIA 公司創辦人兼執行長黃仁勳表示：「AI 工廠是以工業規模創造智慧的核心，NVIDIA 和 Dell 攜手協助企業創建 AI 工廠，將其專有數據轉化為強大洞察力。」

從高品質資料中獲得高品質結果

透過 Dell 與 NVIDIA 的密切合作，端對端 Dell 新一代 AI 解決方案組合的新增功能可協助客戶利用 AI 實現現代化，加速業務轉型並提高生產力：

• 
  Dell 與 NVIDIA 合作推出的 Dell AI Factory with NVIDIA 是業界首個端對端 AI 企業解決方案，此方案將 Dell 的運算、儲存、用戶端裝置、軟體及服務功能與 NVIDIA 先進的 AI 基礎架構與軟體套件整合，並透過高速網路架構鞏固基礎（※ 1）。Dell AI Factory 與 NVIDIA 作為完全整合的解決方案，充分利用機架級設計的優勢，透過嚴格的測試和驗證，提供無縫的解決方案，將數據轉化為有價值的見解和成果。該解決方案運用現有的企業資料安全產品及附帶的戴爾安全和隱私服務產品。Dell AI Factory with NVIDIA 可支援從模型建立及調整，到擴大與推理的各種 AI 使用案例及應用，支援完整生成式 AI 生命週期。客戶亦可利用企業級專業服務，加速 AI 工廠的策略、資料準備、實施和採用，從而提升 AI 能力。Dell AI Factory with NVIDIA 可透過傳統管道及 Dell APEX 取得。

• 
  戴爾科技集團將與 NVIDIA 合作，推出以 NVIDIA Grace Blackwell 超級晶片為基礎的機架式高密度液冷架構。這些系統將支援新一代生態系統，為提高企業 AI 工作負載的效能密度奠定基礎。Dell PowerEdge XE9680 伺服器將支援全新 NVIDIA GPU 型號，包括 NVIDIA B200 Tensor Core GPU，預計可提供高達 15 倍的 AI 推理效能及更低的整體擁有成本（※ 2）。Dell PowerEdge 伺服器也將支援其他基於 NVIDIA Blackwell 架構的 GPU 以及 H200 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 乙太網路平台。

• 
  搭載 NVIDIA 的 Dell 生成式 AI 解決方案 – 檢索增強生成（RAG）利用 NVIDIA AI Enterprise 中的新微服務來提供預先驗證的全端解決方案，透過 RAG 協助企業加速採用 AI。此解決方案可協助企業運用專有業務數據和知識庫，提升生成式 AI 模型品質，並提高結果準確性。

• 
  搭載 NVIDIA 的 Dell 生成式 AI 解決方案 – 模型訓練為尋求建立本身客製化、特定領域模型的企業，提供一套預先驗證的全端解決方案。

• 
  現已在全球上市的 Dell Data Lakehouse 是一個開放的現代化資料湖倉，可協助企業在混合與多雲端環境中的單一位置探索、處理及分析數據。

• 
  Dell PowerScale 是全球首款透過 NVIDIA DGX SuperPOD 和 DGX H100 系統驗證的乙太網路儲存解決方案，協助客戶實現更快、更有效率的 AI 儲存（※ 3）。

Dell Professional Services for GenAI 在 NVIDIA AI 和基礎架構專家的支援下得到擴充，協助客戶整合、管理及保護這些解決方案，更快實現業務成果。Dell Implementation Services 包含 Dell 全新 RAG 解決方案、模型訓練及 Dell Data Lakehouse 功能，以及新的 Advisory Services for GenAI Data Security，協助客戶評估與最小化安全風險。

TheCUBE Research 首席分析師 Dave Vellante 表示：「企業正急於嘗試使用 AI，但要達到投資報酬率仍面臨諸多挑戰，資料主權問題、法律及合規性與資料品質都是首要問題。Dell 與 NVIDIA 合作推出的生成式 AI 解決方案（RAG）等新產品為企業提供通往生成式 AI 的便捷捷徑，有助於強化企業信心並開發自身可信賴的 GenAI 能力，進而帶來巨大的業務影響。我們的研究顯示，企業正在轉向仿效 Dell 和 NVIDIA 這樣的產業領導者，以利協助他們提供 AI 專業知識和服務，進一步降低風險，早日實現投資報酬。」

產品上市時間

• 
  Dell AI Factory with NVIDIA 現已透過傳統通路與 Dell APEX 在全球發售。


• 
  搭載 NVIDIA B200 Tensor Core GPU、NVIDIA B100 Tensor Core GPU 和 NVIDIA H200 的 Dell PowerEdge XE9680 伺服器預計將於今年上市。


• 
  搭載 NVIDIA 的 Dell Generative AI Solutions – RAG 現已透過傳統通路與 Dell APEX 在全球發售。


• 
  搭載 NVIDIA 的 Dell Generative AI Solutions – 模型訓練將於 4 月透過傳統通路與 Dell APEX 在全球發售。


• 
  Dell Data Lakehouse 現已在全球發售。


• 
  Dell PowerScale 現已通過採用 DGX H100 和 NVIDIA OVX 解決方案的的 NVIDIA DGX SuperPOD 驗證。


• 
  適用 RAG 的 Dell Implementation Service 將自 5 月 31 日起在指定區域推出。


• 
  適用模型訓練的 Dell 基礎架構部署服務將自 3 月 29 日起在指定區域推出。


• 
  Advisory Services for GenAI Data Security 自 3 月 29 日起在指定國家推出。

※ 1：根據戴爾 2024 年 3 月分析。戴爾提供採用 NVIDIA 基礎架構和軟體的解決方案，旨在支援從工作站 PC 到伺服器的 AI 工作負載，以實現高效能運算、資料儲存、雲原生軟體定義基礎架構、網路交換器、資料保護、HCI 和服務。

※ 2：由 NVIDIA 提供：預計效能可能會變更。Token-to-token 延遲 (TTL) = 50 毫秒實時，第一個 token 延遲 (FTL) = 5 秒，輸入序列長度 = 32,768，輸出序列長度 = 1,028，8x 八路 HGX H100 風冷與 1x 八路 HGX B200 風冷，每個 GPU 效能比較。

※ 3：基於戴爾內部分析，2024 年 3 月。