現在NVIDIA作為生成式AI的最強勢硬體供應商，系統整合產業業者無不積極與NVIDIA攜手提供產業所需的解決方案。HPE慧與科技於年度盛事HPE Discover大會宣布擴大與NVIDIA的合作，為企業打造企業級的生成式AI解決方案；強調透過雙方共同設計、預先配置的人工智慧與推論解決方案，使企業能快速自訂基礎設施並使用自有資料訓練模型，同時於邊際到雲端部署基於生成式AI的客製化應用與服務，簡化開發與部署生成式AI基礎架構的複雜性。
雙方合作的全新解決方案預計於2024年第一季正式推出
HPE與NVIDIA雙方合作開發全端、開箱即可用的AI解決方案，包括HPE機器學習開發環境軟體、PE Ezmeral 軟體、HPE ProLiant 運算和HPE Cray 超級電腦以及包括 NVIDIA NeMo 框架的NVIDIA AI Enterprise 軟體套件，透過完整的軟硬體與解決方案組合，使企業能夠迅速且不費力的擁抱可客製化的生成式AI技術。
▲雙方的解決方案基於HPE的機架方案、NVIDIA的加速硬體與網路晶片還有雙方的軟體
當前企業對於生成式AI最大的需求來自基於互動式聊天機器人的應用、如專屬內部使用的資料查找服務，但同時需要以企業所需的資料與特性進行客製化，故結合預訓練模型與企業私有資料的搜尋增強生成(GAG)技術就是做為解決企業需求的關鍵。HPE為此需求提供完善的解決方案，在硬體部分採用搭載NVIDIA L40S GPU、NVIDIA BlueField-3 DPU和NVIDIA Spectrum-X 乙太網路平台的HPE ProLiant Compute DL380a機架架構，在結合16個HPE ProLiant DL380a 伺服器、達64個L40S GPU，能用於執行700億個參數的Llama 2超大型人工智慧模型。
在軟體解決方案則同步提供HPE與NVIDIA的解決方案；HPE所提供的HPE AI軟體包括為生成式AI工作流的HPE機器學習開發環境軟體套建，同時可借助HPE Ezmeral 軟體的全新GPU感知功能，能簡化跨混合雲的AI 工作負載的部署並加速資料準備；而NVIDIA AI Enterprise則提供企業高安全性、可管理性且完整的AI相關工具提供，包括適用於客製化聊天機器人方案的NVIDIA NeMo框架，能夠確保機器人回答不超出企業所需的防護工具、資料管理工具與預訓練模型。
1 則回應