Private AI在VMware Explore Barcelona大會上勢不可擋

在近期舉行的 VMware Explore Barcelona 大會上，VMware公佈了合作夥伴關係的最新擴展，進一步展現了 VMware Private AI 發展的迅猛勢頭。Private AI是一種旨在平衡AI業務收益與企業實際隱私和合規需求的架構方案。

Private AI 的獨特優勢

自從在  VMware Explore Las Vegas上發佈VMware Private AI以來，客戶與合作夥伴對我們的AI戰略及其價值表現了極大的熱情。VMware透過不斷發展的開放生態系統為客戶提供了靈活性。客戶高度肯定了VMware為AI和非AI工作負載提供集中管理和營運的能力以及VMware支援客戶虛擬化和共用其GPU 資源的能力，這兩點都可以降低總體擁有成本（TCO）。

大多數企業計畫將公共和私有AI服務堆疊相結合，目前已經出現了幾種在企業資料創建、處理或消費地點附近運行AI計算和模型的用例。常見的新興用例包括：

·         程式碼生成：透過我們的SafeCoder和Hugging Face等解決方案提高開發人員的生產力，同時保護企業原始程式碼的隱私，並保持控制。

·         聯絡中心解決方案：縮短客戶支援部門的問題解決時間，同時保護私有內部支持文檔。

·         IT營運自動化：在保護管理和運營中繼資料的同時，為內部 IT 流程提供更加豐富的自動化功能和洞察。

·         進階資訊檢索：實現文檔搜索、匯總和內容創建的精簡化，同時保護企業獨有的智慧財產權及其與客戶和合作夥伴溝通的獨特方式。

合作勢頭強勁

在合作夥伴方面，VMware Private AI方案為我們的合作夥伴創造了許多差異化和增值機會。憑藉對Private AI基礎架構的重視，VMware為AI獨立軟體廠商（ISV）提供了一個接觸客戶的差異化平台，同時又不與他們的核心業務直接競爭，因而對他們產生了極大的吸引力。系統整合商正在競相加快 VMware Cloud Foundation上AI用例的採用，以滿足客戶和高端用例的需求。在VMware Explore Barcelona上，我們宣佈又有兩家系統整合商合作夥伴（IBM Consulting和Kyndryl）與VMware共同加快Private AI基礎架構和服務的發展，支援企業透過Private AI快速實現價值。VMware 的AI戰略聚焦差異化技術，簡單、低成本並提供更多選擇，支援企業投資通用AI平台。這種平台支援根據業務或行業需求變化，在企業開展業務的任何地點快速部署新服務。

與英特爾的合作

VMware與英特爾的合作長達數十年。現在，這一合作關係已擴展到Private AI領域。VMware 和英特爾正在設計VMware Private AI 參考架構，支援客戶透過英特爾 AI 軟體套件、處理器和硬體加速器以及 VMware Cloud Foundation，構建並部署Private  AI 模型，降低總體擁有成本。

搭載Intel AI的 VMware Private AI參考架構以VMware Cloud Foundation為基礎，包含以下部分：

• Intel Max系列GPU ：提供多達128顆Xe-HPC核，該全新基礎架構專門用於要求最苛刻的AI工作負載。
• 配備Intel進階矩陣擴展（Intel® AMX）的第四代至強CPU：顯著提升開箱效性，涵蓋多個框架、端到端資料科學工具以及廣泛的智慧解決方案生態系統。
• Intel AI軟體套件：打包端到端開源軟體和可選許可元件，加速構建多節點擴展和部署AI。

在VMware Explore Barcelona大會上，VMware演示了在CPU上運行的多種生成式AI服務，同時展示其驚人的準確性和效性。這些演示可能會讓許多人重新思考如何利用CPU容量滿足其AI需求，尤其是在推理用例中。

與 IBM watsonx 的合作

VMware 與IBM合作支持企業在私有、本地環境以及混合雲中存取 IBM watsonx，使用watsonx 平台安全地訓練和微調其模型。這個基於VMware Cloud Foundation和Red Hat OpenShift構建的全棧架構將賦能企業部署watsonx AI功能，從而支援MLOps、資料管理和治理部署。此外，企業還能存取來自 Hugging Face 的IBM精選開源模型，以及其他協力廠商模型和 IBM訓練的基礎模型系列，為生成式AI用例提供支援。

VMware 支持領導 Unified Acceleration (UXL) Foundation

VMware與ARM、富士通、Google Cloud、Imagination、Intel、高通和三星一同作為指導成員，一同領導Unified Acceleration (UXL) Foundation。UXL Foundation是一個跨行業組織，致力於透過提供開放標準的加速器程式設計模型，簡化高效能、跨平台應用的開發。UXL Foundation以oneAPI 規範為基礎，並擁抱SYCL等行業開放標準。該基金會將以中立、獨立的方式，為異構架構軟體的開發提供了一種中立的方法。UXL的目標與VMware 數十年來在簡化軟硬體互通性方面的努力不謀而合。

資料服務領域的合作

VMware 正在將其資料服務產品擴展到現有的多雲Tanzu資料解決方案之外，如 VMware Cloud Foundation 中的Data Services Manager（DSM）等。擴展VMware的本地資料服務生態系統對於協助企業更加靈活地構建AI服務、進而滿足其業務需求至關重要。截止目前，DSM已支持VMware Tanzu SQL PostgreSQL 和 MySQL，並且正在朝著管理VMware與合作夥伴資料服務的統一控制介面方向擴展。

VMware近期宣佈推出與DSM整合的全新合作夥伴服務，為企業的本地部署環境帶來新的靈活性。首先，VMware將與 MinIO 合作，將其高效能和彈性物件存儲加入VMware Cloud Foundation。此外，我們還擴大了與Google Cloud的合作，將 AlloyDB Omni的卓越效能、可擴展性和成本效益帶入VMware Cloud Foundation。與標準版PostgreSQL 相比，AlloyDB Omni 在 vSAN 上運行時，Google的事務性工作負載性能提高了 2 倍以上，分析性工作負載效能提高了 100 倍。¹

高效能資料庫和物件儲存是支援AI/ML工作負載的兩大關鍵資料服務。這些新的合作關係將協助企業進一步加快Private AI 進程。

共同踏上 AI 之旅

VMware還將與NVIDIA繼續密切合作。繼在VMware Explore Las Vegas上發佈了與NVIDIA的聯合產品後，VMware將在未來幾個月內推出VMware Private AI Foundation with NVIDIA。一些客戶已經以設計合作夥伴的身份與 VMware 和NVIDIA合作，在企業環境中運行這款新產品，並探索該解決方案的未來。

在 VMware Explore Barcelona大會上，VMware發佈了帶有Private AI概念驗證的入門套裝。這些概念驗證與當下流行的用例保持一致，包括目前已發佈的Coding Assistant 和 Retrieval Augmented Generation（RAG）用例。

資料來源：

1.       內部Google Cloud測試，2023年3月