英偉達和微軟正推動企業按照自己的需求運行成本更低的開源 AI 模型,應用場景涵蓋 Azure 數據中心、工廠設備和 Windows 個人電腦。英偉達稱,會計巨頭安永改用開源模型後,成本降低了 15 倍。
要點
英偉達稱,安永對其 Nemotron 開源模型進行了調優,使準確率提高了 55%,與專有前沿模型相比,成本降低了 15 倍
搭載英偉達 Vera Rubin NVL72 系統的 Azure 虛擬機正在 Azure 數據中心運行
Microsoft Foundry 正在增加客戶對英偉達開源模型的使用權限,並提供定製功能
Azure Local 將支持 RTX PRO 6000 Blackwell GPU,並擴展至 Jetson Thor 和 Jetson Orin
搭載 GPU 的 Windows 365 Cloud PC 將在限量預覽中推出 Direct Stream,公開預覽計劃於 2027 年初推出
Nvidia 在 Microsoft Ignite 上宣佈了此次擴展。兩家公司介紹了新的使用入口,涵蓋 Azure 虛擬機、本地基礎設施、工業系統和 Windows PC。
微軟也在自身 AI 工作中使用 Nvidia 技術,包括用於後訓練的 Dynamo 推理軟件,以及用於 Bing 搜索模型的 RTX PRO 6000 Blackwell GPU。
從 Azure 到本地系統
由 Nvidia Vera Rubin NVL72 系統驅動的 Azure 虛擬機現已在 Azure 數據中心運行。這套基礎設施專爲高要求的推理、代理式應用以及大規模模型訓練和推理而設計。
兩家公司還在合作,將機密計算擴展至裸金屬和機架級 AI 基礎設施。Nvidia Confidential Computing 和遠程證明可幫助客戶在釋放敏感模型、數據或密鑰之前驗證計算環境,爲處理專有信息或受監管信息的組織提供保護。
Nvidia 和微軟還在利用 Nvidia MaxLPS 提高能效。在 MLPerf Training v6.1 中,Azure 使用 GB200 NVL72 系統和 DeepSeek-V3 模型,將規模擴展至 10,240 塊 Nvidia GPU;Nvidia 稱這是本輪測試中的最大規模。在 MLPerf Inference v6.1 中,根據 Signal65 的數據,Azure 的 Nvidia GB300 NVL72 系統在 DeepSeek-R1 交互式吞吐量方面領先雲服務提交結果逾 10%。
另請閱讀:Nvidia GeForce 模組承諾讓家用 PC 的 AI 速度提升高達 2 倍
Foundry 如何引入開放模型
通過 Microsoft Foundry,客戶可使用的 Nvidia 開放模型和定製功能正在擴展。微軟的無服務器 Programmed Training 讓開發者能夠掌控後訓練工作流,同時由 Foundry 管理底層基礎設施;Foundry Managed Compute 則增加了對部署自定義模型權重的支持。
EY 使用 Microsoft Foundry 中的 Programmed Training,調整 Nvidia Nemotron 開放模型,用於分類企業採購記錄。與專有前沿模型相比,EY 在其評估數據集上的準確率提高了 55%,成本降低了 15 倍。
Nemotron 模型|說明|企業用途Nemotron 3.5 Super|專爲跨編碼、研究和業務工作流持續運行的代理而設計Lightning|適用於需要快速響應和工具使用能力的應用Embed And Rerank|幫助代理查找相關信息Parse|從文檔中提取結構化信息Content Safety|檢測有害內容Bolt And Transcribe|即將推出,面向高吞吐量、低延遲推理和語音識別
Foundry Local 擴展了對 Nemotron 3.5 的支持,將推理、編碼和工具使用代理帶入 Azure Local 環境。檢索模型可幫助應用在文本、文檔圖像、圖表和表格中查找證據;包括 Cosmos 在內的 Nvidia 物理 AI 模型也將引入 Foundry Local。
爲何這很重要
值得關注的是 EY 的成果。開放模型可以下載,使用企業自身的記錄進行訓練,並在自有硬件上運行,無需像使用單一供應商的封閉模型那樣按請求付費。如果經過微調的開放模型能以十五分之一的成本,在某項特定任務上勝過前沿模型,許多企業就會想知道,爲什麼日常任務(例如整理採購記錄)還要支付高昂費用。
這讓微軟處於一個頗爲有趣的位置。它通過 Azure 銷售對最大型封閉模型的訪問服務,現在也幫助客戶針對特定工作改用更便宜的 Nvidia 模型。無論選擇哪條路,Nvidia 都能獲益,因爲兩種方案都運行在它的芯片上——從 Azure 中的 Vera Rubin NVL72 機架,到辦公室電腦裏的 RTX GPU。
接下來值得關注什麼
Azure Local 也將支持來自硬件合作伙伴的 Nvidia RTX PRO 6000 Blackwell GPU,爲組織在本地部署 AI 提供更多選擇。它還將擴展至 Nvidia Jetson Thor 和 Jetson Orin 邊緣 AI 平臺,以支持機器視覺、機器人和自主作業等工業應用。
在搭載 Nvidia RTX Spark 的 Windows PC 上,兩家公司將在 Ignite 展示本地大語言模型體驗。對於使用 Windows 365 Cloud PC 的組織,Direct Stream 可支持要求嚴苛的圖形應用,提供最多兩路 4K 視頻流,每路每秒 60 幀且延遲低,即使在網絡條件不佳時也能使用。限量預覽現已開放報名,公開預覽計劃於 2027 年初推出。
更大的考驗在於採用情況。值得關注的是,是否會有更多公司公佈類似 EY 的成本和準確率數據,以及即將推出的兩款 Nemotron 3.5 模型 Bolt 和 Transcribe 能否及時登陸 Foundry,從而推動更多工作擺脫昂貴的封閉模型。
在科學研究領域,Nvidia BioNemo Agent Toolkit 和 Nvidia ALCHEMI Toolkit 正擴展至 Microsoft Discovery 目錄。首個集成將使用 RFD4-Proteina 模型。該模型由華盛頓大學蛋白質設計研究所共同開發,可生成候選蛋白質結構和氨基酸序列,以供進一步評估和實驗室驗證。
相關閱讀:Cohere 在 Azure 上保護患者和銀行數據,防止外部人員訪問