NVIDIA 推出 Cosmos 3 Edge，以 40 億參數世界模型推動裝置端 AI 發展

NVIDIA 正式發表最新「開放前沿世界模型」（open frontier world model）Cosmos 3 Edge，專為機器人技術、自動駕駛汽車及智慧基礎設施等多種應用的高效能裝置端 AI 部署而設計。該模型整合了 40 億參數的世界模型與專用的 20 億參數 Nemotron 推理器，標誌着直接在邊緣裝置上實現複雜 AI 能力邁出重要一步。

一、邊緣 AI 的新時代

Cosmos 3 Edge 代表着 NVIDIA 的戰略佈局，將先進的 AI 模型從雲端推向裝置邊緣，為嵌入式系統帶來更高的自主性與即時處理能力。作為一個「開放前沿世界模型」，其架構旨在提高開發人員的易用性，支援廣泛的自訂並整合至多元化應用中。這種裝置端運作模式對於要求低延遲、更高私隱度以及減少依賴持續雲端連線的場景至關重要。模型在本地運行的能力，讓裝置能夠在網絡頻寬或可靠性受限的環境下，處理複雜的感應器數據並作出智慧決策。

二、架構與功能

Cosmos 3 Edge 的核心為 40 億個參數，構成了一個能夠理解並模擬複雜環境的全面世界模型。與之互補的是一個專用的 20 億參數推理器，基於 NVIDIA 的 Nemotron 開源語言模型系列建立。此 Nemotron 組件專為推理任務優化，使 Cosmos 3 Edge 不僅止於單純感知，更能解讀情境、預測結果並制定行動策略。

該模型在多模態理解方面表現出色，能處理來自不同感應器的輸入，並執行動態真實世界場景中不可或缺的時空推理。其預測分析能力讓裝置能夠預判未來事件，這是自動化系統確保安全與效率的關鍵功能。Cosmos 3 Edge 針對低延遲、高吞吐量的推理進行了特別優化，確保即使是運算密集型的 AI 任務也能在邊緣硬件上高效執行。這種優化實現了即時決策，對自動駕駛汽車的防撞或機器人系統的即時回應等應用至關重要。

三、目標應用與硬件支援

NVIDIA 設計 Cosmos 3 Edge 旨在解決多個高影響力領域的關鍵需求：

* 機器人技術： 模型賦予機器人更有效從環境中學習的能力，能理解人類細緻的指令，並以更高的自主性執行複雜任務。其推理能力使機器人能在非結構化環境中導航、與物體進行智慧互動，並適應突發狀況。 * 自動駕駛汽車（AV）： 對於自動駕駛汽車，Cosmos 3 Edge 增強了理解複雜道路場景的能力，包括其他車輛、行人及單車者的行為。它有助預測意圖，這是在瞬息萬變的交通狀況中實現安全導航與決策的基礎。 * 智慧基礎設施的視覺 AI 代理： 在智慧城市與工業環境中，視覺 AI 代理可利用 Cosmos 3 Edge 對即時影片串流進行推理。這支持了智慧交通管理、預測性維護及增強型安全監控等先進應用，本地處理能極小化數據傳輸並提升回應速度。

支援多種 NVIDIA 硬件平台凸顯了 Cosmos 3 Edge 的部署靈活性。它獲設計在 NVIDIA Jetson Orin 和 Jetson Thor 平台上高效運行，這些平台專為嵌入式及邊緣 AI 應用打造，可在功耗受限的環境中提供強大的 AI 推理效能。在模型的開發與微調方面，NVIDIA 還強調支援 DGX Spark，該平台很可能提供專門配置，用於邊緣部署前的 AI 研究與優化。

四、對 AI 發展的戰略意義

Cosmos 3 Edge 的推出，標誌着 NVIDIA 繼續致力於推動先進 AI 能力普及化，讓邊緣裝置也能使用這些技術。這種方法降低了因 AI 處理而需持續進行雲端數據傳輸所帶來的營運成本及潛在私隱疑慮。開發人員獲得了強大的工具，可直接在硬件中構建複雜的即時 AI 代理，為需要即時回應與本地智慧的領域開闢了創新的新途徑。

NVIDIA 正透過 NVIDIA NIM 及 NVIDIA AI Enterprise 軟件平台提供 Cosmos 3 Edge。這確保了開發人員及企業能夠獲得強大的工具與基礎設施，以管理、部署及擴展基於 Cosmos 3 Edge 構建的 AI 解決方案，從而促進商業應用及融入現有工作流程。透過這些平台提供支援的戰略舉措，彰顯了 NVIDIA 致力於支援邊緣 AI 開發與部署整個生命週期的承諾。

常見問題

什麼是 Cosmos 3 Edge？

Cosmos 3 Edge 是 NVIDIA 全新的「開放前沿世界模型」，專為裝置端運行而設計，整合了 40 億參數的世界模型與 20 億參數的 Nemotron 推理器。

它有哪些核心功能？

它具備多模態理解、時空推理及預測分析功能，並針對邊緣裝置上的低延遲、高吞吐量推理進行了優化。

Cosmos 3 Edge 專為哪些應用而設計？

它適用於機器人技術、用於場景理解與意圖預測的自動駕駛汽車，以及用於智慧基礎設施的視覺 AI 代理。

Cosmos 3 Edge 支援哪些硬件？

Cosmos 3 Edge 可在 NVIDIA Jetson Orin 及 Jetson Thor 平台上運行，並支援在 DGX Spark 上進行開發與微調。

開發人員如何獲取 Cosmos 3 Edge？

該模型可透過 NVIDIA NIM 及 NVIDIA AI Enterprise 軟件平台獲取，提供管理與部署工具。

參考來源

* https://x.com/NVIDIAAI/status/2079236204743053592 * https://blogs.nvidia.com/blog/nemotron-4-340b-open-models-custom-llms/ * https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-orin/ * https://www.nvidia.com/en-us/automotive/drive/drive-thor/ * https://developer.nvidia.com/dgx-spark