根據報導,由史丹福大學電腦科學家李飛飛共同創辦的空間智能公司World Labs,於2026年6月3日發表一篇論文,試圖為人工智能領域中定義最為模糊的術語「世界模型」建立清晰的分類框架。該文章由李飛飛及World Labs團隊撰寫,指出「世界模型」一詞現時涵蓋三種本質上截然不同的系統,並明確闡述其公司首款產品Marble在當中定位。
這項分類對於遊戲工作室、視覺特效公司、建築師及機械人研發團隊等潛在用戶而言,可視為一份隱藏的選購指南,清楚說明各類「世界模型」能夠實際執行的工作範疇。World Labs的策略重點,在於最具技術難度且應用價值最高的類別,忠實反映物理法則模擬器,而業界對這方面的投入似乎仍不足夠。
該論文發表前數月,World Labs已將李飛飛的研究理念轉化為資金雄厚的商業項目,正式推出Marble並完成一輪由設計軟件製造商Autodesk領投的10億美元融資。該公司自2024年初成立,由李飛飛與Justin Johnson、Christoph Lassner及Ben Mildenhall共同創立,團隊背景涵蓋電腦視覺及3D圖形技術。公司自隱身模式亮相後,累計融資總額已達約12.3億美元。
三大功能:渲染器、模擬器與規劃器
World Labs的分類框架建基於強化學習教科書中經典的「智能體循環」:智能體採取行動後,世界狀態隨之改變,智能體再接收部分觀測結果作為反饋。該公司認為,目前被稱為「世界模型」的系統,實際上只涵蓋這個循環中的其中一個環節。
渲染器輸出的是供人類視覺觀看的像素,其評估標準在於視覺真實度。論文將影片生成模型及Google的互動式Genie 3歸入此類,指出它們「對三維結構沒有明確理解」。這些系統生成的鳥瞰畫面可能看似完美,但若嘗試在底層城市中進行導航,效果便會出現問題。
模擬器則輸出「狀態」,一種從幾何及物理層面均忠實呈現環境的表述方式,不僅可供人類理解,程式碼亦可直接進行運算。其核心在於結構:經得起檢驗的幾何形狀,以及遵循牛頓定律的物理行為。規劃器則負責輸出「動作」,回答智能體下一步應採取的行動;新一波的視覺語言行動系統及「世界行動模型」正是規劃器的嘗試。
World Labs將模擬器稱為「關鍵環節」,認為由於相同的幾何及物理知識可投射為渲染器所需的像素,亦可輸出為規劃器所需的動作預測,因此掌握模擬能力的模型能夠同時服務另外兩者。相比之下,僅具備渲染或規劃能力的模型則無法做到這一點。這也解釋了為何相關數據極為稀缺:具備明確幾何及物理標註的3D資產,其數量比渲染器可訓練的互聯網影片「高出數個數量級」。
Marble技術原理:高斯潑濺結合碰撞網格
World Labs將Marble定位為超越單純圖像生成的產品,其技術基礎在於該系統的輸出方式。Marble可接受多模態提示——包括文字、單張圖片、多張圖片、短影片或粗略的3D佈局——並同時生成兩種不同形式的可探索3D環境。
其最高解像度的視覺輸出採用3D高斯潑濺技術,即以數百萬個半透明粒子來構建場景模型,每個粒子均攜帶位置、尺度、顏色及不透明度等參數。這與過去數十年主導3D圖像處理的多邊形網格技術有明顯分別,後者以細小三角形組合來構成物體。World Labs透過其基於THREE.js庫開發的開源渲染器Spark,在瀏覽器中渲染這些潑濺粒子。
除潑濺粒子外,Marble同時輸出碰撞網格(可供物理引擎進行運算的低解像度幾何結構),以及用於與標準工具交互的更優質三角形網格。這種雙重輸出是產品設計的核心:一個模型同時呈現場景的外觀,以及可供程式運行物理計算的結構。產品的初始版本還加入了Chisel實驗模式,讓進階用戶以方塊及平面勾勒粗略的3D結構,再由Marble填充風格及細節,從而將世界的佈局與外觀分離處理。
應用場景:機械人訓練環境從數週縮短至數小時
Marble的匯出格式使其應用範圍從創意工具延伸至機械人領域。NVIDIA已發表一項技術工作流程,將Marble場景(以高斯潑濺及碰撞網格形式匯出)轉換並導入NVIDIA Isaac Sim,從而構建逼真且可用於模擬訓練的環境。據NVIDIA介紹,這種方法將以往需要數週的設定過程壓縮至數小時。
速度的提升解決了機械人訓練的結構性限制。機械人無法像語言模型那樣從互聯網規模的數據中學習,示範動作及3D環境的成本高昂且數量稀缺。對於機械人學習系統而言,價格低廉、形式多樣且具備物理可用性的虛擬世界正是其迫切需要的資源,而能夠大量生產這類環境的模擬器,其價值遠高於僅能生成影片的渲染器。
World Labs承認自身局限
論文坦誠地指出了目前尚未解決的問題,至今為止的機械人示範「僅限於高度受控的實驗室環境」,而「一段令人印象深刻的示範短片,與一部能夠在廚房、倉庫或手術室中可靠工作的機械人之間,鴻溝依然巨大」。生成式模擬器亦會帶來新的失敗模式:AI生成的幾何結構「看似正確,卻可能包含自相交或錯誤比例,從而產生不合邏輯的物理效果」。該公司承認,如何協調視覺美感與機械人所需的精確度,是「當今世界模型研究中最重要的未解決問題」。
World Labs並非這個領域的唯一參與者,NVIDIA正圍繞Omniverse及其Cosmos世界基礎模型構建並行的模擬系統,Google DeepMind則展示了互動式渲染器Genie 3,而一批資金雄厚的初創公司亦正競相解決規劃器問題。World Labs將Marble定位為「首款」三類模型中的模擬器產品,強調其具備的不同於傳統技術的特性。






