Google DeepMind 資深研究員 Tom Zahavy 在一篇觀點論文《LLMs can't jump》中提出,儘管大語言模型(LLM)在歸納與演繹上表現優異,但結構性缺乏“溯因”能力,因此無法實現真正的科學發現。論文以愛因斯坦構建廣義相對論的歷史為案例,論證了單純擴大模型規模、注入更多資料並不能讓 AI 自動“發明”新物理定律,這一觀點對當前 AI 產業的技術樂觀主義構成根本性質疑。
論文指出,主流機器學習界常將科學發現視為“資料壓縮”問題,即通過歸納法在海量資料中尋找最簡潔的模式。然而,愛因斯坦提出廣義相對論時,牛頓力學並未面臨顯著的資料誤差,當時唯一的反常是水星近日點進動,且被歸咎於假設中的“火神星”。這意味著不存在驅動模型最佳化的“損失函式梯度”,科學上的重大範式轉移往往發生在沒有監督誤差訊號的真空裡。因此,單純依靠歸納壓縮資料,AI 只會擬合已知模式或引入湊數引數,而無法重構全新的物理圖景。
論文藉助哲學家皮爾士的邏輯學框架,將推理分為演繹、歸納與溯因三類。演繹是從規則與案例推出結果,歸納是從案例與結果提煉規則,而溯因則是為了解釋令人驚異的“結果”而憑空推斷出新的“案例”或規則。論文認為,LLM 在歸納(如從資料提煉規律)和演繹(如 AlphaProof 在既定公理下推導數學定理)上已展現極強能力,但科學發明的核心瓶頸在於溯因——即提出全新公理假設的能力。LLM 如同高維度的“中文房間”,僅在已知符號間進行邏輯運算,缺乏從現實感官體驗跨越到新公理的“飛躍”機制。
論文詳細回顧了愛因斯坦構建廣義相對論的歷程,將其分為構想期(1907–1912)、整合期(1912–1913)與數學驗證期(1913–1915)。在構想期,愛因斯坦通過“電梯思想實驗”進行具身模擬,將抽象符號錨定於物理體驗,從而提出等效原理。在整合期,他與數學家 Marcel Grossmann 合作,但因一個致命錯誤而放棄正確的幾何路徑,導致理論推遲兩年。論文強調,愛因斯坦的“溯因飛躍”依賴於具身模擬,而非純粹的資料歸納。
基於此,論文提出,AI 科學創新的下一階段必須將大模型與具有“動作可控性與反事實幹預能力”的物理一致性世界模型(如 Genie 範式)相結合。只有具備物理一致性的多模態世界模型,才能提供必要的感官錨定,從而彌合從物理模擬到形式化公理的鴻溝。這一論斷為下一代 AI 科學基礎設施的研發提供了理論路線圖。
該論文發表於通用人工智慧與 AI for Science 迅猛發展的背景下,對評估 AI 科學能力具有重要意義。它澄清了科學發現的認知本質,明確劃分了 LLM 的能力邊界,併為未來 AI 架構設計指明方向。對於 AI 產業投資者而言,該研究挑戰了“規模即智慧”的主流敘事,提示單純擴大引數規模可能無法帶來科學突破,未來投資或需關注具身智慧與物理世界模型等新方向。