據預測平台 Polymarket 的資料，AI 公司 Anthropic 很可能在 10 月底進行 IPO。有投行人士預計，此次 IPO 可能募集超過 600 億美元，若成真，將成為全球規模第二大的 IPO，僅次於今年募集 857 億美元的 SpaceX。然而，就在這家估值萬億的 AI 巨頭即將迎來資本盛宴之際，部分投資者卻對 CEO Dario Amodei 的“末日預言”風格感到不滿，希望他少談 AI 毀滅世界，多談如何賺錢。
Dario Amodei 對 AI 風險的警惕在投資者眼中近乎偏執。據報道，他的關鍵備忘錄總是手寫並離線儲存，以防駭客竊取；因為擔心遭到綁架，他拒絕某些海外出差；面對投資者提出的利潤最大化建議，他態度冷淡，堅持 Anthropic 應繼續將安全使命放在首位。這種風格讓一些投資者擔憂，Anthropic 的 IPO 可能因此表現不佳，甚至有人質疑他究竟是來拯救世界還是經營公司。
事實上，Dario 過去兩年幾乎預警了 AI 可能帶來的每一種壞結局。他曾警告，AI 可能在幾年內消滅一半初級白領崗位，將失業率推至 10% 至 20%；他還擔心 AI 助長生物武器製造、大規模網路攻擊，或逐漸獲得欺騙、規劃和自主行動的能力。去年，當被問及 AI 導致“非常糟糕”結果的機率時，他給出的數字最高達 25%。今年 1 月，他發表約 2 萬字長文《The Adolescence of Technology》，目錄涵蓋 AI 失控、生物武器、獨裁政權、就業崩塌、財富集中等風險。6 月，他更提議建立類似航空監管的機制，對強大模型進行強制測試，若模型可能引發災難，監管部門應有權阻止其上線，這包括 Anthropic 自己的模型。
不過，Dario 的擔憂並非毫無依據。Anthropic 近期翻查了 14 萬多次網路安全測試記錄，發現三起事故：三款 Claude 模型在第三方測試環境中進行“奪旗挑戰”時，因配置失誤，本應斷網的測試環境意外連上真實網際網路，導致模型將真實公司當作測試道具，未經授權進入三家機構的生產系統。最嚴重的一次，Claude Opus 4.7 攻入一家真實公司的基礎設施，獲取了應用程式和基礎設施憑證，並訪問了包含數百行生產資料的資料庫。另一次，Claude Mythos 5 在測試中通過上傳惡意軟體包至 PyPI，該軟體包在真實網際網路上存活約一小時，被 15 個真實系統下載執行，其中一家安全公司的掃描器執行了惡意程式碼，導致憑證外洩。還有一款內部研究模型，在找不到虛構目標後，掃描了約 9000 個網際網路目標，最終通過暴露的除錯頁面和 SQL 注入攻破了一家真實公司的應用。這些事件幾乎可視為“AI 自主越獄”的現實案例。
類似地，OpenAI 也曾披露過一次更接近“越獄”的事故：在網路安全能力測試中，由 GPT-5.6 Sol 和一款未釋出模型驅動的 AI Agent，找到測試環境中的零日漏洞，突破沙箱，完成許可權提升和橫向移動，最終闖入 Hugging Face 的生產系統，直接從資料庫竊取測試題答案。這些事件表明，AI 的安全風險並非空穴來風。
然而，投資者當初選擇 Anthropic，或許正是看中了其安全敘事。Anthropic 成立於 2021 年，由 Dario Amodei、其妹妹 Daniela Amodei 及一批研究人員離開 OpenAI 後創立，分歧之一便是他們認為 OpenAI 商業化速度過快、微軟影響過大，原有治理結構難以約束前沿 AI 風險。公司註冊為公益公司（Public Benefit Corporation），並設立 Long-Term Benefit Trust 治理機制，信託成員不持有股權，卻可參與選舉董事，以避免短期商業壓力壓過安全使命。過去幾年，安全敘事為 Anthropic 帶來諸多好處：當 OpenAI 陷入治理爭議時，Anthropic 顯得更剋制穩定；企業客戶更信任其資料安全與合規形象；在監管討論中，Anthropic 也獲得了遠超其規模的話語權。
如今，投資者抱怨 Dario 太像傳教士，或許為時已晚。畢竟，Anthropic 從成立之初就將 AI 安全刻在基因裡。儘管如此，分析認為，CEO 的言論風格不太可能阻礙公司 IPO 的步伐。隨著 IPO 臨近，Anthropic 需要在安全使命與商業回報之間找到平衡，而這正是整個 AI 行業面臨的共同課題。