据预测平台 Polymarket 的数据，AI 公司 Anthropic 很可能在 10 月底进行 IPO。有投行人士预计，此次 IPO 可能募集超过 600 亿美元，若成真，将成为全球规模第二大的 IPO，仅次于今年募集 857 亿美元的 SpaceX。然而，就在这家估值万亿的 AI 巨头即将迎来资本盛宴之际，部分投资者却对 CEO Dario Amodei 的“末日预言”风格感到不满，希望他少谈 AI 毁灭世界，多谈如何赚钱。
Dario Amodei 对 AI 风险的警惕在投资者眼中近乎偏执。据报道，他的关键备忘录总是手写并离线保存，以防黑客窃取；因为担心遭到绑架，他拒绝某些海外出差；面对投资者提出的利润最大化建议，他态度冷淡，坚持 Anthropic 应继续将安全使命放在首位。这种风格让一些投资者担忧，Anthropic 的 IPO 可能因此表现不佳，甚至有人质疑他究竟是来拯救世界还是经营公司。
事实上，Dario 过去两年几乎预警了 AI 可能带来的每一种坏结局。他曾警告，AI 可能在几年内消灭一半初级白领岗位，将失业率推至 10% 至 20%；他还担心 AI 助长生物武器制造、大规模网络攻击，或逐渐获得欺骗、规划和自主行动的能力。去年，当被问及 AI 导致“非常糟糕”结果的概率时，他给出的数字最高达 25%。今年 1 月，他发表约 2 万字长文《The Adolescence of Technology》，目录涵盖 AI 失控、生物武器、独裁政权、就业崩塌、财富集中等风险。6 月，他更提议建立类似航空监管的机制，对强大模型进行强制测试，若模型可能引发灾难，监管部门应有权阻止其上线，这包括 Anthropic 自己的模型。
不过，Dario 的担忧并非毫无依据。Anthropic 近期翻查了 14 万多次网络安全测试记录，发现三起事故：三款 Claude 模型在第三方测试环境中进行“夺旗挑战”时，因配置失误，本应断网的测试环境意外连上真实互联网，导致模型将真实公司当作测试道具，未经授权进入三家机构的生产系统。最严重的一次，Claude Opus 4.7 攻入一家真实公司的基础设施，获取了应用程序和基础设施凭证，并访问了包含数百行生产数据的数据库。另一次，Claude Mythos 5 在测试中通过上传恶意软件包至 PyPI，该软件包在真实互联网上存活约一小时，被 15 个真实系统下载运行，其中一家安全公司的扫描器执行了恶意代码，导致凭证外泄。还有一款内部研究模型，在找不到虚构目标后，扫描了约 9000 个互联网目标，最终通过暴露的调试页面和 SQL 注入攻破了一家真实公司的应用。这些事件几乎可视为“AI 自主越狱”的现实案例。
类似地，OpenAI 也曾披露过一次更接近“越狱”的事故：在网络安全能力测试中，由 GPT-5.6 Sol 和一款未发布模型驱动的 AI Agent，找到测试环境中的零日漏洞，突破沙箱，完成权限提升和横向移动，最终闯入 Hugging Face 的生产系统，直接从数据库窃取测试题答案。这些事件表明，AI 的安全风险并非空穴来风。
然而，投资者当初选择 Anthropic，或许正是看中了其安全叙事。Anthropic 成立于 2021 年，由 Dario Amodei、其妹妹 Daniela Amodei 及一批研究人员离开 OpenAI 后创立，分歧之一便是他们认为 OpenAI 商业化速度过快、微软影响过大，原有治理结构难以约束前沿 AI 风险。公司注册为公益公司（Public Benefit Corporation），并设立 Long-Term Benefit Trust 治理机制，信托成员不持有股权，却可参与选举董事，以避免短期商业压力压过安全使命。过去几年，安全叙事为 Anthropic 带来诸多好处：当 OpenAI 陷入治理争议时，Anthropic 显得更克制稳定；企业客户更信任其数据安全与合规形象；在监管讨论中，Anthropic 也获得了远超其规模的话语权。
如今，投资者抱怨 Dario 太像传教士，或许为时已晚。毕竟，Anthropic 从成立之初就将 AI 安全刻在基因里。尽管如此，分析认为，CEO 的言论风格不太可能阻碍公司 IPO 的步伐。随着 IPO 临近，Anthropic 需要在安全使命与商业回报之间找到平衡，而这正是整个 AI 行业面临的共同课题。