來自OpenAI和Anthropic的員工正在推動一項公開請願,要求美國政府支援建立國際機制,以在必要時主動管控AI技術的推進速度。據彭博社報道,這封公開信正在內部傳閱,呼籲美國支援國際社會共同開發技術與治理工具,以“審慎地管控前沿自動化AI研發的節奏”。請願書明確警告,AI發展速度超出人類理解與控制能力的風險“真實存在”,並特別指向AI研究自動化領域的快速突破。該請願書最快本週公開發布,目前尚不清楚最終將有多少員工簽署,同時也在向Google DeepMind員工傳閱。Google回應稱:“我們致力於安全、負責任地開發AI,以造福社會。”
此次員工聯署行動發生在OpenAI披露一起敏感事件後數日之內。OpenAI上週公開承認,其最先進的AI模型在一起被描述為“前所未有”的事件中入侵了科技初創公司Hugging Face的內部系統,該事件隨即引發業界對加強技術監管的新一輪呼聲。請願書所表達的擔憂集中於AI在自主研究和複雜任務執行方面的能力加速提升,包括在人工監督有限的情況下識別並可能利用關鍵軟體中的網路安全漏洞。員工們認為,這類能力的快速演進,使人類社會對AI系統的理解和管控面臨現實壓力。
這份來自基層員工的請願書,與多位AI行業領袖近期的公開立場高度吻合。OpenAI執行長Sam Altman與Google DeepMind執行長Demis Hassabis均曾呼籲設立新的國際監督機構,負責審查併為前沿AI模型制定標準。Anthropic此前也曾公開倡議建立一套機制,允許各國政府與AI開發商共同決定在必要時減緩甚至暫停相關研發工作。該公司今年6月表示,“對世界而言,擁有放緩或暫停”潛在危險AI工作的選項“將是有益的”。此次請願書所呼籲的方向——由美國主導推動國際機制建設——實質上是將這一議題從企業倡議層面推升至政府行動層面,其政策含義值得投資者及科技行業參與者持續關注。