OpenAI在9月8日宣布,其AI模型已解决数学界最著名的难题之一——纳维-斯托克斯(Navier–Stokes)问题,并称已用名为Lean的编程语言验证了证明。这家位于美国加州的AI公司表示,团队从9月1日开始攻关该问题。消息一出,随即在数学界引发一场关于“功劳归谁”的激烈争论。
争议的焦点在于:AI模型在解题过程中,是否学走了人类数学家的知识。纽约大学数学家Tristan Buckmaster与合作者、哈佛大学数学家Levent Alpöge此前一直在用OpenAI和Anthropic的工具研究纳维-斯托克斯问题的一个方面。Buckmaster在社交媒体上写道,他们被告知OpenAI即将宣布解决该问题,而OpenAI是在听闻他和Alpöge的工作后抢先解出,其模型可能一直在从两人与ChatGPT的对话中暗暗学习。
对此,OpenAI发言人向《自然》表示,经过调查可以“非常自信地说”,用户在7月3日以后输入的数据不会对该系统有任何影响,并强调在公开结果前,OpenAI从未以任何方式见过他们的工作。Buckmaster则称,他用OpenAI工具研究该问题已有一年,在ChatGPT上有三个不同账号,其中只有两个关闭了允许OpenAI将人机对话用于训练模型的设置。
即便OpenAI的解最终能被独立验证,接下来还要看数学界如何论功。克雷数学研究所本世纪初列出七个“千禧年大奖难题”,解决其中任何一个可获100万美元奖金。该研究所表示,证明结果必须发表在同行评审期刊上并得到数学界进一步审查,他们才会评判这个解是否成立。研究纳维-斯托克斯方程的数学家表示,这里很大一部分功劳应属于Buckmaster和Alpöge,以及马德里数学科学研究所的Diego Córdoba和马德里金融研究大学的Luis Martínez Zoroa。
类似担忧并不止于这一难题。德国德累斯顿工业大学的数学家Andreas Thom想知道,他过去一年用ChatGPT进行的关于群论的脑力对话,是否也被用于训练这个对话机器人。他说自己曾用一种特殊策略尝试构建名为non-sofic的一类群,而8月OpenAI发布预印本论文称已首次取得这一结果,所用策略与他的非常相似。Thom认为贡献有没有算到位还不好说,OpenAI未就该问题直接置评。他提到,OpenAI的论文准确引用了他和合作者的早期成果,但6月末之前他一直未关闭训练模型的选项,因此无法知道OpenAI的工具除了参考其已发表论文外,是否也将与他的对话用于研究。
在谴责AI公司涉足数学解题领域的一封公开信中,25名菲尔兹奖得主写道,AI工具模糊了对功劳的分配,“和所有创造性职业一样,这带来了严重的署名和剽窃问题”。伦敦政治经济学院知识产权法研究员Luke McDonagh提醒,很多学者可能还没搞清楚,将数据和信息上传至AI模型的个人账号会有什么后果。伦敦商学院研究数字生态系统的Michael Jacobides则直言,学术人员“有点太天真了”。
问题的根源在于,AI模型在科研领域近乎全员使用,而用来训练模型的信息很难溯源。对话机器人从专家一对一的交流中汲取知识,这些内容要么被分享给其他研究人员,让后者在不知情下掌握对手尚未发表的思路,要么让AI公司把解题功劳占为己有。德国伯恩大学的菲尔兹奖得主彼得·舒尔茨(Peter Scholze)等数学家已承诺不使用AI工具,但也有数学家表示仍有很多人在用对话机器人处理数学问题,目前不确定有多少人选择关闭共享对话内容。
制度层面的应对正在推进。国际数学联盟6月发布《人工智能与数学莱顿宣言》,规定资料在未经同意情况下不得用作训练数据,并要求公司让作者有权选择其研究不被以这种方式使用。宣言作者之一、荷兰埃因霍芬理工大学的数学家Jim Portegies表示,团队正在讨论如何应对这些最新事件。一些学术机构已与科技公司达成协议,不允许公司使用数据和交互内容训练模型,但研究人员用私人账号做研究时不受协议约束,还有的机构根本没有这类协议。
监管与行业自律被视为可能的出路。Jacobides认为,监管部门可以要求研发AI对话机器人的公司关闭共享数据的默认设置,这一规定可能非常奏效。莱顿宣言作者之一、牛津大学已退休数学家Ursula Martin表示,科技公司还能与代表科研界的组织拟定行为规则。她认为,纳维-斯托克斯最新证明引发的轩然大波,或许能刺激各大AI模型公司站出来回应,“这次事件或许是个警钟,让这些公司意识到,‘原来这不是我们想要的营销’”。
对AI产业而言,这场争论触及一个更根本的问题:当模型能力越来越依赖与专家的深度对话,训练数据的来源与归属将直接影响学术贡献的认定,也关系到AI公司在科研合作中的信任基础。如何在技术推进与学术规范之间找到平衡,正成为AI公司、研究机构和监管部门共同面对的新课题。