Anthropic威胁情报主管雅各布·克莱因表示,该公司欢迎竞争,但来自中国市场的某些行为更接近盗窃。他指出,外国对手正非法访问其Claude模型进行蒸馏,以训练竞争技术并以更低价格出售仿制品。蒸馏本可合法进行,但克莱因称,实际情况并非如此,存在一个完整的非法生态系统,试图通过任何必要手段规避控制,大规模创建账户以获取Claude等模型的访问权限。
蒸馏已成为AI领域争议话题。该做法可让模型开发者利用另一家公司技术的输出来创建竞争产品,成本仅为原开发成本的一小部分。在美国,科技界部分人士敦促政策制定者避免过度监管,让最优且最具成本效益的AI胜出;另一些人则游说打击他们认为的知识产权盗窃行为。特朗普政府4月的一份备忘录指出,损害美国研究和专有信息的蒸馏不可接受,并表示将探索一系列措施追究外国行为者的责任。
对Anthropic而言,威胁正在加剧。这家成立5年的公司私人市场估值已接近1万亿美元,据CNBC报道,最早可能于10月上市。Anthropic点名中国AI实验室月之暗面(Moonshot AI)为其技术被剽窃的公司之一。月之暗面的Kimi K3模型7月以更便宜的前沿级AI产品席卷科技界,在硅谷被广泛采用,部分得益于其较低价格和更易定制。克莱因称,Kimi K3系非法基于最新版Claude训练。
今年早些时候,Anthropic指控月之暗面及另外两家中国AI实验室——DeepSeek和MiniMax——蒸馏其前沿AI模型。Anthropic还指控开发Qwen模型系列的阿里巴巴进行了大规模蒸馏攻击,以非法获取Claude的能力。OpenAI和谷歌均发布报告称正应对类似问题。阿里巴巴、DeepSeek、月之暗面和MiniMax未回应置评请求。
网络安全专家告诉CNBC,除中国外,威胁还来自伊朗、俄罗斯和朝鲜等国,这些国家因制裁被限制使用Claude、谷歌Gemini和OpenAI的ChatGPT。克莱因表示,这些地区的许多实验室通过非法和欺诈手段试图获取模型访问权。一种绕过限制的方式是转向暗网,那里有被盗信用卡信息和被入侵AI账户的市场。克莱因称,月之暗面等公司正创建数万甚至数十万个欺诈账户。一旦访问Anthropic系统,他们可向模型提问并收集回答,用于训练自己的模型(常被称为学生模型)。
蒸馏的明显迹象是用户可能提出数千个问题而非几十个,甚至创建数千个账户,给AI实验室带来打地鼠式挑战。克莱因承认,完全阻止这一问题很难,但减缓它是值得的。他指出,外国公司能在几乎没有护栏的情况下使用该技术,并提及监控、生物武器计划等担忧,以及一个中国实体利用Anthropic技术进行大规模间谍活动的具体行动。他强调,若恶意行为者通过蒸馏获得比原本更强的模型,将构成国家安全问题。
网络安全公司Armadin技术主管、前谷歌工程师特拉维斯·兰哈姆表示,由于AI公司竞相使平台尽可能易用,恶意行为者常未被发现。这些公司每天服务数十亿次请求,恶意请求相对较少,混在正常流量中难以察觉。克莱因承认,对Anthropic而言,广泛竞争可预期,且存在合法蒸馏方法,通常需获得许可并遵守知识产权和出口管制法律。他表示,竞争是好事,但若通过欺诈手段蒸馏模型、用被盗信用卡和基础设施创建数百万虚假账户,最终产出无安全护栏的模型,则令人担忧。