估值达156亿美元的法律AI独角兽Harvey,正因算力与调用成本失控而调整技术路线。据知情人士透露,Harvey在3月更新AI智能体后客户使用量激增,但毛利率从年初的约50%急剧下滑至6月的-50%。面对成本失衡,Harvey选择加入越来越多软件企业的行列,转向开放权重模型生态,其中包括中国开源模型方案。
Harvey总裁兼联合创始人Gabe Pereyra坦言,直到去年年底,AI应用的性能主要取决于底层模型,而训练基础模型极其昂贵,通常由最大的AI实验室负责,因此像Harvey这样的公司必须花大价钱购买最好的基础模型。然而,飞涨的底层API调用开销正将应用层企业逼入墙角。Harvey表示,今年以来其平台的Token消耗量呈几何级暴涨20倍。团队高层深知,如果继续无休止地依赖OpenAI和Anthropic的高价模型,公司迟早会被成本拖垮。
今年8月,Harvey推出首款自研模型,其底层由中国大模型开发商月之暗面的Kimi K3驱动。据介绍,该模型在性能上逼近Anthropic旗下的顶配方案,而综合成本仅为其一小部分。据接近该项目的内部人士称,得益于新模型上线以及对整体AI调用架构的精细化重构,Harvey的毛利率现已成功重回正值。
这一转向并非孤例。医疗科技初创公司Abridge最近宣布,正在基于英伟达的开源架构构建一款适用于临床环境的定制基础模型。AI智能客服独角兽Decagon透露,目前已有80%的咨询通过其自有模型处理。在金融科技领域,Ramp与Rogo等企业也破天荒试水自主训练模型;编程赛道中,刚被SpaceX收入囊中的Cursor,以及估值高达480亿美元的Cognition,更是在早期便率先推出了定制化模型。
Ramp联合首席执行官Karim Atiyeh表示,虽然此前模型构建对Ramp来说成本过高,但该公司在6月完成7.5亿美元融资后,正考虑开展相关工作,因为开放权重模型的性能已大幅提升。他直言,一年前这完全说不通,但现在开始变得很有道理了。面对持续走高的算力支出,正在筹备新一轮融资的Atiyeh警告,如果一家公司到现在还不去思考算力成本、不着手做定向优化,那完全是在拿未来冒险。
旧金山早期风投机构Basis Set创始人兼管理合伙人Lan Xuezhao断言,如果不通过微调专属模型来优化单位成本,从本质上讲商业模式就算不上高效。她补充道,如果公司不致力于构建供自身使用的模型,将难以获得融资。据悉,红杉资本和General Catalyst等头部风投机构目前也在力挺这一技术转向。该路径不仅为企业卸下沉重的成本包袱,更将核心技术控制权从OpenAI和Anthropic手中夺了回来。
与此同时,Anthropic和OpenAI也在更加积极地进军初创企业领域。今年两家公司都在大力招聘,发布插件,并在法律、金融和医疗保健等行业推出试点项目。在Anthropic办公室最近举办的一次投资者论坛上,与会者讨论了自主构建模型的初创企业日益兴起这一现象。据一位知情人士透露,Anthropic在一张关于如何把握价值曲线的幻灯片中提到了Rogo和医疗健康初创公司OpenEvidence等企业,还提到了Harvey在人工智能领域的内部工作,并提醒道,这家初创公司仍需要依赖Anthropic最先进的模型之一——Claude的Opus——来处理最棘手的任务。
尽管如此,一些初创公司仍担心,如果这些AI巨头切断其访问权限,会发生什么情况。就在SpaceX完成对Cursor的收购仅一周后,OpenAI便宣布暂停这家编程初创公司对其模型的访问权限,理由是马斯克旗下的公司过去曾多次违反OpenAI的服务条款。
相比之下,开放权重模型提供了一种替代方案。OpenAI和Anthropic的封闭式模型将其内部参数严加保密,而开放权重模型则会公开这些参数,供外部开发者下载并进行修改,这一过程被称为后训练。据两位知情人士透露,有些公司——如Kimi K3的开发商月之暗面,甚至会派出自己的工程师,帮助客户将现成的模型微调为定制化的内部模型。
从昔日的寄生巨头到如今的自立门户,Harvey等硅谷初创的集体倒戈不仅是应对算力成本危机的自救之举,更标志着生成式AI商业格局的深刻裂变。随着开源生态与自研方案逐渐抹平顶尖模型的技术鸿沟,应用层企业正在重新掌握议价权与生存命脉。对即将迈入二级市场的OpenAI与Anthropic而言,如何在维持高昂研发支出的同时守住商业客户壁垒,将成为其IPO前夕必须作答的关键命题。