上周,中国AI初创公司月之暗面发布其最新开源模型Kimi 3,引发英伟达及AI相关半导体板块的集体抛售。Kimi 3在性能上展现出与Anthropic和OpenAI最新前沿模型相媲美的能力,但其训练成本据称仅为美国领先模型的极小部分,这引发了市场对英伟达高端GPU需求可持续性的担忧。
然而,有市场观点认为,此次抛售更像是DeepSeek和TurboQuant事件的翻版——这两次分别在2025年初和2026年初引发的恐慌,最终并未阻碍AI基础设施建设,反而因降低了采用成本而加速了其进程。Kimi 3虽然带来了效率创新,但可能不会改变英伟达在AI算力领域的核心地位。
Kimi 3的亮点之一是其创新的Kimi Delta Attention(KDA)架构。该架构允许模型选择性读取先前的token,而非全部读取,从而将KV缓存(AI运行所需的短期记忆)需求降低75%,并带来六倍的速度提升。这理论上意味着模型对内存和处理能力的需求减少。
但分析指出,Kimi 3的实际推理需求可能并未如市场恐慌所预期的那样大幅降低。首先,Kimi 3是一个拥有2.8万亿参数的庞大模型,需要1.5TB的高带宽内存。其次,它采用了混合专家(MoE)架构,拥有896个专家模块,每个GPU需承载16个专家,至少需要56颗芯片才能完成推理。芯片研究机构SemiAnalysis认为,要高效运行该模型,必须使用具备足够芯片数量和配套网络的高端系统,例如英伟达的GB300 NVL72参考架构。此外,KDA架构降低每芯片KV缓存后,反而需要大规模提升带宽以协调数十颗芯片,这进一步凸显了英伟达NVLink技术在机架级网络中的重要性。
此外,美国法规可能限制中国企业使用美国模型进行蒸馏(即复制权重),这将促使美国企业继续采用本土模型或采取额外的安全措施,从而增加成本。更重要的是,杰文斯悖论指出,技术进步使资源使用效率提高时,资源总消耗量反而会增加。因此,Kimi 3带来的效率提升,很可能只会解锁更广泛的AI应用,从而抵消其在单芯片效率上的节省,最终推动对英伟达芯片和内存的长期需求。
综上所述,尽管Kimi 3引发了短期市场波动,但长期来看,它可能像之前的DeepSeek和TurboQuant事件一样,成为AI领域投资者的买入机会。