7月22日，美国白宫科技政策办公室主任迈克尔·克拉齐奥斯突然在社交媒体上宣称，中国AI企业“月之暗面”通过蒸馏美国Anthropic公司的Fable开发Kimi K3大模型。仅仅几个小时后，美国财政部长斯科特·贝森特发文威胁，要用制裁和“实体清单”来应对中国企业的蒸馏。
先炒作“窃取知识产权问题”，再对中国实体施加制裁，这是近些年美国打压中国科技发展的一个常见套路——在出手害人之前，先把自己打扮成一个受害者。对不明真相的人来说，这一伎俩往往具有一定的迷惑性。不过，这次美国的套路却注定要“翻车”，因为靠蒸馏Fable开发Kimi K3的说法实在是过于外行。
一个很明显的问题是，就像抄作业抄不出好成绩，Kimi K3表现出的先进性能，根本无法靠蒸馏获得。美国著名AI技术专家内森·兰伯特撰文指出，Kimi K3在Vals AI指数中排名全球第二，在Artificial Analysis智能指数中排名全球第三，在“前端代码竞技场”基准测试中排名第一。兰伯特表示，那些认为中国AI实验室仅通过窃取知识产权，就能做出优秀模型的AI观察人士，是时候醒醒了——中国公司在构建大模型方面与美国领先公司一样出色。
兰伯特在文中对Kimi的研究团队大加赞扬。他说，他曾在中国之行中与Kimi的一些核心研发成员会面，清楚地感受到他们拥有令人惊叹的企业文化。兰伯特称，由于拜访过Kimi团队，他对Kimi K3的出色性能并不意外，在他拜访过的许多AI公司中，很少有公司像Kimi团队这样，有如此鲜明的企业文化。
另一个问题则是，Kimi K3是一个开源大模型，主要技术细节对外开放，不像Open AI、Anthropic等美国企业开发的闭源大模型，几乎是一个“技术黑箱”。研究团队公布了详细的技术报告，介绍了Kimi K3通过使用“混合线性注意力”“注意力残差”等独特技术，使整体扩展效率比上一代模型Kimi K2提升了约2.5倍，参数规模达到2.8万亿。美国个别政客可能看不懂，或者选择性地无视这些技术飞跃，污蔑Kimi K3的开发靠蒸馏美国大模型，但各国AI研究人员并不糊涂，看得清Kimi K3的先进性能究竟由何而来。
毫无疑问，Kimi K3成功的根源在于技术创新。正如美国密歇根州立大学理论物理学和计算数学、科学与工程学教授徐道辉在社交媒体上所说，Kimi K3实现了非凡的神经网络架构创新，它是从零构建的原创、大规模架构，而非通过蒸馏对其他大模型进行压缩模仿。徐道辉提到了多篇Kimi团队发表的重要论文，其中一篇介绍了K3大模型使用“线性注意力机制”，实现了100万词元的超长上下文窗口；另一篇则概述了如何管理“注意力”，使大模型的训练效率提升25%。
中国在AI领域的发展与成就全球有目共睹。美国部分政客身处关乎美国科技发展的关键职位，应当做内行人，不应老说外行话，信口开河地污蔑中国大模型靠蒸馏，这样只能让自己看起来很业余。
尚红网提示：文章来自网络，不代表本站观点。
