它一边踩油门，一边按喇叭，提醒大家注意超速。文｜王子伊栏目｜Vista天下奇点最近，AI圈出现了一个有点荒诞的场景。 6月4日，美国人工智能（AI）初创公司Anthropic发布公开信，呼吁全球顶尖实验室暂停或减缓前沿AI的研发速度。 理由是，AI进化得太快了。 按照Anthropic的说法，旗下Claude正在沿着“AI研发AI”的路径前进。未来某一天，AI自主设计下一代AI，或许不再只是科幻小说里的情节。 消息一出，很多人的第一反应不是害怕，而是想起股市里一种熟悉的操作。 有人一路买入，一路拉升，一路高喊未来可期。等股价来到历史高位，忽然开始苦口婆心提醒大家注意风险。 不是说风险不存在。而是这话从谁嘴里说出来，很重要。 过去几年，Anthropic干的事情其实只有一件：让AI变得更强。 它不断推出更大的模型、更聪明的系统、更强的推理能力。 如今，它又公布了一系列令人震惊的数据。 目前，Anthropic工程师在Claude的辅助下，平均每个季度交付的代码量是2021-2025年间的8倍。在AI辅助下，Anthropic工程师平均每季度交付的代码量飙升。图源：Anthropic不止是速度提升，在答案不明确的开放式编程问题上，Claude的成功率在短短6个月内飙升了50个百分点，达到了76%。 Claude今年最新的模型Mythos Preview在64%的情况下做出了比人类更好的科研决策，而2024年时这一比例仅为22%。 这些数字确实让人震惊。但问题也随之而来。 如果AI已经如此强大，那么把它训练到今天的人是谁？如果AI有朝一日会失控，那么是谁一直在向全世界展示它究竟有多强？ 答案似乎都指向同一个名字：Anthropic。 更微妙的是，Anthropic自己并没有停下来。就在呼吁放缓研发的同时，它仍在继续训练模型、扩张业务，并推进IPO计划。 于是，整个故事变得有些耐人寻味。它一边踩油门，一边按喇叭，提醒大家注意超速。 此前，OpenAI首席执行官Sam Altman曾暗示，Anthropic的“恐惧营销”是让人工智能技术继续掌握在少数精英手中的有效手段。 “世界上有些人长期以来一直想把人工智能技术限制在少数人手中。你可以用很多不同的理由来证明这一点。”他说，“这显然是一种令人难以置信的营销手段，他们会说，‘我们制造了一枚炸弹，我们即将把它扔到你头上。我们将以1亿美元的价格向你出售一个防空洞。’” 更有意思的是，这种剧情在历史上并不新鲜。石油公司最早知道气候变化正在发生。烟草公司最早知道香烟会损害健康。社交媒体平台最早知道算法会把人困在信息茧房里。 某种意义上，风险的第一发现人，往往也是风险的第一制造人。 这倒不难理解。毕竟，没有人比养虎的人更知道老虎长到了多大。 但问题恰恰在这里。 Anthropic或许是对的。AI也许真的正在逼近某种危险边界。 但整件事最微妙的地方在于，这些年，最卖力向全世界展示老虎长得有多快的人是他们。如今，最卖力提醒大家老虎有多危险的人，还是他们。 至于老虎究竟该不该继续长大—— 至少目前，饭还是养虎的人在喂。 今日互动你觉得AI目前的进化速度太快了吗？评论区留言你的想法新刊预告 平台地址：http://www.jintiankansha.me/t/gZCYOIBAQe