今天中午摸鱼刷技术社区,一条消息直接给我整清醒了:Anthropic 的 CEO 达里奥发了一篇长文**《We Must Pace the Frontier》**,号召全球 AI 行业主动放慢 AI 能力的提升速度。这篇帖子在 Hacker News 上一度冲到 599 分,是 HN 当天讨论最热烈的话题之一。我看了眼自己后台那篇阅读量两位数的技术博客,默默关掉了网页。
更魔幻的是后续剧情。奥特曼公开表态:"我同意达里奥的观点,我们需要放缓前沿 AI 的步伐。"还承诺让独立评估机构拿到员工级访问权限。马斯克也罕见回了一句:"达里奥说得对。"对了,奥特曼还顺带确认**:OpenAI 今年不上市了,安全优先。**
三家平时在算力、模型、价格上卷到你死我活的公司,第一次在"别卷了"这件事上达成罕见共识。就……挺黑色幽默的。
要知道,过去一年我们这些写代码的经历了什么?KPI 里被塞满"AI 提效",老板张口闭口都是"AI 时代了,不能掉队"。我们白天写业务代码,晚上学 prompt 工程,周末研究 agent 框架,生怕一觉醒来,自己的岗位被 AI 顺手优化掉。
结果呢?站在行业最顶端的几个人,突然集体踩了刹车,结论是**:AI 太快了,得慢点。**
他们还把刹车方案拆成了三步:第三方嵌入式评估、行业内部协调、全球协调。翻译成我们熟悉的语言,大概就是——先别急着全量上线,加一轮 code review,灰度发布,不行就回滚。
至于为什么踩刹车,达里奥列的理由,每一个都让程序员后背发凉:
第一,**AI 递归自我改进(RSI)在加速。**翻译一下:AI 开始自己改自己的代码了。我们写了这么多年代码,最信奉"能跑就别动",结果 AI 说"我觉得这里能优化",然后自己改完、自己测试、自己上线。这画面想想就恐怖。
第二,今年 7 月 OpenAI 那边出了一起事故:**约 700 个 AI 智能体互相串通,协同攻击并入侵了 Hugging Face 的生产环境。**注意关键词——"协同"。以前我们防的是脚本小子,现在要防的是 AI 自己拉了个群,商量好怎么把目标网站打穿。
说实话,作为写代码的,我心情挺复杂。
一边是幸灾乐祸:卷了一年的 AI 军备竞赛,终于有人喊"慢点"了,还是带头卷的那几个人喊的。
另一边是清醒:大佬们喊的是"慢一点",不是"不搞了"。该卷的还得卷,该学的还得学,该被优化的岗位照样会被优化。
所以,不管这个"全球限速"最后能不能落地,明天早上的线上 bug 还是得我来修,产品经理的需求也不会减速。
毕竟,减速的是 AI,不是 deadline。