牛透社 6 月 5 日消息，AI 巨头 Anthropic 发布题为《当 AI 构建自身》（When AI builds itself）的重磅文章，首次系统性披露 AI 在编写和改进自身代码方面的进展，并罕见呼吁全球放缓前沿 AI 研发以防范潜在失控风险。

文章披露，截至 2026 年 5 月，Anthropic 代码库中超过 80% 的代码由 AI 助手 Claude 自主编写；2026 年第二季度工程师平均代码交付量达 2024 年同期的 8 倍。在具体任务中，Claude 优化代码的加速能力一年内从 3 倍飙升至 52 倍；排查故障时间从人类需 2 到 3 天缩短至 AI 仅需 2 小时。AI 独立稳定完成任务时长从“每 7 个月翻倍”缩短至“每 4 个月翻倍”。

Anthropic 警告，在充足算力下，AI 可能形成“递归自我改进”的能力闭环，其到来时间或早于预期，微小的“不对齐”行为可能在迭代中被放大，导致人类失去控制。为此，公司建议国际社会建立全球协调机制，必要时主动放慢或暂停前沿 AI 发展，但承认机制落地困难，因 AI 训练易隐藏且秘密违约的商业诱惑大。

值得注意的是，Anthropic 于 6 月 1 日向 SEC 秘密递交 S-1 注册声明草案，启动 IPO 筹备。目前公司年化收入已突破 470 亿美元，估值达 9650 亿美元，超越竞争对手 OpenAI。