05月
23日
Anthropic 首席执行官称 AI 幻觉率或低于人类,AGI 评估标准引行业辩论
牛透社 5 月 23 日消息,人工智能公司 Anthropic 首席执行官达里奥·阿莫迪在“与克劳特共同编程”开发者大会上提出,现有 AI 模型产生“幻觉”频率可能低于人类,挑战业内将“幻觉”视为实现 AGI 主要障碍的共识。
Anthropic 团队曾于 2024 年预测人类或在 2026 年见证 AGI 诞生,并已在 Claude Opus 4 中部署防护机制应对输出错误风险。谷歌 DeepMind 首席执行官德米斯·哈萨比斯以 Anthropic 法务团队因 Claude 模型在法庭文件生成中出错致歉为例,指出 AI 系统在基础事实核查方面存在脆弱性。当前学术界评估体系缺乏人机认知对比框架,部分高阶推理模型能力提升时幻觉率逆向攀升。