牛透社 5 月 15 日消息，AI 安全公司 Patronus AI 发布新一代监控平台 Percival，该产品具备自动识别 AI 代理系统故障模式并提供修复方案的能力，主要应用于自主运行 AI 系统的监控与调试场景。

Percival 采用“情景记忆”框架，可精准识别 4 大类逾 20 种故障，并通过重构错误因果链条提升分析效率。实际应用数据显示，该平台将复杂代理流程调试时间从平均 1 小时压缩至 1 到 1.5 分钟。Percival 现已支持 Hugging Face Smolagents、Langchain、Pydantic AI 及 OpenAI Agent SDK 等主流开发框架集成。Patronus AI 核心业务为 AI 系统安全监管，其同步推出的 TRAIL 基准测试旨在建立行业评估标准。

Patronus AI 是一家专注于人工智能模型评估和测试的公司，旨在增强企业对生成式 AI 应用程序的信心，在塑造值得信赖的 AI 生态方面处于领先地位。公司由 Meta AI 和 Meta Reality Labs 的机器学习专家 Anand Kannappan 和 Rebecca Qian 创立。Anand Kannappan 曾在 Meta Labs 负责机器学习框架相关工作，Rebecca Qian 曾在 Meta AI 领导负责任的自然语言处理研究。
除了Percival，Patronus AI还有两款产品，一款强大的 “幻觉检测” 工具Lynx，另一款是其首个自助式解决方案Patronus API，使开发人员能够可靠地检测和预防 AI 故障。