09月
05日
Gimlet 实验室突破 AI 驱动编译器优化:PyTorch 推理速度提升 87% 及万倍响应优化
牛透社 2025 年 9 月 5 日消息,Gimlet 实验室发布基于大语言模型的自动化优化系统,相较传统 PyTorch Eager 模式实现推理速度 87% 提升,并达成 1.87 倍平均加速。
Gimlet 实验室专注于 AI 辅助编译器优化技术,其创新方法通过集成 Anthropic、DeepSeek、OpenAI 等前沿模型,实现无需修改用户代码的自动化 Metal GPU 内核生成。该研究在配备 Apple M4Max 芯片的 Mac Studio 上验证了 94% 的代码正确实现率,并将传统数周开发流程缩短至分钟级。