03月
28日
Nvidia 或将以数亿元收购 AI 云提供商 Lepton AI
美国东部时间 2025 年 3 月 27 日,据 The Information周三报道, Nvidia Corp. 正在就收购云端初创公司 Lepton AI Inc. 进行深入谈判。
知情人士透露,这笔交易可能价值数亿美元。对于 Lepton AI 的投资者 CRV 和 Fusion Fund 来说,这将是一次重大退出。这两家风险投资公司大约两年前为该公司领投了 1100 万美元的种子轮融资。
Lepton AI 由 Meta Platforms Inc. 人工智能实验室前研究员贾扬清和白俊杰于 2023 年创立。两人帮助开发了多种行业标准的 AI 工具,包括 Facebook 母公司流行的模型开发框架 PyTorch。据报道,Lepton AI 拥有约 20 名员工,其客户包括多家风险投资支持的初创公司。
该公司的同名云平台针对 AI 工作负载进行了优化。客户可以使用它来训练 AI 模型和执行推理,即在训练完成后在生产中运行神经网络的任务。
Lepton AI 提供了一个可视化界面,用于在其云中设置训练集群。该公司提供多种 Nvidia 显卡供您选择。对于同时训练多个模型的团队,该平台提供了一种工具,可用于集中管理分配给每个项目的硬件数量。
在训练过程中,AI 模型有时会遇到错误,从而降低其输出质量。Lepton AI 平台提供了检测此类错误的功能。它还能发现更细微的技术问题,例如神经网络在训练期间可能使用的内存超过应有的内存的情况。
模型开发完成后,Laptop AI 客户可以将其部署在公司云中经过推理优化的实例上。该平台承诺提供每秒超过 600 个令牌的处理速度,同时将延迟保持在 10 毫秒以下。当需求增加时,自动扩展功能会自动向客户的推理环境添加更多硬件资源。
Lepton AI 使用 vLLM 等开源工具来加速推理。该技术将类似的 LLM 提示合并为单个请求,从而减少了模型必须执行的处理量。开发人员还使用 vLLM 来减少其模型的内存占用。
目前尚不清楚 Nvidia 是寻求收购 Lepton AI 以获得其机器学习人才,还是计划继续提供这家初创公司的云平台。该平台与几家 Nvidia 主要客户的产品竞争。其中一家客户是人工智能云运营商 CoreWeave Inc.,该公司计划于今天晚些时候进行首次公开募股。
就在 Nvidia 可能收购 Lepton AI 的报道发布几天前,有消息称该公司收购了另一家风险投资支持的 AI 初创公司 Gretel Labs Inc.。据报道,这笔交易的价值超过 3.2 亿美元。Gretel 提供用于创建合成数据的工具,这些数据是自动生成的,可用于训练 AI 模型。