过去几年，只要聊到跑大模型，大家脑子里默认就是英伟达的卡。这种局面短期内还结束不了，但挑战者确实从四面八方冒了出来。最近巴黎一家叫 ZML 的初创公司丢出了一件免费工具，想做的事情挺大胆：让同一套开源大模型，能在英伟达、AMD、谷歌 TPU、苹果 Metal 甚至英特尔 Arc 的芯片上都跑得一样快。
一个被图灵奖得主点名的小团队
ZML 的创始人叫 Steeve Morin，圈内人可能更熟悉他上一个作品——Zenly，那个被 Snapchat 在 2017 年砸了九位数美元收购的社交地图应用，Morin 当时是工程副总裁。这家新公司本身规模不大，只有 20 个人，却让图灵奖得主、AI 圈泰斗 Yann LeCun 都公开点过赞。光看阵容，ZML 不像临时起意凑热闹的团队。
他们刚发布的产品叫 ZML/LLMD，本质上是一个大模型推理服务器。Morin 跟 TechCrunch 说，他们的野心是打破现在各家芯片各自为战的孤岛状态，让不同的芯片都能以自己最快的速度、甚至比原厂还快的速度去跑 AI 任务。
它到底在解决什么麻烦
随着 AI 一点点渗进我们的工作和日常，怎么把模型”跑起来”（也就是推理、处理用户提问）这件事，重要性已经悄悄超过了训练模型本身。可现实中这块体验并不顺滑，软件架构的壁垒把大家锁死在单一供应商身上，想换芯片？成本高得劝退。
Morin 的原话是：想法是”把创造自己系统的权力还给大家，让 AI 真正扩散开，而不是被几家大厂攥在手里”。
对企业来说，这意味着可以混搭不同类型的芯片——有些更便宜，有些更省电。ZML 这套软件辅助，顺势也能帮一把那些名气没那么响的新锐芯片厂，Morin 一口气点了好几家欧洲的：Axelera、Fractile、Kalray、Q.ANT、SiPearl 等等。对他而言，产地其实没那么重要，关键是 ZML 能和他们一起做”全世界还没人做过的事”。
为什么大厂都在盯着”推理”这块肥肉
推理赛道早就是兵家必争之地，有人直接把它叫”推理淘金热”。ZML 的对手不算少：估值冲到 130 亿美元的 Baseten、脱胎于开源项目 vLLM 的 Inferact、背后是 SGLang 的 RadixArk。vLLM 和 SGLang 跟 LLMD 多少有些重叠，但 Morin 的胃口明显更大。
- 他放话说，ZML 已经走到”和芯片一起做联合设计”的阶段，不只是写上层软件。
- 团队虽小，钱却不少——早年就融了 2000 万美元，投资方里既有 Harry Stebbings 的 20VC，也有 Xavier Niel 的 Kima Ventures。
- 股东名单也挺唬人：Docker 创始人 Solomon Hykes、Hugging Face 的 Clément Delangue 和 Julien Chaumond，还有 LeCun 本人。
有意思的是，Morin 并不唱衰英伟达。他说双方关系其实不错，毕竟英伟达自己也在为推理时代的到来做准备。ZML 想做的是在英伟达之外，给大家多一个不绑死的选择。
免费，但野心一点不小
ZML 最早在 2024 年开源过一个机器学习框架，今年三月还更新过。但这次的 LLMD 没有走开源路线，而是以免费产品的形式推出，目的很实在——先看看大家怎么用，再决定怎么赚钱。”我宁愿先量一量，在最有价值的地方收钱，也不想一上来就贪心把增长憋死。”Morin 这么说。
现在判断 LLMD 什么时候变成付费产品、又能拿下多少用户，显然还太早。但从资本和同行的反应看，欧洲确实开始长出能在家门口做成事的 AI 公司了。Morin 说得很直白：”除了巴黎，我哪儿都做不出 ZML。”
免费策略很聪明，先让开发者用起来才有数据。不过 LLMD 没开源，企业敢不敢把核心推理压在一个 20 人的小团队身上，我觉得还得打个问号。欧洲能长出这种公司确实不容易。
这种思路其实比又造一块新芯片更有意思。企业最怕的就是被一家供应商绑死，真能用一套软件把英伟达、AMD、TPU 都调度起来，采购议价空间就出来了。就怕实际跑下来，优化效果没宣传的那么神。