法国AI初创公司ZML发布免费推理软件，支持多种AI芯片

英伟达的市场主导地位尚未终结但来自各方的挑战者和替代选择正在不断涌现。法国热门AI初创公司ZML获得图灵奖得主杨立昆背书近日推出了一款推理性能软件可让多款开源大语言模型在多种芯片上运行涵盖英伟达、AMD、谷歌TPU、Apple Metal和英特尔Arc。ZML创始人斯蒂夫·莫兰在接受TechCrunch采访时表示公司新推出的大语言模型推理服务器ZML/LLMD旨在打破现有的技术壁垒让不同芯片以最高可用速度有时甚至更快支撑AI应用场景。莫兰指出随着AI逐步融入工作与日常生活推理优化即处理提示词的过程的重要性已超越模型训练但其背后往往存在诸多问题——软件与架构层面的障碍导致厂商锁定现象严重。在AI成本压力持续上升的背景下实现多种芯片的最优性能不仅是技术层面的突破也可能成为市场格局的颠覆因素。ZML希望为企业和云服务商提供混合使用多种芯片的选择其中一些芯片成本更低或能耗更少。我们的理念是让用户重新掌握构建自身系统的主动权实现真正的效率提升让AI得以更广泛地普及莫兰说道。莫兰观察到这类软件支持有助于新兴AI芯片厂商尤其是欧洲的一批企业包括Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。不过在他看来比地域更重要的是ZML能与这些公司共同探索全球前所未有的事情。这并不意味着莫兰看空英伟达。恰恰相反部分原因在于英伟达现有的供应能力。他表示ZML与这家AI芯片巨头保持着良好关系而英伟达也一直在为推理需求的爆发做积极准备。推理领域的投资热度极高业界甚至将这一趋势称为推理淘金热。因此ZML面临多方竞争包括近期估值达130亿美元的Baseten、开源项目vLLM创始团队成立的Inferact以及SGLang背后的商业公司RadixArk。vLLM和SGLang与LLMD存在一定竞争关系但莫兰对ZML的期望远不止于此。我们已经到达参与芯片协同设计的阶段他说。他还表示ZML这支仅有20人的精干团队正是这家巴黎初创公司能够快速迭代、持续推出新产品的关键所在。小而精的团队背后资金实力同样不容小觑。凭借莫兰此前担任Zenly工程副总裁的成功经历——该公司于2017年被Snapchat以九位数价格收购——ZML从多家风险投资机构募得2000万美元投资方包括哈里·斯特宾斯创立的20VC、commit、AALVC、Drysdale Ventures、扎维尔·尼尔的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures。与ZML于2024年发布、2025年3月更新的首个公开项目一款以推理为核心的机器学习框架不同ZML/LLMD并非开源但以免费产品形式上线初期目标是收集用户使用数据。我宁愿先观察和衡量再在最有效的地方实现变现而不是一开始就因为过于贪婪而自断增长之路莫兰说。ZML/LLMD何时转为付费产品、最终市场反响如何目前尚无定论。但从股东名单来看已有不少知名创始人给予关注包括Dagger和Docker创始人所罗门·海克斯、Hugging Face联合创始人克莱门特·德兰格和朱利安·肖蒙以及如今供职于AMI Labs的杨立昆。这也进一步印证了欧洲AI创业公司完全可以立足本土构建世界级产品的可能性。ZML只能诞生在巴黎莫兰说。QAQ1ZML/LLMD是什么它能解决什么问题AZML/LLMD是法国AI初创公司ZML推出的大语言模型推理服务器支持多款开源大语言模型在英伟达、AMD、谷歌TPU、Apple Metal、英特尔Arc等多种芯片上运行。它的核心价值在于打破软件与架构壁垒消除厂商锁定让不同芯片以最高可用速度支撑AI推理任务帮助企业实现混合芯片部署降低成本和能耗。Q2ZML/LLMD是免费的吗什么时候会收费A目前ZML/LLMD以免费产品形式上线ZML的目标是先积累用户使用数据再考虑在最合适的环节实现商业变现。创始人莫兰表示不希望因过早收费而阻碍产品增长。至于何时转为付费模式目前尚无明确时间表。Q3ZML面临哪些主要竞争对手AZML在推理优化市场面临多方竞争主要对手包括估值高达130亿美元的Baseten、由开源项目vLLM创始团队成立的Inferact以及SGLang背后的商业公司RadixArk。不过ZML创始人莫兰表示公司的目标比单纯的推理服务更为宏大已延伸至芯片协同设计领域。