暂无菜单项

MIT联手微软搞了个新系统,让AI Agent工作流省电73%、省钱75%

发布于
1

AI Agent工作流正在成为云计算的骨干,但它们也是耗能和成本的”黑洞”。好消息是,MIT和微软的研究人员最近开发了一个叫Murakkab的新系统,可以把AI Agent工作流的计算需求降低65%,能耗降低73%,成本降低75%——而且不影响性能。

这个成果发表在了USENIX操作系统设计与实现研讨会上。论文第一作者Gohar Chaudhry(MIT研究生)说:”Agent工作流正变得非常复杂,迅速成为云服务商业务的核心。能耗是一个巨大的担忧。”

MIT Murakkab系统
Murakkab系统优化AI Agent工作流的资源配置

Agent工作流为什么这么费资源?

Agent工作流是由多个AI模型、工具(数据库、Python程序)组成的系统,动态完成多步骤任务。问题在于:这些工作流非常碎片化,配置空间巨大,开发者很难手动优化。

“即使你想手动完成所有配置,你也不太可能最优地配置工作流,因为可能的配置空间太大了。”—— Gohar Chaudhry, MIT研究生

Murakkab怎么做:自动配置+动态调整

Murakkab(乌尔都语,意思是”事物的组合”)的核心是让系统自动处理配置和优化。开发者只需要用大白话描述想让工作流做什么,Murakkab会自动识别最好的模型和工具,判断哪些可以并行,动态优化配置。

最关键的是,这个系统是动态的。如果明天出了一个新的AI模型或GPU加速器,开发者不需要做任何改动——Murakkab会自动适配。

性能数据:省电73%,省钱75%

研究人员在视频问答和代码生成等场景测试Murakkab,结果非常亮眼:只需要其他方法所需计算量的约35%,只消耗约27%的能源,成本不到25%。

Chaudhry说,这种级别的优化,开发者手动几乎不可能做到。系统在准确度只下降约2%的情况下,把工作流的能耗降低了一个数量级以上。

下一步:扩展到更复杂的场景

研究团队计划把Murakkab扩展到更复杂的工作流和更大的计算集群。Chaudhry说:”有很大潜力让这些工作流变得更加资源优化,但我们需要在大型云平台的规模上思考这个问题。”


这项研究由半导体研究公司和DARPA部分资助。随着AI Agent工作流变得越来越复杂,像Murakkab这样的优化系统会变得至关重要——在AI能耗越来越受关注的当下,这是一个值得关注的突破。

0 点赞
0 收藏
分享
0 讨论
反馈
0 讨论
热门最新
总结
暂无总结
0 / 600