能力更强,合作更少?LLM 为何无法无成本协作

MATS 学员:

Advait Yadav

作者:

Advait Yadav, Sid Black, Oliver Sourbut

引用次数

Citations

摘要:

大语言模型(LLM)智能体越来越多地参与多智能体系统中的协作,但我们仍不了解合作失败可能从何而来、为何发生。在许多现实协调任务中,从组织内部共享知识到编写代码文档,帮助他人的个人成本微乎其微,集体收益却很大。不过,如果帮助既不会给智能体带来好处,也不会损害它,同时又明确要求它这样做,LLM 智能体是否会合作,目前仍不清楚。我们搭建了一个无摩擦的多智能体环境,排除了合作中的战略复杂性,以专门研究合作行为。结果显示,能力并不能预测合作程度:尽管得到相同的指令、要求最大化群体收益,OpenAI o3 只达到最优集体表现的 17%,而 OpenAI o3-mini 达到 50%。我们通过让一方的智能体通信自动完成,进行因果分解,从而区分合作失败和能力不足,并结合智能体推理分析追溯原因。针对性干预显示,明确的协作流程能让能力较弱模型的表现翻倍;对合作意愿不足的模型,极小的分享激励也能改善表现。研究表明,仅仅扩大模型规模无法解决多智能体系统的协调问题;即使帮助他人毫无成本,仍需要有意识地设计合作机制。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

八月 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

八月 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?