迈向大语言模型智能体战略行为的预测模型

MATS 学员:

Jennifer Nzambi, Ares Panos

作者:

Jennifer Za, Aristeidis Panos, Jan Cuhel

引用次数

Citations

摘要:

大语言模型(LLM)越来越多地作为自主智能体参与合作、竞争和协调,但现有行为评估对如何预判实际部署风险的帮助有限。我们大规模研究了七个前沿模型在博弈论情境中的战略决策,分析了 20 多万次决策。通过对照实验,我们发现,看似由自我识别引发的效应,实际来自模型对策略相关性的推断:一个策略相关的陌生人,会引发与策略相关的“自己”同等程度的合作。我们还观察到不同模型家族之间存在显著差异,包括它们对相同“理性”指令(研究者可能借此引导智能体行为)的反应截然相反,以及在重复互动中的宽恕与利用行为明显不同。最后,我们提出一种轻量级预测方法,只需 5 到 10 个校准场景,就能预测模型在留出数据上的行为,平均 R² 为 0.51,最高可达 0.70。这些结果表明,系统性行为评估有助于 AI 智能体部署前的风险评估,也能帮助我们理解它们在战略情境中的决策方式。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

August 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

August 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?