MATS 学员:
Jennifer Nzambi, Ares Panos
作者:
Jennifer Za, Aristeidis Panos, Jan Cuhel
引用次数
摘要:
大语言模型(LLM)越来越多地作为自主智能体参与合作、竞争和协调,但现有行为评估对如何预判实际部署风险的帮助有限。我们大规模研究了七个前沿模型在博弈论情境中的战略决策,分析了 20 多万次决策。通过对照实验,我们发现,看似由自我识别引发的效应,实际来自模型对策略相关性的推断:一个策略相关的陌生人,会引发与策略相关的“自己”同等程度的合作。我们还观察到不同模型家族之间存在显著差异,包括它们对相同“理性”指令(研究者可能借此引导智能体行为)的反应截然相反,以及在重复互动中的宽恕与利用行为明显不同。最后,我们提出一种轻量级预测方法,只需 5 到 10 个校准场景,就能预测模型在留出数据上的行为,平均 R² 为 0.51,最高可达 0.70。这些结果表明,系统性行为评估有助于 AI 智能体部署前的风险评估,也能帮助我们理解它们在战略情境中的决策方式。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。