MATS 学员:
Kristina Kempkey
作者:
Kristina Kempkey, Seán Boddy, Catherine Ge-Wang
引用次数
摘要:
关于先进 AI 与战争风险的研究几乎都聚焦于大国冲突,理由是核武器国家之间的对抗最可能造成灾难性或生存性伤害。相比之下,非大国冲突(NGPC)受到的关注少得多。这里的非大国冲突包括非大国之间、非大国与大国之间的战争、内战、代理人战争,以及涉及非国家行为者的冲突。本文评估一个零假设:在 AI 能力不断提升的时代,非大国冲突作为灾难性风险来源的重要性远低于大国冲突(GPC);并将其与另一种可能性进行比较,即非大国冲突的重要性与大国冲突相差不到一个数量级。我们考察三个子假设:非大国冲突会增加大国冲突的可能性、会加重灾难性恐怖主义造成的预期伤害,以及会加重先进 AI 系统失控造成的预期伤害。我们发现,前两个子假设的零假设缺乏有力支持;第三个假设则应列为后续研究重点,目前还不能下定论。我们还找出五个在不同风险路径中反复出现的中间变量:信息环境质量、决策时间压缩、大国的威胁认知、能力扩散和规范弱化,并认为这些共同因素最值得优先调查和干预。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。