Cristian Trout

发生灾难时,政府可能不得不成为最终保险人,无论是为某个实验室兜底,还是为整个社会承担风险。(不止我这么认为,例如这篇文章也有类似观点。)设计得当的联邦保险兜底机制,可以让造成灾难性后果的负外部成本由相关方承担;设计不当,则只会变成对 AI 公司的补贴。我希望设计出合理的方案,提前做好准备。

​

我鼓励具备机制设计(也称逆向博弈论)专长的人申请;没有这方面经验也不必因此却步。

研究小组概览

我想设计一套合理的美国联邦保险兜底机制,应对 AI 造成的灾难性风险(这里指损失超过约 100 亿美元的灾难)。设计时可以借鉴核能领域的 Price-Anderson 法案和《恐怖主义风险保险法》等先例。

​

一种方案是开展较为技术性的研究:运用逆向博弈论,设计预测 AI 灾难性风险的机制。这可能需要改进预测市场、对等预测机制等现有预测方法。目标是帮助政府更准确地预测损失,进而按风险水平收取保险费,并鼓励投资于风险缓解措施。我认为,这是设计出有效兜底机制的关键挑战。

​

另一种方案更接近传统政策研究。研究将比较政府作为最终保险人时的不同做法,例如直接为实验室承保,还是为保险公司提供再保险;又例如精细定价但不额外要求安全措施,还是不尝试按风险定价而直接强制实施安全措施。

​

还有一种方案更偏宏观,比较联邦保险兜底机制与其他公私合作方式,探讨政府如何管理灾难性风险。我对这个方向的兴趣要低得多。

项目期间的工作地点:

SF Bay Area

导师

Cristian Trout
Artificial Intelligence Underwriting Company
,
研究学员
Policy and Governance
Forecasting and Strategy

Cristian 是 Artificial Intelligence Underwriting Company(AIUC)的研究学员。保险公司有时也会扮演私人监管者的角色(例如商用核电领域)。他的工作重点是探索如何引导 AI 保险市场,形成有效的私人治理机制。

​

此前,他曾参加 Centre for the Governance of AI 冬季项目,也曾在 Harvard AI Safety Student Team 担任独立研究员。他拥有 University of British Columbia 哲学硕士学位。

阅读更多

我们希望招收的学员

如果有意参与技术论文项目,申请者必须:

  • 具备机制设计或预测机制设计经验(至少修过相关研究生课程)
  • 有实验设计经验,例如开展预测调查

​

​

所有申请者:

优先考虑:

  • 在相关领域发表过论文
  • 有研究生阶段的研究经验

​

有帮助的条件:

  • 理解什么样的政策论文切实可行、能发挥作用(加分项:看到“迈向……原则导向方法的框架分类”这类论文标题时,你也会忍不住翻白眼)
  • 了解保险如何运作
  • 写作能力强

​

不太适合的情况:

  • 希望对研究方向拥有很大自主决定权

项目遴选

对于技术类项目,具体范围可能会根据学员的专长自然收窄。我会提出核心难题,第一周里再与学员一起明确需要回答的理论问题,以及需要开展哪些实证调查。

​

对于非技术类项目,我会介绍几个备选方向,学员先尝试自己感兴趣的项目一周,第二周再共同确定最终方向。