发生灾难时,政府可能不得不成为最终保险人,无论是为某个实验室兜底,还是为整个社会承担风险。(不止我这么认为,例如这篇文章也有类似观点。)设计得当的联邦保险兜底机制,可以让造成灾难性后果的负外部成本由相关方承担;设计不当,则只会变成对 AI 公司的补贴。我希望设计出合理的方案,提前做好准备。
我鼓励具备机制设计(也称逆向博弈论)专长的人申请;没有这方面经验也不必因此却步。
我想设计一套合理的美国联邦保险兜底机制,应对 AI 造成的灾难性风险(这里指损失超过约 100 亿美元的灾难)。设计时可以借鉴核能领域的 Price-Anderson 法案和《恐怖主义风险保险法》等先例。
一种方案是开展较为技术性的研究:运用逆向博弈论,设计预测 AI 灾难性风险的机制。这可能需要改进预测市场、对等预测机制等现有预测方法。目标是帮助政府更准确地预测损失,进而按风险水平收取保险费,并鼓励投资于风险缓解措施。我认为,这是设计出有效兜底机制的关键挑战。
另一种方案更接近传统政策研究。研究将比较政府作为最终保险人时的不同做法,例如直接为实验室承保,还是为保险公司提供再保险;又例如精细定价但不额外要求安全措施,还是不尝试按风险定价而直接强制实施安全措施。
还有一种方案更偏宏观,比较联邦保险兜底机制与其他公私合作方式,探讨政府如何管理灾难性风险。我对这个方向的兴趣要低得多。
SF Bay Area
Cristian 是 Artificial Intelligence Underwriting Company(AIUC)的研究学员。保险公司有时也会扮演私人监管者的角色(例如商用核电领域)。他的工作重点是探索如何引导 AI 保险市场,形成有效的私人治理机制。
此前,他曾参加 Centre for the Governance of AI 冬季项目,也曾在 Harvard AI Safety Student Team 担任独立研究员。他拥有 University of British Columbia 哲学硕士学位。
如果有意参与技术论文项目,申请者必须:
所有申请者:
优先考虑:
有帮助的条件:
不太适合的情况:
对于技术类项目,具体范围可能会根据学员的专长自然收窄。我会提出核心难题,第一周里再与学员一起明确需要回答的理论问题,以及需要开展哪些实证调查。
对于非技术类项目,我会介绍几个备选方向,学员先尝试自己感兴趣的项目一周,第二周再共同确定最终方向。