本研究方向将通过概念、实证和理论研究,推进可扩展监督与控制方法。这包括但不限于:为特定失效模式构建模型生物、设计针对这些失效模式的训练流程,以及推进安全论证中的相关子问题。
New York City
Shi Feng 领导一个研究监督与控制的团队。他是 George Washington University 的助理教授。此前,他曾在 Sam Bowman 指导下,于 NYU Alignment Research Group 从事博士后研究。目前,他主要研究欺骗与串谋,重点关注相关倾向以及评估是否贴近现实。
我们会提前分享一份研究计划文档,其中列出一些候选项目。学员也可以围绕研究计划共同构思并提出想法。项目安排将在第二周确定。