我关注如何发现并缓解欺骗性对齐,主要通过能力评估和控制方法。希望指导以下方向的项目:
London
我希望招募机器学习工程能力强、并具备技术研究背景的学员。我会每周提供研究指导,但大多数时候,学员应能相对独立地开展实验并决定具体实现细节。我会提出具体项目供学员选择,因此不应期待在 MATS 期间开展自己的研究想法。我非常鼓励方向内合作,通常每个项目会由两到三位学员组成团队,因此沟通与团队协作能力很重要。
我们很可能会先共同选择项目:介绍一系列备选项目,学员也可以进一步完善这些想法。之后每个项目至少会有一位主要导师;部分项目也可能安排共同指导。