如何加入 MATS

想申请 MATS,或想进一步了解项目要求?想知道如何提高入选机会?我们整理了一些建议,帮助你更充分地展示自己的优势。

我们希望招募什么样的申请者?

MATS 希望招募对 AI 安全、对齐和治理有强烈使命感,并具备投身前沿研究所需技能与思维的人才。

最终只有约 4%–7% 的申请者入选,竞争相当激烈。成功入选者背景多元,从本科生到业界专业人士都有。最突出的申请者通常清楚地认同项目使命,在所选细分方向上具备研究成果或相关能力,并能提供有说服力的推荐。申请流程包括通用申请和细分方向专项申请,通常还会安排编程测试或研究样本等评估。准备申请时,可以着力展示自己的能力、积累相关研究经验,并参与 AI 对齐社群。主动准备有助于提高加入 MATS、为这一领域作出切实贡献的机会。

申请准备建议

1. 了解项目使命和导师的选拔重点

MATS 是由慈善捐赠资助的非营利项目,因此我们在 AI 行业没有财务利益。我们唯一的目标是降低 AI 带来的灾难性风险。我们希望招募真正认同对齐、安全和负责任治理使命的人,而不只是笼统地想在 AI 行业发展的人。你应当已经了解 AI 风险模型和这一领域的总体目标。
‍

MATS 学员的背景多种多样,包括:

  • 希望转向 AI 对齐、安全或治理领域的业界人士,涵盖初入职场的工程师、资深研究人员和技术负责人
  • 具备较强研究潜力的本科生
  • 相关领域的博士生或近期博士毕业生
  • 希望转向技术 AI 安全工作的治理或政策专业人士,包括资深政策制定者

无论背景如何,导师都会关注你是否能快速学习、做好研究并产出有意义的成果。论文、博客文章、开源项目和其他扎实的研究贡献,都能展现你的能力。

‍

2. 如何增强申请竞争力

积累研究经验:

  • 参加 SPAR、PIBBSS 等研究项目,或利用其他 AI 对齐学习资源(见下方列表)。
  • 攻读 AI 安全相关硕士或博士学位,并寻找优秀的导师。
  • 围绕自己感兴趣的研究主题,开展自主研究项目。

提升技术能力:

  • 提升机器学习工程和软件工程能力。
  • 参加 ARENA 或 ML4Good 等技术训练营。
  • 如果申请的技术细分方向需要编程筛选,请多练习编程题。

让自己的能力被看见:

  • 发表博客文章,公开分享研究发现,逐步积累成果记录并建立有力的推荐关系。

利用学习资源:

‍

其他 AI 对齐、安全与治理资源

项目与培训:

职业发展:

我们推荐阅读 80,000 Hours 职业指南和播客系列。80,000 Hours 招聘板、Effective Altruism 机会板和 AISafety.com 招聘板汇集了有助于降低 AI 风险的相关职位。Emerging Tech Policy Careers为希望从事美国 AI 政策工作的人提供专业职业建议和资源。我们还推荐这篇关于培养相关能力的文章。

以下机构提供免费的个人职业咨询:80,000 Hours、Successif(面向转入 AI 风险降低工作的专业人士)、Probably Good、SteadFast(为资深专业人士提供职业转型辅导)、Impact First(面向学生),以及 Magnify Mentoring(面向代表性不足群体)。

资助:

Transformative AI Fund (TAIF)、Coefficient Giving、Manifund、Founders Pledge、Cooperative AI Foundation和Foresight Institute等机构可能为独立研究项目或能力提升提供资助。Y Combinator 正在征集可解释 AI 领域的创业项目,Entrepreneur First 则提供 def/acc 创业加速项目。

其他值得了解的资助方:

学术研究:

如果你计划撰写学位论文或开展其他独立研究,Effective Thesis可以帮助你寻找高影响力的研究主题,并提供指导。我们建议你联系他们,咨询 AI 对齐方向的研究项目。

社群:

  • LessWrong和AI Alignment Forum适合分享想法并获得社群反馈;AI Alignment Slack 则有助于寻找合作伙伴。
  • 如需办公空间,可以申请伯克利的 FAR Labs 或伦敦的 LISA。

更多资源:

可以查看 Arkose、BlueDot Impact和AISafety.com的资源列表。若想了解 AI 对齐领域的最新进展,我们推荐阅读 Don’t Worry About the Vase、Transformer和ACX等博客,以及 Import AI、Dwarkesh、AXRP和The Inside View等播客。