Jan 是 Institute for AI Policy and Strategy(IAPS)的研究员,致力于通过技术治理降低 AI 带来的灾难性风险。他目前在分析国家安全领域使用前沿 AI 可能带来的严重风险,并设计蜜罐机制来保护内部 AI 智能体。
加入 IAPS 之前,他曾参加 GovAI 冬季项目和 Pivotal 项目,并在 CISPA Helmholtz Center for Information Security 攻读博士。他此前的研究涉及可解释性、机器学习安全和 AI 对齐。他拥有信息系统学士学位和计算机科学硕士学位。
Alex is a co-founder of [Resolution](https://resolution.org/), a research nonprofit using empirics, theory, and automation to get to higher confidence in alignment. He previously worked at the UK AI Security Institute, where he led strategy and operations for the £30m [Alignment Project](https://alignmentproject.aisi.gov.uk/). Before that, he built [80,000 Hours](https://80000hours.org/)’ automated headhunting product, which has made 50+ placements in AI safety and governance. He also co-founded [LASR](https://www.lasrlabs.org/) and [Leaf](https://leaf.courses/), and co-authored the original [Effective Altruism introductory programme curriculum](https://www.effectivealtruism.org/courses/introductory-program).
Samuel Hammond 是 Foundation for American Innovation 的人工智能政策主任兼首席经济学家,研究重点是 AI 政策,以及新兴技术对制度的影响。他曾任 Niskanen Center 社会政策主任,目前仍是该中心的高级研究员;也曾担任加拿大政府的经济学家,专注于区域经济发展,并在 George Mason University 的 Mercatus Center 从事研究。
Sam 获得了 Saint Mary’s University 经济学学士学位,以及 George Mason University 和 Carleton University 的经济学硕士学位。
Buck 是 Redwood Research 的首席执行官。
Ethan Perez 是 Anthropic 的研究员,领导一个研究 AI 控制、对抗鲁棒性和其他 AI 安全议题的团队。他的兴趣涵盖 LLM 安全的多个领域,曾领导睡眠代理、用语言模型对语言模型进行红队测试、利用 LLM 通过辩论实现 AI 安全,以及展示和改善思维链推理中不忠实现象的研究。更多信息请访问他的个人网站。
Sam 负责 Anthropic 对齐科学团队中的认知监督小组。该小组希望监督 AI 系统时,不仅看其输入和输出是否良好,也要检查支撑这些行为的认知过程是否存在可疑之处。例如,他们研究如何发现语言模型是否在说谎,包括仅凭输入和输出难以判断的情况。团队同时关注白盒方法(例如基于可解释性的技术)和黑盒方法(例如设计有效提问,了解模型的思维过程和动机)。如需了解更多研究方向,可阅读他的这篇文章。
Neel 负责 Google DeepMind 的机械可解释性团队,尝试通过研究模型内部机制来加深对模型的理解,并以此提升安全性,例如检测欺骗、分析令人担忧的行为,以及监控已部署系统是否产生有害行为。
自 2024 年年中以来,Neel 对大规模推进机械可解释性基础研究的前景更加谨慎,同时更看好务实方法所能带来的实际价值。他减少了基础科学方面的工作,转而更多研究模型生物学,并将可解释性用于监控等现实安全问题。
他花了很多时间指导 MATS 学员,目前已有约 50 位项目校友,也期待继续指导更多学员!
Marius Hobbhahn 是 Apollo Research 的首席执行官,并领导该组织的监控团队。Apollo 是一家 AI 安全研究机构,重点研究密谋行为、评估,以及控制和监控。他入选了 2025 年《TIME》AI 领域百大人物榜单。创立 Apollo 之前,Marius 攻读贝叶斯机器学习博士学位,并在 Epoch 从事 AI 预测研究。
Fabien Roger 是 Anthropic 的 AI 安全研究员,此前曾在 Redwood Research 工作。他的研究聚焦于AI 控制和应对虚假对齐。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。