Cody 是 Redwood Research 的技术团队成员,研究 AI 安全。
Micah 是 OpenAI 安全团队的研究员,关注 AI 欺骗、可扩展监督和可监控性。他目前暂时离开加州大学伯克利分校的博士项目;该项目研究如何让 AI 与可影响其行为的人类对齐、强化学习训练可能导致的 AI 操纵,以及推荐系统的影响。
Robert 是研究科学家,也是英国 AI 安全研究所(UK AISI)对齐红队测试小组的代理负责人。该团队通过压力测试模型对齐,发现并理解可能导致失控风险的模型倾向。此前,他主要从事滥用研究,评估防护措施和降低滥用风险的方法,尤其关注开放权重系统。2025 年 1 月,他在 University College London 完成博士学位,研究 LLM 微调和强化学习智能体的泛化能力。
Alex Souly 是英国 AI 安全研究所红队的研究员,负责前沿 LLM 的安全与防护。她参与了部署前评估,以及针对滥用防护措施和对齐的红队测试(可参阅 Anthropic 和 OpenAI 的博客文章),也参与开发了 StrongReject 和 AgentHarm 等开源评估工具。此前,她在 Cambridge 学习数学,在 UCL Dark Lab 学习机器学习,曾在 CHAI 实习;更早之前,她还曾在 Microsoft 担任软件工程师。
Eric Winsor 是英国 AI 安全研究所(UK AI Security Institute)的研究科学家,参与对前沿 AI 模型安全防护措施进行对抗性测试。他在密歇根大学获得计算机工程理学学士学位。
Romeo 正与 AI 未来项目合作,预测详细的 AI 发展情景并制定政策建议。他主要关注算力与安全领域的预测。此前,他曾是 IAPS 政策研究员,并在哈佛大学同时攻读计算机科学硕士学位,研究方向为系统与硬件。
我是一名心灵哲学家,也是 Eleos AI 的研究员,主要研究 AI 意识、能动性与福祉。加入 Eleos 之前,我曾在牛津的 Future of Humanity Institute 和 Global Priorities Institute 工作。我关注的课题包括:探讨道德地位依据的纯哲学研究;借助认知科学,从机制层面理解感知能力与能动性的研究;以及能够揭示 AI 中与福祉相关特征的实证研究。
Matthew Gentzel is a Nuclear Weapons Policy Program Officer at Longview Philanthropy where he works on grantmaking and priorities research related to reducing the risk of large-scale nuclear war. Roughly half of his grantmaking budget concentrates on AI and emerging tech-related nuclear risk issues, where he investigates risks and opportunities related to AI-enabled targeting, information manipulation, and how perceptions of future AI capability impact escalation control in the near-term.
His prior work spanned emerging technology threat and policy assessment, with a particular focus on how advancements in AI may shape the future of influence operations, nuclear strategy, and cyber attacks. He has worked as a policy researcher with OpenAI, as an analyst in the US Department of Defense’s Innovation Steering Group, and as a director of research and analysis at the US National Security Commission on Artificial Intelligence.
Mr. Gentzel holds an MA in strategic studies and international economics from Johns Hopkins School of Advanced International Studies, and a BS in fire protection engineering from the University of Maryland College Park.
Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。
Giorgi Giglemiani 在英国 AI 安全研究所工作,并与他人合著了《Boundary Point Jailbreaking》。此前,他在 LASR Labs 研究由稀疏自编码器潜变量构成的合成激活。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。