Maja 是 OpenAI 的研究员,致力于改进控制和对齐技术,帮助应对 AI 系统能力和自主性不断提升带来的挑战。她的团队将长期研究与实际部署结合起来:一方面研究如何监督、约束和纠正日益智能的系统等长期问题,另一方面也构建目前已在内部和外部实践中使用的监督系统(参见近期的 代码审查和Codex 操作监控工作)。
Jason 是 OpenAI 的技术团队成员,负责对齐和模型行为方面的工作。
James 是 OpenAI 的研究员,研究模型个性、后训练和个性化。
Gabriel Wu 是 OpenAI 的 AI 对齐研究员。此前,他在 Harvard 负责AI Safety Student Team,并在 Harvard 获得计算机科学硕士学位和数学学士学位。
Evan 是 SecureBio Detection 的研究科学家,负责开发计算流程和检测方法,从深度宏基因组测序数据中发现威胁。转向生物安全领域之前,他曾在 Zoba 担任数据科学与工程副总裁;Zoba 是一家为共享出行行业提供优化服务的初创公司。他拥有运筹学博士学位。闲暇时,他也常花心思钻研酸面团披萨。
Xiangyu 是 OpenAI 的研究员,致力于提升大型语言模型的鲁棒性。他此前在 Princeton University 攻读博士,导师是 Prateek Mittal 教授和 Peter Henderson 教授。
Ollie 是 OpenAI 对齐团队的研究员,关注红队测试和控制。此前,他曾在英国 AI 安全研究所(UK AISI)的控制团队工作。
Tom 是 OpenAI 的研究科学家,致力于研究语言模型的可解释性,以推动 AI 安全。他还曾在 2015 至 2022 年间担任 scikit-learn 核心开发者。
Juan 是 OpenAI 安全系统团队的研究员,广泛关注如何降低灾难性风险。他的工作包括对抗鲁棒性训练和自动化红队测试(近期研究)。
Kaiwen 是 OpenAI 的研究员,研究 AI 安全和强化学习。他在 Cornell Tech 获得博士学位,期间研究并教授强化学习、因果推断和大型语言模型。
此前,他曾在 Google、Microsoft 和 Netflix 工作,参与的项目涵盖强化学习基础理论和可扩展的大型语言模型算法。在读研究生之前,Kaiwen 还在 Facebook 工作了两年,负责构建强化学习平台。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。