Toby Webster 是 Sentinel Bio 的项目主任,负责研究 AI 与工程生物学交叉领域的风险。此前,他在 RAND Europe 研究过生物 AI 模型的安全性。
David Demitri Africa 是 Resolution 的研究科学家,致力于以可扩展的方式理解 AI 系统的特征和动机,并将研究扩展到超级智能系统。
Alfie 是 Formation Research 的创始人兼研究负责人。这家初创研究机构关注 AI 系统带来的锁定效应和权力集中风险。他研究 AI 助推的极权主义、政变和极端权力集中,并认为 AI 系统可能让这些现象在未来更稳定、持续更久、危害更大且影响更广。他目前致力于开发并落实结合治理思路的干预方案,运用技术手段促进验证与合作,以应对这些问题。
Jan 曾从事软件开发十余年,随后于 2023 年转向 AI 安全。他曾参加 ARENA 和 Astra Fellowship 项目,尤其关注大型语言模型(LLM)的脱离上下文推理,也对相关领域的其他问题保持广泛兴趣。
Caspar Oesterheld 是 Redwood Research 的研究员,致力于提升模型的概念推理能力,也就是让模型能够推理那些答案无法验证、通常需要通过论证来推进的问题。这项工作有很大一部分与 Anthropic 合作完成。
此前,他在 Carnegie Mellon University 获得计算机科学博士学位,并担任 Foundations of Cooperative AI Lab 副主任。Caspar 曾发表多智能体 AI 交互、类似 Newcomb 问题中的决策理论,以及模型如何推理概念性问题等方面的研究,也曾担任 MATS、PIBBSS、CLR 和即将开展的 astra 项目的研究导师。
Neil Chowdhury 是 Transluce 的技术团队成员。Transluce 是一家研究实验室,致力于开发理解 AI 系统的工具。此前,Chowdhury 曾在 OpenAI 从事安全研究。
McKenna Fitzgerald 负责 Americans for Responsible Innovation(ARI)的对外事务。ARI 是一家位于华盛顿特区、专注于 AI 政策和倡议工作的组织。此前,她曾任 MATS 研究经理,并协助启动技术治理研究流。加入 MATS 之前,她是 Global Catastrophic Risk Institute 的副主任。她还担任 Magnify Mentoring 董事会成员和 PRISM Research 顾问委员会成员。她拥有加州大学伯克利分校哲学学士学位。
我创办过三家成功的企业,出售了其中两家。现在,我开始投资 AI 安全领域。
这些年来,我逐渐明白,真正管理和运营一个组织、把精力放在关键事项上,并扩大重要工作的规模,需要具备什么。
Alex Kleinman 是 Active Site 的联合创始人。此前,他曾在 Alvea 参与广谱疫苗研究。
Sunishchal Dev 是一位 AI 安全研究者,在美国国家标准与技术研究院(NIST)下属的美国 AI 安全研究所、AI 标准与创新中心(CAISI)从事部署前测试,重点关注生物安全。此前,他是 RAND 的 AI 评估研究科学家,负责机器学习工程工作,评估前沿 AI 系统,包括构建生物能力基准、评估开放权重模型的风险,以及开发提升基于 LLM 的评估可靠性的方法。他曾在 MATS 6.0 项目中担任学员,由 Marius Hobbhahn 指导。转向 AI 安全之前,Dev 近十年来一直从事数据科学、机器学习工程和管理咨询工作。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。