MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Toby Webster 是 Sentinel Bio 的项目主任,负责研究 AI 与工程生物学交叉领域的风险。此前,他在 RAND Europe 研究过生物 AI 模型的安全性。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Policy and Governance, Biosecurity

David Demitri Africa 是 Resolution 的研究科学家,致力于以可扩展的方式理解 AI 系统的特征和动机,并将研究扩展到超级智能系统。

研究方向:
实证研究
Capability and Propensity Evaluations, Misalignment Science, Alignment Training Methods, Interpretability
Alfie Lamerton
Formation Research
,
创始人兼研究负责人
—

Alfie 是 Formation Research 的创始人兼研究负责人。这家初创研究机构关注 AI 系统带来的锁定效应和权力集中风险。他研究 AI 助推的极权主义、政变和极端权力集中,并认为 AI 系统可能让这些现象在未来更稳定、持续更久、危害更大且影响更广。他目前致力于开发并落实结合治理思路的干预方案,运用技术手段促进验证与合作,以应对这些问题。

研究方向:
实证研究
Technical AI Governance, Structural Risk and Societal Dynamics

Jan 曾从事软件开发十余年,随后于 2023 年转向 AI 安全。他曾参加 ARENA 和 Astra Fellowship 项目,尤其关注大型语言模型(LLM)的脱离上下文推理,也对相关领域的其他问题保持广泛兴趣。

研究方向:
实证研究
Misalignment Science

Caspar Oesterheld 是 Redwood Research 的研究员,致力于提升模型的概念推理能力,也就是让模型能够推理那些答案无法验证、通常需要通过论证来推进的问题。这项工作有很大一部分与 Anthropic 合作完成。

​

此前,他在 Carnegie Mellon University 获得计算机科学博士学位,并担任 Foundations of Cooperative AI Lab 副主任。Caspar 曾发表多智能体 AI 交互、类似 Newcomb 问题中的决策理论,以及模型如何推理概念性问题等方面的研究,也曾担任 MATS、PIBBSS、CLR 和即将开展的 astra 项目的研究导师。

研究方向:
实证研究
AI Control and Monitoring, Structural Risk and Societal Dynamics, Agent Foundations
Neil Chowdhury
Transluce
,
创始团队成员
—

Neil Chowdhury 是 Transluce 的技术团队成员。Transluce 是一家研究实验室,致力于开发理解 AI 系统的工具。此前,Chowdhury 曾在 OpenAI 从事安全研究。

研究方向:
实证研究
Capability and Propensity Evaluations, Misalignment Science, Interpretability

McKenna Fitzgerald 负责 Americans for Responsible Innovation(ARI)的对外事务。ARI 是一家位于华盛顿特区、专注于 AI 政策和倡议工作的组织。此前,她曾任 MATS 研究经理,并协助启动技术治理研究流。加入 MATS 之前,她是 Global Catastrophic Risk Institute 的副主任。她还担任 Magnify Mentoring 董事会成员和 PRISM Research 顾问委员会成员。她拥有加州大学伯克利分校哲学学士学位。

研究方向:
政策与治理
Policy and Governance
Griff Bohm
Juniper Ventures
,
创始管理合伙人
—

我创办过三家成功的企业,出售了其中两家。现在,我开始投资 AI 安全领域。

​

这些年来,我逐渐明白,真正管理和运营一个组织、把精力放在关键事项上,并扩大重要工作的规模,需要具备什么。

研究方向:
创业与领域建设
Founding and Field-Building

Alex Kleinman 是 Active Site 的联合创始人。此前,他曾在 Alvea 参与广谱疫苗研究。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Biosecurity

Sunishchal Dev 是一位 AI 安全研究者,在美国国家标准与技术研究院(NIST)下属的美国 AI 安全研究所、AI 标准与创新中心(CAISI)从事部署前测试,重点关注生物安全。此前,他是 RAND 的 AI 评估研究科学家,负责机器学习工程工作,评估前沿 AI 系统,包括构建生物能力基准、评估开放权重模型的风险,以及开发提升基于 LLM 的评估可靠性的方法。他曾在 MATS 6.0 项目中担任学员,由 Marius Hobbhahn 指导。转向 AI 安全之前,Dev 近十年来一直从事数据科学、机器学习工程和管理咨询工作。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Biosecurity

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?