MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Krishnamurthy(Dj)Dvijotham 是 Google DeepMind 的资深研究科学家,负责推动安全、可信 AI 智能体的开发。他此前在 ServiceNow Research 创立了 AI 安全研究团队,并在 DeepMind 共同创立了稳健且可验证 AI 团队。他的研究曾获多场顶级 AI 学术会议的最佳论文奖,最近包括 ICML 和 CVPR 2024。他的研究成果推动了 ServiceNow AI 安全测试框架的建立,也已应用于 Google Play Store、YouTube 和 Gemini 等多项 Google 产品。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, AI Systems Security, Theoretical Alignment and Formal Methods
Dan Mossing
Anthropic
,
技术团队成员
—

我是 Anthropic 的可解释性研究员,最关注能够切实提升模型安全性的简单实用方法。更早之前,我曾是一名神经科学家。

研究方向:
实证研究
Misalignment Science, Interpretability
Jacob Merizian
UK AISI
,
研究科学家兼工作流负责人
—

I work at the [UK AI Security Institute](https://www.aisi.gov.uk/). In the past, I’ve done research in high-performance computing, language model pretraining, interpretability, and [hardware enabled governance](https://flexheg.com/).

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science, Technical AI Governance

Seth 是 SecureBio 的研究与政策高级顾问,研究 AI 与生物安全。他此前在 Harvard 获得博士学位,并在 University of Chicago 从事博士后研究。

研究方向:
实证研究
Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Biosecurity

Shi Feng 领导一个研究监督与控制的团队。他是 George Washington University 的助理教授。此前,他曾在 Sam Bowman 指导下,于 NYU Alignment Research Group 从事博士后研究。目前,他主要研究欺骗与串谋,重点关注相关倾向以及评估是否贴近现实。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science

Adam Shai 在实验与计算神经科学领域拥有丰富的研究经验。他在加州理工学院获得博士学位,十余年来一直研究智能行为的神经基础,最近曾在斯坦福大学担任研究员。出于对 AI 安全迫切需求的关注,他将专业经验转向神经网络,致力于开发有原则的方法,控制并对齐日益先进的 AI 系统。

​

Adam 共同创立了 Simplex,并负责该机构的研究工作。Simplex 致力于建立一门研究 AI 系统中表征的科学。

研究方向:
实证研究
Interpretability

直到不久前,我还是墨尔本大学的一名职业数学家,研究领域包括代数几何、数理逻辑、数理物理的若干方向,以及最近的统计学习理论。2025 年初,我离开学术界,加入 Timaeus 负责 AI 安全研究。

研究方向:
实证研究
Alignment Training Methods, Interpretability, Theoretical Alignment and Formal Methods
Saad Siddiqui
Safe AI Forum
,
高级 AI 政策研究员
—

Saad Siddiqui 是 Safe AI Forum 的高级研究员,研究主要 AI 大国之间达成协议的可能性。此前,他曾在新加坡的 Bain & Company 担任管理顾问。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance

Oly 在 Future of Life Foundation 负责寻找并推动有潜力的构想,以现实的 AI 和其他技术发展情景为基础,建设更美好的未来。重点方向包括提升人类集体智能、推动平稳且可控的多智能体转型,以及发展防御性技术。

​

Oly 此前在英国 AI 安全与安保研究所从事失控风险建模与评估,目前仍与 OECD、英国外交联邦及发展事务部(FCDO)、科学创新与技术部(DSIT)以及议员就 AI 治理保持交流。

​

他曾在牛津研究(语言模型)智能体监督和多智能体安全,并于 2021–22 年成为首批 MATS 学员之一。在从事 AI 安全工作前,他是高级数据科学家和软件工程师。

研究方向:
实证研究
能力与倾向评估、政策与治理、技术性 AI 治理、预测与策略、结构性风险与社会动态

Jesse 是 Timaeus 的联合创始人兼执行主任。Timaeus 是一家 AI 安全非营利组织,研究奇异学习理论(SLT)在 AI 安全中的应用,尤其关注可解释性和对齐。Jesse 拥有物理学背景,除参与外联和运营外,还领导 Timaeus 的多个研究项目。

研究方向:
实证研究
Misalignment Science, Interpretability

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?