MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Rosie Campbell 是 Eleos AI Research 的总经理。该非营利组织研究 AI 意识与福祉。此前,她在 OpenAI 负责前沿政策议题,例如危险能力评估。再之前,她曾任 Partnership on AI 的安全关键型 AI 负责人,以及加州大学伯克利分校 Center for Human-Compatible AI 助理主任。她拥有研究工程师背景,学位涵盖物理学和计算机科学。

研究方向:
创业与领域建设
Policy and Governance, AI Welfare, Founding and Field-Building

Mike 的职业生涯一直在初创公司和风险投资领域。创立 Halcyon 之前,他是 GPV 的合伙人;这家风险投资公司管理的资金超过 10 亿美元。他还早期投资了多家独角兽公司。

自 2022 年起,Mike 专注于通过资助、投资和孵化新项目,推动 AI 安全和全球韧性领域的发展。

研究方向:
创业与领域建设
Founding and Field-Building
Cozmin Ududec (Coz)
UK AISI
,
评估科学负责人
—

I currently lead the science of evaluation team at the AI Security Institute in London. I joined AISI early in its life, and have worked in several roles, including co-leading the team responsible for our pre-deployment testing programme.

​

I'm generally interested in topics around dangerous capability evals, and understanding agent behaviours and their implications for policy. In particular, I'm interested in:

- Developing predictive statistical models that capture the relationships between LLM performance, task characteristics and LLM characteristics.

- Developing methods to predict when models might cross a capability threshold.

- Developing hinting-based methods for partial progress & estimating gaps in knowledge/skills required to cross thresholds (and track these over time).

​

Before AISI I was chief scientist at a startup in Cambridge, where I led a team of 25 researchers with a mission to optimize decision making in electricity grids, and improve economic efficiency and reduce emissions.

​

I have a PhD in physics from the University of Waterloo and Perimeter Institute for Theoretical Physics. My focus was on reconstructing quantum theory from simple first principles, so we can all stop worrying about the reality of the wave-function.

研究方向:
实证研究
Capability and Propensity Evaluations

Lisa 是 Security Level 5 的首席执行官,也是该 AI 安全技术实验室的创始人。她创立实验室,旨在为前沿 AI 实验室提供技术和战略上的选择空间,帮助它们在未来几年内让核心内部运营达到 SL5(能够抵御重点民族国家级攻击)。她的团队制定了全球首个 SL5 标准,目前正与前沿 AI 实验室合作,试制模拟 SL5 数据中心。SL5 项目汇集了 100 多位来自前沿 AI 实验室、美国情报界和更广泛 AI 安全生态的安全工程专家,共同规划技术路径,力争在 2028 年前建成可抵御民族国家级攻击的 AI 数据中心和前沿 AI 工作流程。Lisa 拥有慕尼黑工业大学(TUM)计算机科学学士学位,曾在 Georgia Tech 从事机器学习研究生研究,也是 Oxford HAIGL Lab 的 AI 安全 DPhil 研究员。创立 SL5 之前,她曾任 IST 高级总监、MIRI 研究负责人,并创立和领导其技术治理团队(负责验证、硬件安全等工作)。2023 年,她以学员身份参加 MATS 3,由 Alex Turner 指导,并协助开创了激活引导技术。Lisa 曾获 2026 年 FLI Fellowship、2025 年 Brains Fellowship、2024 年 Foresight Fellowship 和 Fulbright 奖学金,也曾参加 Entrepreneur First 和 50Years 的 5050 项目。

研究方向:
系统安全
Adversarial Robustness and Safeguards, Policy and Governance, Technical AI Governance, AI Systems Security, Founding and Field-Building

我致力于前沿 AI 与高安全系统的交叉领域,重点是把抽象的安全要求转化为可部署的技术成果,使其能够抵御真实对手的攻击,包括民族国家级攻击和失控情景。

研究重点:

  • 前沿 AI 安全(SL5):保护模型权重、推理系统和实验室基础设施,防范民族国家级威胁和失控故障。
  • AI 对齐与可解释性:机制可解释性、可扩展监督,以及基于监控的干预措施。
  • 安全工程:隔离部署、缩小攻击面,以及高保障运行时设计。
研究方向:
系统安全
AI Control and Monitoring, Adversarial Robustness and Safeguards, Technical AI Governance, AI Systems Security

Alexander Meinke 是 Apollo Research 的研究负责人。他的团队通过实证研究,探讨未来 AI 系统中“密谋”行为可能如何出现。

​

2023 年,他在 MATS 4.0 项目中师从 Owain Evans,开始从事 AI 安全研究。

​

此前,他在德国 University of Tübingen 获得对抗鲁棒性方向的博士学位,并拥有物理学学士和硕士学位。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science

我目前在 Thinking Machines 工作,此前曾共同创立 Workshop Labs。我写过《A History of the Future》等情景分析文章,也与他人合著了《The Intelligence Curse》。在此之前,我从事 AI 安全研究,包括在 MATS 的研究。

研究方向:
战略与预测
Policy and Governance, Forecasting and Strategy, Structural Risk and Societal Dynamics

Teun leads the RL dynamics project at Apollo Research. The RL dynamics project fits under the umbrella of our science of scheming approach. The current main focus is to understand reward-seeking dynamics during reinforcement learning, for which we combine theory and empirics. 

Before that, he worked on control, sandbagging, building an AI superforecaster, and more. He took part in MATS 5.0!

Teun is also a board member for ENAIS and SAIN.  

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science

Luke 是 Thinking Machines 的技术团队成员。他还是《The Intelligence Curse》系列文章的合著者;该系列探讨大规模自动化可能如何逐步削弱人们的经济主体性。

​

此前,他共同创立了 Workshop Labs,这是一家开发以用户为中心模型、旨在应对主体性受损问题的 AI 研究公司,最近已加入 Thinking Machines。在创立 Workshop Labs 之前,他曾任 BlueDot Impact 的 AI 治理和 AI 经济学负责人。在转向 AI 安全之前,他曾在北卡罗来纳州负责地方选举竞选活动并取得胜利。他在 Oxford 学习历史与政治。

研究方向:
战略与预测
Policy and Governance, Forecasting and Strategy, Structural Risk and Societal Dynamics

我是 Alignment Research Center 的执行主任,也担任 NIST 下属 Center for AI Standards and Innovation 的技术顾问。此前,我负责 OpenAI 的语言模型对齐团队。再之前,我在加州大学伯克利分校获得统计学习理论博士学位。

你可能会对我关于对齐的文章、博客、学术论文,或趣味项目感兴趣。

研究方向:
Theory
AI Control and Monitoring, Capability and Propensity Evaluations, Alignment Training Methods, Technical AI Governance, Interpretability, Theoretical Alignment and Formal Methods

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?