MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Tessa Alexanian is the Technical Lead for the Common Mechanism, an open-source baseline for nucleic acid synthesis screening developed by the International Biosecurity and Biosafety Initiative for Science (IBBIS). Her previous work has focused on modular lab automation, assessing dual-use risks in synthetic biology projects, bioweapons convention compliance, and creating cultures of responsibility. Tessa wrangled robots to do bioengineering for four years at Zymergen, served for two years as the iGEM Competition’s Safety and Security officer, and has collaborated with organizations including Coefficient Giving and RAND. She was a 2023 CSR Ending Bioweapons Fellow, a 2022 ELBI fellow and 2020 Foresight Fellow.

研究方向:
Biosecurity
Policy and Governance, Biosecurity
Ben Bateman
Coefficient Giving
,
技术 AI 安全事务首席幕僚
—

Ben Bateman 是 Coefficient Giving 技术 AI 安全项目的首席幕僚。此前,他曾任 Mirror Biology Dialogues Fund 运营总监,并在 GiveWell 工作了六年。

研究方向:
战略与预测
Founding and Field-Building
Lucas Le Merlus Schmuck
Coefficient Giving
,
项目运营专员(技术 AI 安全)
—

Lucas 是 Coefficient Giving 技术 AI 安全团队的项目运营专员。此前,他曾在 Bain & Company 担任咨询顾问,并获得 Harvard Kennedy School 公共政策硕士学位。

研究方向:
战略与预测
Forecasting and Strategy, Founding and Field-Building
Max Nadeau
Coefficient Giving
,
项目官员(技术 AI 安全)
—

Max Nadeau 是 Coefficient Giving 技术 AI 安全团队的项目官员。此前,他从事机器学习鲁棒性和可解释性研究。

研究方向:
战略与预测
Forecasting and Strategy, Interpretability, Founding and Field-Building

Greg Kollmer 是 Lucid Computing 的联合创始人。该公司致力于开发安全、可验证的 AI 基础设施。Kollmer 在 Columbia University 攻读工程研究生期间,共同开发了 Palmos——一个用于早期山体滑坡监测的无线传感器网络。

研究方向:
系统安全
Technical AI Governance, AI Systems Security
Jake Mendel
Coefficient Giving
,
项目官员,技术 AI 安全
—

Jake Mendel 是 Coefficient Giving 的技术 AI 安全项目官员,负责为技术研究提供资助。此前,他曾在 Apollo Research 担任研究科学家。

研究方向:
战略与预测
Forecasting and Strategy, Interpretability, Founding and Field-Building

我是一名科学家,研究方向处于 AI 与神经科学的交叉领域。我的职业生涯始于对大脑如何支持感知和行为的研究,并通过计算模型把神经活动与认知联系起来。近十年的学术研究之后——包括在 Stanford University 攻读博士,以及在 Harvard Medical School 从事博士后研究——我转入产业界,希望更广泛地应用这些洞见。

​

目前,我是 OpenAI 的研究员,主要关注两个目标:推进安全研究,确保 AI 系统可靠且符合人类意图;探索 AI 如何加速健康与医学领域的进展。我尤其希望把神经科学和建模方面的经验转化为 AI 工具,既推动科学发现,也增进人类福祉。

​

我始终对智能系统充满好奇,无论是生物系统还是人工系统,也致力于运用相关认识,创造安全、负责任且能带来深刻改变的技术。

研究方向:
实证研究
Capability and Propensity Evaluations, Alignment Training Methods
Luca Righetti
OpenAI
,
威胁建模负责人
—

我在 Center for the Governance of AI 担任高级研究员,负责一个研究先进 AI 系统国家安全威胁的工作方向。我也是 METR 的合作研究者,协助提升系统卡和评估的严谨性,同时在 Forecasting Research Institute 担任高级研究员。

​

我希望指导那些为近期 AI 滥用风险建立严谨威胁模型的项目,尤其是生物安全领域。由于研究可能涉及敏感主题,最终成果也可以是面向决策者的备忘录和简报,而不一定是学术论文。

​

我也希望参与提升危险能力评估报告的科学性和透明度,包括制定标准与检查清单、为模型卡撰写同行评审,以及设计能够推动当前前沿发展的随机对照试验。

研究方向:
Biosecurity
Biorisk, Security, Safeguards
Keri Warr
Anthropic
,
Security Engineer
—

Keri 是 Anthropic 基础设施安全工程团队的技术负责人,负责落实 SL4/5 安全要求,并寻找在差分比较中对防御方更有利的安全工具。

研究方向:
系统安全
AI Systems Security

George Robinson 是一名独立研究员,曾在 Alignment Research Center(ARC)工作,致力于以系统且有理论依据的方法开展机械可解释性研究。他目前希望在伦敦带领一支团队推进这一方向。此前,他在牛津大学攻读博士,专攻代数数论。他现居伦敦,也是 London Initiative for Safe AI(LISA)的成员。

研究方向:
Theory
Interpretability, Theoretical Alignment and Formal Methods

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?