MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

我在 SecureBio 担任 AI 研究负责人,专注于生物安全领域的 AI 评估。此前,我在 Convergent Research 担任研究员,从事 far-UVC 空气消毒研究,并在 Hannover Medical School 获得病毒学博士学位。

工作之余,我喜欢阅读、主持桌上角色扮演游戏、拍云、徒步和打鼓。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Biosecurity

Peter Wildeford 是 The AI Policy Network 的政策负责人。该组织致力于推动两党共同支持相关政策,为美国应对 AI 超级智能做好准备。他曾在 Good Morning America、The Daily Show、TIME、Politico、The Information、TechCrunch 和 Transformer 等媒体谈论 AI。此前,他共同创立了 Institute for AI Policy and Strategy;在此之前,他做了五年数据科学家和软件工程师。他还是 Metaculus 排名前 20 的预测者,并在多项预测竞赛中取得优异成绩。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance, Forecasting and Strategy
Ross Matican
Halcyon Futures
,
投资人与资助方
—

Ross 的职业经历横跨灾难性风险缓解、创业和市场研究。在 Halcyon,他专注于网络防御、前沿 AI 验证与控制,以及生物安全领域的投资和项目孵化。

加入 Halcyon 之前,他曾在 Bessemer Venture Partners 工作。他还创立了 Tailwinds,为早期 AI 初创公司提供产品营销咨询;职业生涯则始于 The Information 的科技记者工作。

Ross 曾参加 BlueDot Impact 课程,也获得过 Cosmos Institute 的资助。

研究方向:
创业与领域建设
Biosecurity, AI Systems Security, Founding and Field-Building
Askar Kleefeldt
SynX Therapeutics Ltd
,
联合创始人,负责发现与战略
—

Askar 是 SynX Therapeutics 的联合创始人。这家总部位于伦敦的生物技术初创公司正在开发一种用于肽类疗法的快速药物发现平台。他的工作涉及药物发现、医疗对策和合成基因组学等领域的合成生物学技术开发。在 Cambridge 的 MRC Laboratory of Molecular Biology 攻读博士期间,Askar 开发了兆碱基规模的 DNA 组装和大肠杆菌(E. coli)全基因组合成方法。

​

Askar 还研究过生物安全和生物经济相关政策,并通过 DG HERA 的 Joint Industrial Cooperation Forum 参与欧盟医疗对策政策工作。

研究方向:
Biosecurity
Policy and Governance, Biosecurity
Onni Aarne
IAPS
,
高级研究员
—

Onni Aarne 是 Institute for AI Policy and Strategy(IAPS)的算力政策研究负责人,并正在 IAPS 筹建新的机构韧性研究方向。

​

Onni 自 2022 年起研究算力政策,最为人熟知的是他在硬件支持的机制方面的工作,包括位置验证和 flexHEGs。近期,他还研究了 AI 完整性及其他应对权力过度集中的干预措施。

​

他拥有 University of Helsinki 计算机科学学士学位和数据科学硕士学位。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance, Structural Risk and Societal Dynamics

Nick Fitz 是 Juniper Ventures 的创始人兼普通合伙人。此前,他共同创立并领导了 Momentum——一家 AI 捐赠者互动公司,该公司于 2025 年被 Virtuous 收购。

研究方向:
创业与领域建设
Founding and Field-Building
Guy
SL5 Task Force
,
技术团队成员
—

Guy 是 Security Level 5(SL5)的研究员。这个 AI 安全技术实验室致力于为前沿 AI 实验室提供技术和战略上的选择空间,帮助它们在未来几年内让核心内部运营达到 SL5,即能够抵御重点民族国家级攻击。团队制定了全球首个 SL5 标准,目前正与前沿 AI 实验室合作,试制模拟 SL5 数据中心。SL5 项目汇集了 100 多位来自前沿 AI 实验室、美国情报界和更广泛 AI 安全生态的安全工程专家,共同规划技术路径,力争在 2028 年前建成可抵御民族国家级攻击的 AI 数据中心和前沿 AI 工作流程。

​

在 SL5,Guy 负责数据中心项目、智能体安全研究,以及实现 SL5 所需的多个工作模块。此前,他曾研究语言模型的高维几何结构、算法和图论,也从事高性能计算(HPC)硬件的底层工程,以及底层和嵌入式系统的漏洞研究与工程工作。

​

他还参与创作了一部关于 AI 的音乐剧,于 2025 年首演,名为 Out of This Box: The Last Musical (Written by Humans)。

研究方向:
系统安全
AI Systems Security

Joe 是 Guidelight AI Standards 的研究人员,负责安全前沿 AI 开发实践相关的标准和评估。此前,他曾在 Forethought 从事威胁建模,在 GovAI 研究 AI 治理,在 LG AI Research 研究多语言 LLM,并在 MIT 从事实证机器学习安全和计算认知科学研究。

研究方向:
实证研究
Misalignment Science, Policy and Governance, Technical AI Governance, Structural Risk and Societal Dynamics

我主要想研究:随着高度先进的 AI 不断发展,怎样的未来才是好的?这包括社会可能如何组织,以及未来可能出现哪些类型的 AI。我也会做一些关于语言模型心理特征的实证研究。我真正开始研究工作的契机是 MATS 4.0,当时我研究的是预测模型的能动性理论。

研究方向:
战略与预测
Forecasting and Strategy, Structural Risk and Societal Dynamics, Agent Foundations

Yawen Duan 是 Safe AI Forum(SAIF)的高级研究员,研究如何通过国际协调和技术治理来管理先进 AI 带来的极端风险。他关注自主性不断增强的 AI 系统所带来的风险,包括如何设定并落实风险阈值和红线,以及如何在部署后评估和监控智能体。此前,他在 Concordia AI 担任 AI 安全研究经理,负责制定《前沿 AI 风险管理框架》(与 Shanghai AI Lab 共同发布)。

研究方向:
政策与治理
Capability and Propensity Evaluations, Policy and Governance, Technical AI Governance

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?