MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Sam Arnesen
OpenAI
,
技术团队成员
—

Sam 是 OpenAI 对齐团队的研究工程师。此前,他在 NYU Alignment Research Group 研究可扩展监督,也曾在 Amazon 担任软件工程师。他的研究包括通过自我博弈训练语言模型赢得辩论,以及 OpenAI 近期开展的智能体操作自动审查工作。

研究方向:
实证研究
AI Control and Monitoring, Alignment Training Methods

Janika Schmitt 是 Sentinel Bio 的项目官员。Sentinel Bio 是一家专注于生物技术治理的慈善基金。

​

此前,她曾担任 Institute for Progress 的非驻场研究员,在 University of Cambridge 攻读医学博士期间从事病毒学研究,并在 MIT 参与病原体早期预警工作。她还曾在 Johns Hopkins Center for Health Security、German Center for Infection Research 和 Foresight Institute 担任研究员。

​

Janika 是德国持证医师,曾在 Heidelberg、Oxford 和 Charité Berlin 学习医学。

研究方向:
Biosecurity
Policy and Governance, Biosecurity
Nora Ammann
ARIA
,
项目总监
—

我从事 AI 可信保障和文明韧性研究,致力于构建技术基础,让人们能够独立验证关于 AI 系统行为及其运行基础设施的主张,涵盖安全芯片、软件和多方协作。目前,我是英国 Advanced Research and Invention Agency(ARIA)的项目总监,负责Safeguarded AI 项目。这项研发计划规模约为 6,000 万英镑,旨在构建一套数学保障工具包,让大量 AI 智能体以前所未有的速度和规模产出经过形式化验证的成果,涵盖经过验证的软件、微电子,以及各种信息物理控制系统。加入 ARIA 之前,我共同创立并领导了 Principles of Intelligence(前身为 PIBBSS),该研究机构致力于将跨学科科学知识转化并应用于 AI 安全。我还曾是 Alignment of Complex Systems 研究组的研究附属成员,并在 University of Oxford 的 Future of Humanity Institute 担任研究经理。

研究方向:
创业与领域建设
Technical AI Governance, Structural Risk and Societal Dynamics, Agent Foundations, Theoretical Alignment and Formal Methods, Founding and Field-Building

Alex Chan 是 Asymmetric Security 的首席科学家,负责网络防御和事件响应领域的 AI 工作。此前,他曾任 Salesforce 软件工程总监,领导图形界面智能体的强化学习后训练工作。

研究方向:
系统安全
Capability and Propensity Evaluations, AI Systems Security
Dillon Plunkett
Eleos
,
首席科学家
—

Dillon 是 Eleos AI Research 的首席科学家,负责领导组织在 AI 系统感知能力、道德地位和潜在福祉方面的实证研究。加入 Eleos 之前,他曾是 Anthropic 项目研究员,并在 Subjectivity Lab 从事博士后研究。他在 Harvard 的 Josh Greene 实验室获得认知神经科学博士学位,也在 Harvard 获得哲学学士学位。

研究方向:
实证研究
Interpretability, AI Welfare

Pegah Maham 是 Google DeepMind 前沿政策制定团队的政策制定与战略经理,工作聚焦技术 AI 安全、安全保障与国际治理的交叉领域。她主要关注前沿 AI 风险,例如生物安全和 AGI 安全,并研究风险评估与缓解、威胁建模、外部测试、透明度、系统完整性和模型权重安全等议题。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance, Forecasting and Strategy, AI Systems Security

Geoff 从 2011 年起担任 Y Combinator 合伙人,并于 2019 年初至 2022 年底担任该创业加速器的总裁。他曾与数百家 YC 公司合作,包括 Stripe、Ginkgo、Clever、Helion 和 Boom,并投资了 100 多家公司。职业生涯早期,Geoff 曾参与 Yahoo! Mail 的创建,并担任 Yahoo! 首席产品官直至 2006 年。2009 年被 Apple 收购的 Lala Media,也曾由 Geoff 担任首席执行官。

研究方向:
创业与领域建设
Founding and Field-Building

Charlie 是 Intercept 的联席负责人。Intercept 是一支规模达 5 亿美元的基金,由 Stripe 公益事业团队发起,旨在减轻呼吸道感染带来的负担。此前,Charlie 曾任 Global Health Investment Corporation 董事总经理,并共同创立 Adjuvant Capital。在公共卫生投资领域工作之前,他曾在 Artemis Capital Partners 和 Axia Capital 从事私募股权投资。他的职业生涯始于海地最大的微型金融银行 Sevis Finansye Fonkoze。

​

Charlie 曾主导或参与投资 Curevo Vaccine(被 Eli Lilly 收购)、Vaccine Company(被 Eli Lilly 收购)、Alydia Health(被 Merck 收购)、Iantech(被 Carl Zeiss Meditec 收购)、Eubiologics(Kosdaq:206650)、MDGH(PRV)、Terrestrial Bio、Foundry、Centivax、Excision Biotherapeutics、Codagnix、Endpoint Health、Cytovale 和 Monod Bio。他目前担任 Curevo Vaccine、Aceris Biosciences、Blueprint Biosecurity、ProEquip 以及 Mirror Biology Dialogues Fund 的董事。

研究方向:
创业与领域建设
Biosecurity, Founding and Field-Building
Mirko Bronzi
LawZero, MILA
,
Senior Applied Research Scientist
—

Mirko is a research scientist with over 15 years of experience in Machine Learning and Natural Language Processing, specializing in applied research across diverse industries.

His expertise spans Python, Pytorch, TensorFlow, and NLP frameworks like Hugging Face, enabling him to drive impactful machine learning solutions for businesses.

Mirko is passionate about optimizing deep learning model performance and advancing software engineering best practices in deep learning projects.

研究方向:
实证研究
AI Control and Monitoring, Interpretability
Charles Whittaker (Charlie)
UC Berkeley, Pandemic & Epidemic Threat Analysis Lab (PETAL)
,
大流行与流行病威胁分析实验室主任、加州大学伯克利分校助理教授
—

Charlie Whittaker 是加州大学伯克利分校公共卫生学院的助理教授,并负责该校大流行与流行病威胁分析实验室(PETAL)。他的研究聚焦于具有大流行潜力的病原体的传播动态、可检测性与控制,并运用计算建模研究传染病的传播方式,以加强公共卫生突发事件和可能造成全球灾难的生物风险的准备与应对工作。目前的项目包括:建模分析广谱医疗对策在未来大流行期间可能产生的影响,研究如何优化新一代监测系统的结构与设计,以及评估室内空气消毒技术等。

研究方向:
Biosecurity
Policy and Governance, Biosecurity

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?