
Tessa Alexanian is the Technical Lead for the Common Mechanism, an open-source baseline for nucleic acid synthesis screening developed by the International Biosecurity and Biosafety Initiative for Science (IBBIS). Her previous work has focused on modular lab automation, assessing dual-use risks in synthetic biology projects, bioweapons convention compliance, and creating cultures of responsibility. Tessa wrangled robots to do bioengineering for four years at Zymergen, served for two years as the iGEM Competition’s Safety and Security officer, and has collaborated with organizations including Coefficient Giving and RAND. She was a 2023 CSR Ending Bioweapons Fellow, a 2022 ELBI fellow and 2020 Foresight Fellow.
Ben Bateman 是 Coefficient Giving 技术 AI 安全项目的首席幕僚。此前,他曾任 Mirror Biology Dialogues Fund 运营总监,并在 GiveWell 工作了六年。
Lucas 是 Coefficient Giving 技术 AI 安全团队的项目运营专员。此前,他曾在 Bain & Company 担任咨询顾问,并获得 Harvard Kennedy School 公共政策硕士学位。
Max Nadeau 是 Coefficient Giving 技术 AI 安全团队的项目官员。此前,他从事机器学习鲁棒性和可解释性研究。
Greg Kollmer 是 Lucid Computing 的联合创始人。该公司致力于开发安全、可验证的 AI 基础设施。Kollmer 在 Columbia University 攻读工程研究生期间,共同开发了 Palmos——一个用于早期山体滑坡监测的无线传感器网络。
Jake Mendel 是 Coefficient Giving 的技术 AI 安全项目官员,负责为技术研究提供资助。此前,他曾在 Apollo Research 担任研究科学家。
我是一名科学家,研究方向处于 AI 与神经科学的交叉领域。我的职业生涯始于对大脑如何支持感知和行为的研究,并通过计算模型把神经活动与认知联系起来。近十年的学术研究之后——包括在 Stanford University 攻读博士,以及在 Harvard Medical School 从事博士后研究——我转入产业界,希望更广泛地应用这些洞见。
目前,我是 OpenAI 的研究员,主要关注两个目标:推进安全研究,确保 AI 系统可靠且符合人类意图;探索 AI 如何加速健康与医学领域的进展。我尤其希望把神经科学和建模方面的经验转化为 AI 工具,既推动科学发现,也增进人类福祉。
我始终对智能系统充满好奇,无论是生物系统还是人工系统,也致力于运用相关认识,创造安全、负责任且能带来深刻改变的技术。
我在 Center for the Governance of AI 担任高级研究员,负责一个研究先进 AI 系统国家安全威胁的工作方向。我也是 METR 的合作研究者,协助提升系统卡和评估的严谨性,同时在 Forecasting Research Institute 担任高级研究员。
我希望指导那些为近期 AI 滥用风险建立严谨威胁模型的项目,尤其是生物安全领域。由于研究可能涉及敏感主题,最终成果也可以是面向决策者的备忘录和简报,而不一定是学术论文。
我也希望参与提升危险能力评估报告的科学性和透明度,包括制定标准与检查清单、为模型卡撰写同行评审,以及设计能够推动当前前沿发展的随机对照试验。
Keri 是 Anthropic 基础设施安全工程团队的技术负责人,负责落实 SL4/5 安全要求,并寻找在差分比较中对防御方更有利的安全工具。
George Robinson 是一名独立研究员,曾在 Alignment Research Center(ARC)工作,致力于以系统且有理论依据的方法开展机械可解释性研究。他目前希望在伦敦带领一支团队推进这一方向。此前,他在牛津大学攻读博士,专攻代数数论。他现居伦敦,也是 London Initiative for Safe AI(LISA)的成员。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。