Ryan 是 Redwood Research 的首席科学家,专注于技术 AI 安全研究,以降低失控 AI 带来的风险。
我是加州大学伯克利分校统计学与电气工程及计算机科学系的助理教授,同时也参与 BAIR 和 CLIMB 的工作。我还创立并担任 Transluce 的首席执行官。Transluce 是一家非营利研究实验室,致力于开发开放、可扩展的技术,帮助人们理解前沿 AI 系统。
I'm a research scientist at the UK AI Security Institute, working on AI control red teaming and model organisms of misalignment. I was previously a postdoc with Sam Bowman at NYU, did MATS with Owain Evans, and mentored for the MATS, SPAR and Pivotal fellowships. I got my PhD at the University of Edinburgh, supervised by Iain Murray.
Stephen 目前在 Anthropic 担任研究员,研究如何对齐和控制超级智能。此前,他曾在 OpenAI 任研究员,也曾在卡内基梅隆大学(CMU)与 Tuomas Sandholm 合作进行博士后研究。他在加州大学尔湾分校获得计算机科学博士学位,导师是 Pierre Baldi。博士期间,他还曾在 Intel Labs 和 DeepMind 实习,担任研究科学家。更早之前,他于 2017 年获得亚利桑那州立大学数学与经济学学士学位。他感兴趣的项目包括:
Gabriel works with RAND on hands-on projects to build and test prototypes of secure compute infrastructure. He focuses on how to secure the most sensitive AI data centers against the most sophisticated current and future threats. Gabriel has also worked on hardware-enabled governance mechanisms (HEMs, at the intersection of GPU export control and hardware security) and on technical verification of agreements on the development and use of AI systems. He holds a master's degree in computer science and is pursuing a PhD in AI.
Kyle 在 Anthropic 从事模型福祉研究。此前,他共同创立了 Eleos AI Research、Telis Bioscience 和 Alvea。
Julian leads the diffuse control team at Redwood.
Alex 是 Anthropic 的研究员,关注如何以有原则的方法,让模型形成与安全相关的结构。例如,他研究通过梯度路由将学习更新定位到模型的特定部分,以及通过蒸馏实现稳健的遗忘。
此前,Alex 曾在 Riot Games AI 和 Amazon 从事强化学习应用研究。他在北卡罗来纳州立大学获得统计学博士学位,导师是 Eric Laber。
Lee Sharkey is a Principal Investigator at [Goodfire](https://www.goodfire.ai/).
His team has focused on improved interpretability methods, including parameter decomposition methods such as [Attribution-based Parameter Decomposition](https://arxiv.org/abs/2501.14926) and [Stochastic Parameter Decomposition](https://arxiv.org/abs/2506.20790) and [adVersarial Parameter Decomposition](https://www.goodfire.ai/research/interpreting-lm-parameters#).
Previously, Lee was Chief Strategy Officer and cofounder of [Apollo Research](https://www.apolloresearch.ai/), and a Research Engineer at Conjecture, where he worked on [sparse autoencoders as a solution to representational superposition](https://www.alignmentforum.org/posts/z6QQJbtpkEAX3Aojj/interim-research-report-taking-features-out-of-superposition).
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。