MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

I am a research scientist on the AGI Safety & Alignment team at Google DeepMind. I focus on deceptive alignment and AI control, particularly [scheming propensity evaluations](https://arxiv.org/abs/2605.29729). My past research includes dangerous capability evals, power-seeking incentives, specification gaming, and avoiding side effects.

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science
Mauricio Baker
RAND、牛津大学
,
技术 AI 政策研究科学家;DPhil(博士)在读
—

Mauricio 在 RAND 和牛津大学从事 AI 政策研究,主要关注国际 AI 协议的核查,也对技术性 AI 治理有更广泛的兴趣。此前,他曾与 OpenAI 合作,并在斯坦福大学取得计算机科学硕士学位。

研究方向:
系统安全
政策与治理、技术性 AI 治理、AI 系统安全

Alex 是 Redwood Research 的技术团队成员。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science, Forecasting and Strategy, Interpretability, Theoretical Alignment and Formal Methods
Abram Demski
AFFINE
,
研究科学家
—

Abram Demski 是一位专攻智能体基础的 AI 安全研究者,因与 Scott Garrabrant 合著《Embedded Agency》而知名。他的研究主要通过澄清概念来理解 AI 风险相关议题,包括能动性、优化、信任、意义、理解、可解释性和计算不确定性(通常称为有界理性,但这一说法不够精确)。他近期重点研究如何建模信任,以明确人类在什么条件下能够合理地信任 AI。

研究方向:
Theory
Agent Foundations, Theoretical Alignment and Formal Methods

James 是 Redwood Research 的技术团队成员。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science

Aryan 是 Redwood Research 的高级技术团队成员。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science
Jack Lindsey
Anthropic
,
技术团队成员
—

你好,我是 Jack!我希望理解现代语言模型的认知机制,让它们更可靠,也更符合人类价值观。目前,我负责 Anthropic 的“Model Psych”团队。我们研究内省、情境意识、角色人格和情绪表征等高级认知现象的内部机制,并将这些方法用于审查 Anthropic 的生产模型。例如,我们会监测模型神经活动中的信号,以发现欺骗、操纵或意识到自己正在接受评估等迹象。此前,我在哥伦比亚大学的理论神经科学中心攻读博士。我的论文列表见 Google Scholar。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science, Interpretability

Vivek 是 Redwood Research 的技术团队成员。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science

我曾在 DeepMind 的对齐团队和 OpenAI 的治理团队工作。目前,我是一名独立研究员,专注于多智能体智能。我的研究延续自然哲学的传统,尝试把信任、身份、诚信等模糊的直觉概念逐步发展为严谨的概念基础,进而为新的科学范式提供起点。

研究方向:
Theory
Forecasting and Strategy, Structural Risk and Societal Dynamics, Agent Foundations

Alek 在 Redwood Research 从事 AI 安全研究。他最近从 MIT 毕业,学习数学、计算机科学和 AI。在转向 AI 安全之前,他从事理论计算机科学研究,涵盖数据结构、在线算法和算法图论。

研究方向:
实证研究
AI Control and Monitoring, Misalignment Science, Alignment Training Methods, Forecasting and Strategy

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?