MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Maja Trebacz
OpenAI
,
技术团队成员
—

Maja 是 OpenAI 的研究员,致力于改进控制和对齐技术,帮助应对 AI 系统能力和自主性不断提升带来的挑战。她的团队将长期研究与实际部署结合起来:一方面研究如何监督、约束和纠正日益智能的系统等长期问题,另一方面也构建目前已在内部和外部实践中使用的监督系统(参见近期的 代码审查和Codex 操作监控工作)。

研究方向:
实证研究
AI Control and Monitoring, Alignment Training Methods
Jason Wolfe
OpenAI
,
技术团队成员
—

Jason 是 OpenAI 的技术团队成员,负责对齐和模型行为方面的工作。

研究方向:
实证研究
Misalignment Science, Alignment Training Methods
James Campbell
OpenAI
,
技术团队成员
—

James 是 OpenAI 的研究员,研究模型个性、后训练和个性化。

研究方向:
实证研究
Misalignment Science, Alignment Training Methods, Interpretability
Gabe Wu
OpenAI
,
Member of Technical Staff (Alignment Research)
—

Gabriel Wu 是 OpenAI 的 AI 对齐研究员。此前,他在 Harvard 负责AI Safety Student Team,并在 Harvard 获得计算机科学硕士学位和数学学士学位。

研究方向:
实证研究
Adversarial Robustness and Safeguards, Misalignment Science, Alignment Training Methods, Interpretability, Theoretical Alignment and Formal Methods
Evan Fields
SecureBio
,
高级研究科学家
—

Evan 是 SecureBio Detection 的研究科学家,负责开发计算流程和检测方法,从深度宏基因组测序数据中发现威胁。转向生物安全领域之前,他曾在 Zoba 担任数据科学与工程副总裁;Zoba 是一家为共享出行行业提供优化服务的初创公司。他拥有运筹学博士学位。闲暇时,他也常花心思钻研酸面团披萨。

研究方向:
Biosecurity
Biosecurity
Xiangyu Qi
OpenAI
,
技术团队成员
—

Xiangyu 是 OpenAI 的研究员,致力于提升大型语言模型的鲁棒性。他此前在 Princeton University 攻读博士,导师是 Prateek Mittal 教授和 Peter Henderson 教授。

研究方向:
实证研究
Adversarial Robustness and Safeguards, Alignment Training Methods, AI Systems Security
Ollie Matthews
OpenAI
,
技术团队成员(对齐团队)
—

Ollie 是 OpenAI 对齐团队的研究员,关注红队测试和控制。此前,他曾在英国 AI 安全研究所(UK AISI)的控制团队工作。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Adversarial Robustness and Safeguards
Tom Dupre la Tour
OpenAI
,
可解释性研究科学家
—

Tom 是 OpenAI 的研究科学家,致力于研究语言模型的可解释性,以推动 AI 安全。他还曾在 2015 至 2022 年间担任 scikit-learn 核心开发者。

研究方向:
实证研究
Misalignment Science, Interpretability
Juan Felipe Ceron Uribe
OpenAI
,
AI 对齐研究工程师
—

Juan 是 OpenAI 安全系统团队的研究员,广泛关注如何降低灾难性风险。他的工作包括对抗鲁棒性训练和自动化红队测试(近期研究)。

研究方向:
实证研究
AI Control and Monitoring, Adversarial Robustness and Safeguards, Alignment Training Methods
Kaiwen Wang
OpenAI
,
安全强化学习研究员
—

Kaiwen 是 OpenAI 的研究员,研究 AI 安全和强化学习。他在 Cornell Tech 获得博士学位,期间研究并教授强化学习、因果推断和大型语言模型。

​

此前,他曾在 Google、Microsoft 和 Netflix 工作,参与的项目涵盖强化学习基础理论和可扩展的大型语言模型算法。在读研究生之前,Kaiwen 还在 Facebook 工作了两年,负责构建强化学习平台。

研究方向:
实证研究
Adversarial Robustness and Safeguards, Alignment Training Methods

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?