Transluce

我们致力于开发可扩展技术,帮助人们理解和监督 AI。

研究小组概览

我们正在构建可扩展、由 AI 驱动的系统,用于分析、测试和解释 AI 智能体,并借此研究迎合、伤害自身和奖励钻空子等行为。我们希望招募愿意帮助推进这项工作的学员。

​

具体项目包括:构建可扩展的端到端工具,用于可解释性分析和行为引出;为 Docent 打造稳健的 LLM 评审器;以及为大型智能体对话记录构建可扩展的搜索与检索工具。

导师指导方式:

High-touch (+2 hours of weekly 1:1s)

项目期间的工作地点:

SF Bay Area

伦敦办公偏好:

Indifferent

伯克利办公偏好:

Strong preference

导师

Jacob Steinhardt
Transluce
,
联合创始人兼首席执行官
Interpretability
Misalignment Science
AI Control and Monitoring
Forecasting and Strategy
Capability and Propensity Evaluations

我是加州大学伯克利分校统计学与电气工程及计算机科学系的助理教授,同时也参与 BAIR 和 CLIMB 的工作。我还创立并担任 Transluce 的首席执行官。Transluce 是一家非营利研究实验室,致力于开发开放、可扩展的技术,帮助人们理解前沿 AI 系统。

阅读更多
Neil Chowdhury
Transluce
,
创始团队成员
Interpretability
Misalignment Science
Capability and Propensity Evaluations

Neil Chowdhury 是 Transluce 的技术团队成员。Transluce 是一家研究实验室,致力于开发理解 AI 系统的工具。此前,Chowdhury 曾在 OpenAI 从事安全研究。

阅读更多
Sarah Schwettmann
Transluce
,
联合创始人兼首席科学家
Interpretability
Misalignment Science
AI Control and Monitoring
对抗鲁棒性与安全防护

我在 MIT 计算机科学与人工智能实验室(CSAIL)和 MIT-IBM Watson AI Lab 担任研究科学家。我在 MIT 攻读脑与认知科学博士期间,获得 NSF 研究奖学金,并师从 Josh Tenenbaum 和 Antonio Torralba。我的研究关注人工神经网络(以及此前的生物神经网络)中支撑智能的表征。

阅读更多

我们希望招收的学员

我们希望招募经验丰富、能力出色的软件工程师或研究人员,能够迅速投入工作并快速迭代。

有机器学习经验更佳,但不是必需条件。

项目遴选

我们会和学员讨论项目想法。