我们正在构建可扩展、由 AI 驱动的系统,用于分析、测试和解释 AI 智能体,并借此研究迎合、伤害自身和奖励钻空子等行为。我们希望招募愿意帮助推进这项工作的学员。
具体项目包括:构建可扩展的端到端工具,用于可解释性分析和行为引出;为 Docent 打造稳健的 LLM 评审器;以及为大型智能体对话记录构建可扩展的搜索与检索工具。
High-touch (+2 hours of weekly 1:1s)
SF Bay Area
Indifferent
Strong preference
我是加州大学伯克利分校统计学与电气工程及计算机科学系的助理教授,同时也参与 BAIR 和 CLIMB 的工作。我还创立并担任 Transluce 的首席执行官。Transluce 是一家非营利研究实验室,致力于开发开放、可扩展的技术,帮助人们理解前沿 AI 系统。
Neil Chowdhury 是 Transluce 的技术团队成员。Transluce 是一家研究实验室,致力于开发理解 AI 系统的工具。此前,Chowdhury 曾在 OpenAI 从事安全研究。
我在 MIT 计算机科学与人工智能实验室(CSAIL)和 MIT-IBM Watson AI Lab 担任研究科学家。我在 MIT 攻读脑与认知科学博士期间,获得 NSF 研究奖学金,并师从 Josh Tenenbaum 和 Antonio Torralba。我的研究关注人工神经网络(以及此前的生物神经网络)中支撑智能的表征。
我们希望招募经验丰富、能力出色的软件工程师或研究人员,能够迅速投入工作并快速迭代。
有机器学习经验更佳,但不是必需条件。
我们会和学员讨论项目想法。