Alignment Research Center (ARC)

Alignment Research Center(ARC)是一家位于加州伯克利的小型非营利研究机构,致力于系统性地从理论出发解释神经网络的行为。我们希望招募数学基础扎实、具备较强数学思维能力的学员。如果你对这篇博客 介绍的研究方向感兴趣,欢迎申请!

研究小组概览

ARC 将指导符合我们技术研究议程的项目,研究议程详见此处。项目方向可能包括:

​

  • 理论研究:例如开发机制性算法,以不同于抽样估计的方式估算某些量(如矩阵的永久式或 MLP 的期望输出),并在效果上与抽样方法竞争。
  • 哲学研究:例如进一步阐明如何运用启发式论证,对神经网络进行机制层面的异常检测。
  • 实证研究:例如在实践中测试我们的算法,并根据实证结果不断改进。

项目期间的工作地点:

SF Bay Area

导师

Eric Neyman
ARC
,
研究员
Interpretability
Theoretical Alignment and Formal Methods

Eric Neyman 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。加入 ARC 之前,他在哥伦比亚大学攻读博士,研究算法贝叶斯认识论。

阅读更多
Wilson Wu
ARC
,
研究员
Interpretability
Theoretical Alignment and Formal Methods

Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。

阅读更多
Interpretability
Theoretical Alignment and Formal Methods

Victor Lecomte 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。他在斯坦福大学获得博士学位,曾研究计算复杂性及理论计算机科学的其他方向,之后转向 AI 安全研究。

阅读更多
George Robinson
Independent
,
对齐研究员
Interpretability
Theoretical Alignment and Formal Methods

George Robinson 是一名独立研究员,曾在 Alignment Research Center(ARC)工作,致力于以系统且有理论依据的方法开展机械可解释性研究。他目前希望在伦敦带领一支团队推进这一方向。此前,他在牛津大学攻读博士,专攻代数数论。他现居伦敦,也是 London Initiative for Safe AI(LISA)的成员。

阅读更多
Jacob Hilton
Alignment Research Center (ARC)
,
研究副总裁
Interpretability
Theoretical Alignment and Formal Methods

Jacob Hilton 是 Alignment Research Center(ARC)的研究员。该非营利组织致力于机制可解释性的理论基础研究。他此前在 OpenAI 从事基于人类反馈的强化学习、缩放定律和可解释性研究。他拥有纯数学背景,并在英国 University of Leeds 获得集合论博士学位。

阅读更多
Interpretability
Theoretical Alignment and Formal Methods

Michael Winer 是 Alignment Research Center(ARC)的研究员,研究在简单实验环境中,机制性估计如何优于黑盒方法。他拥有统计物理学背景,研究大量遵循简单规则的对象如何呈现复杂行为,例如磁性、玻璃态,或在 GPQA 上考出 87% 的成绩。

阅读更多

我们希望招收的学员

必备条件:

  • 具备扎实的数学基础和成熟的数学思维,达到顶尖大学优秀数学专业本科生的水平。
  • 能够在问题尚未正式定义时开展有效研究:ARC 研究人员常常需要先找到合适的问题形式化方式,或处理目标尚不明确的问题。
  • 可能有兴趣在 2027 年 9 月前加入 ARC 全职工作。

​

优先考虑:

  • 具备机器学习理论、理论物理和/或理论计算机科学背景
  • 有基本的机器学习工程经验,例如在小型神经网络上运行实验
  • 愿意在 ARC 位于伯克利的办公室工作

项目遴选

我们会根据每位学员的技能和兴趣,为其匹配最合适的导师。导师将与学员讨论可能的项目,并结合 ARC 的研究目标和学员的偏好,共同确定最合适的方向。

​

大多数学员会在 ARC 期间参与多个项目,有些学员也会与多位导师合作。