MATS 2026 年夏季项目

2026 年夏季项目将于 6 月至 8 月举行,这将是 MATS 迄今规模最大的一届,共有 120 位学员和 100 位导师。学员将与导师或机构研究团队合作,围绕研究项目开展整个夏季的工作,合作方包括 Anthropic 对齐科学团队、UK AISI、Redwood Research、ARC 和 LawZero。部分学员将获邀参加为期 6 个月以上的延长期,继续这项合作。

目前已截止申请。

项目阶段

申请与招生流程中的关键阶段

1. 申请

申请通常会在项目开始前几个月开放。申请者需完成多阶段招生流程,首先提交通用申请。根据所选研究方向、研究小组和导师,申请者可能还需参加面试、工作测试、编程评估或提交写作样本,之后才会作出最终录取决定。

2. 主项目
3. 延伸阶段
4. 项目结束后

2026 年夏季 Streams

每个 MATS 研究小组都由学员和导师组成,围绕共同的研究议程开展工作。各小组的方法和重点各不相同,涵盖可解释性、控制、评估、治理、网络安全和智能体基础等主题。

没有找到条目。

发生灾难时,政府可能不得不成为最终保险人,无论是为某个实验室兜底,还是为整个社会承担风险。(不止我这么认为,例如这篇文章也有类似观点。)设计得当的联邦保险兜底机制,可以让造成灾难性后果的负外部成本由相关方承担;设计不当,则只会变成对 AI 公司的补贴。我希望设计出合理的方案,提前做好准备。

​

我鼓励具备机制设计(也称逆向博弈论)专长的人申请;没有这方面经验也不必因此却步。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

本项目关注语言模型如何形成支撑泛化能力的内部表征,例如关于角色、目标或训练数据组成部分的表征。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

我们研究奇异学习理论(SLT)在 AI 安全中的应用,重点关注可解释性与对齐。理想的学员应具备数学、物理、计算机科学或生物学方面的扎实技术背景,也愿意亲自开展机器学习实验。无需深入掌握 SLT,但了解一些基础会有所帮助。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

本研究方向聚焦监测、对安全方法进行压力测试和构建评估,尤其关注 AI 密谋带来的风险。项目示例包括黑盒 AI 控制方法、白盒监测器(如探针)、思维链监测与忠实度、构建评估环境,以及对缓解措施进行压力测试。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

本项目将研究 GPU 侧信道攻击,探索如何从中获取模型使用情况的信息。例如,可以通过无线电信号、功耗波动或声学特征等观察 MOE 模型每次前向传播调用了哪些专家,再据此推测模型生成了哪些 token。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

本研究流将评估用于基于功能开展生物安全筛查的生物 AI 模型。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程
没有找到条目。

我希望指导有关奖励钻空子,以及监控会生成长而复杂行动轨迹的智能体模型的项目。学员可以在这一范围内自主提出项目。预计每周通过 Zoom 进行 30 至 60 分钟的一对一交流。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程

Application

What is a track?
What is a stream?
How many streams and tracks can I apply to?
Are the key dates flexible?
Who is eligible to apply?
Is this program a full-time commitment?
Can I update my application after submitting?
What is the policy on LLM usage?
What should I know about references?

MATS Program

Is MATS officially affiliated with UC Berkeley? Will I get a student card?
Where does the program take place?
Can I participate remotely?
Can I join the program from outside the US?
What should I expect from my mentor?
What training will the program offer?
What are the main deliverables of the research program?
How can I share feedback with the MATS team?