政策与治理方向研究先进 AI 目前如何治理,以及应该如何治理。随着 AI 能力快速提升,许多最棘手的问题已不再只是技术问题,还涉及国际协调、不确定性下的政策制定、国家能力、监管设计,以及如何将安全目标转化为现实政策与制度。未来 6 至 12 个月作出的决定,将影响实验室开发什么、政府提出哪些要求,以及未来数年的监督方式。
本方向涵盖多类研究。有些研究流关注具体治理机制,包括评估、标准、安全措施、监控系统和执行机制;另一些则开展政策与制度分析,例如比较不同治理制度、监管框架和国际协调难题。还有一些研究流探讨更广泛的问题,例如先进 AI 如何改变全球权力格局,以及治理方式能否切实降低灾难性风险。
我们希望学员能够清晰地分析和撰写相关议题。以往届别中的优秀申请者拥有多种背景,包括政策、经济、法律、政治学、公共管理、安全研究、哲学、计算机科学、预测研究、社会学、历史、新闻,以及科学与技术研究。
我们会根据契合度为学员匹配导师,并规划项目,使其在项目结束前产出具体成果,例如政策备忘录、监管意见、技术规范、比较分析和同行评审研究。本方向的成果面向 AISI 工作人员、实验室治理团队、监管机构、标准组织,以及参与前沿 AI 治理的研究与政策社区。
我负责 AI Policy Network 的政策制定工作。我们主要在华盛顿特区推动 AI 安全相关政策倡议。我希望有人协助开发政策构想,以便把握未来的政策窗口期。
- Past experience writing in a non-academic context, especially memos or blog posts that are very readable by busy people.
- Some working knowledge of the frontier AI policy landscape (e.g., you know roughly what the compute supply chain looks like, what the current US executive actions are, what "recursive self-improvement" and "AI control" mean, and who the major players are.)
- You have self-direction and prior experience working on research independently.
我们致力于推动以技术证据为基础的国际合作,降低前沿 AI 带来的灾难性风险,尤其关注中美关系。我们将 AI 安全与治理方面的技术工具转化为切实可行的合作方案。
通常每周安排一小时会议,提供整体方向指导。我们也会通过 Slack 保持沟通,一般会在一天内回复简单问题。
第一周,我们会提供一份希望学员考虑的项目清单。学员将在当周进一步明确项目范围,并在第二周确定主要研究方向。
我致力于降低高风险国家安全任务中部署的 AI 智能体密谋或遭到攻陷所带来的风险。
1. **Essential**:
**Strong writing:** Can write clearly and precisely for both technical and policy audiences (or has shown clear potential to).
**Transparent reasoning:** Excels at conceptual reasoning, lays out arguments and assumptions explicitly, and brings a skeptical mindset.
**Research Independence:** Has previously taken ownership of a research project and can make progress without frequent direction on what to do next.
**GCR Familiarity:** Is broadly familiar with the core GCR/TAIS literature, and if not, has demonstrated ability to upskill quickly on relevant topics.
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。