政策与治理
政策与治理方向研究先进 AI 目前如何治理，以及应该如何治理。随着 AI 能力快速提升，许多最棘手的问题已不再只是技术问题，还涉及国际协调、不确定性下的政策制定、国家能力、监管设计，以及如何将安全目标转化为现实政策与制度。未来 6 至 12 个月作出的决定，将影响实验室开发什么、政府提出哪些要求，以及未来数年的监督方式。
- 第一阶段：完成通用申请，并提交 1 至 2 份写作样本
- 第二阶段：回答研究流方向选择问题，并可能需要提供推荐人信息
- 第三阶段：参加面试和工作测试
本方向涵盖多类研究。有些研究流关注具体治理机制，包括评估、标准、安全措施、监控系统和执行机制；另一些则开展政策与制度分析，例如比较不同治理制度、监管框架和国际协调难题。还有一些研究流探讨更广泛的问题，例如先进 AI 如何改变全球权力格局，以及治理方式能否切实降低灾难性风险。
我们希望研究员能够清晰地分析和撰写相关议题。以往届别中的优秀申请者拥有多种背景，包括政策、经济、法律、政治学、公共管理、安全研究、哲学、计算机科学、预测研究、社会学、历史、新闻，以及科学与技术研究。
我们会根据契合度为研究员匹配导师，并规划项目，使其在项目结束前产出具体成果，例如政策备忘录、监管意见、技术规范、比较分析和同行评审研究。本方向的成果面向 AISI 工作人员、实验室治理团队、监管机构、标准组织，以及参与前沿 AI 治理的研究与政策社区。
This stream will focus on AI auditing, evaluation standards, and governance.
I lead policy development at the AI Policy Network. We do advocacy around AI safety, especially in DC. I am hoping to get more help developing policy ideas for future policy windows.
We work to advance technically grounded international coordination to reduce catastrophic risks from frontier AI, with a particular focus on China and US. We translate technical AI safety and governance tools into practical proposals for coordination.
I work on mitigating risks from scheming or compromised AI agents deployed for high-stakes national security tasks.
This stream will focus on technical AI governance research -- hence the name TAIGR. We will follow an academic collaboration model and produce open research on applied AI safeguards, incidents, laws, and other impactful topics in AI governance.