Mauricio Baker

本项目聚焦 AI 政策,尤其是技术治理议题。初步考虑的方向包括:设计用于核验 AI 国际协议的技术方案、开展 AI 安全与治理领域的元科学研究,以及提出追踪 AI 对就业影响的方法。学员也可以自拟项目。

研究小组概览

通常,项目会以发布 arXiv 预印本为目标,最好由小团队合作完成。以下是几个初步项目方向;学员也可以提出自己的想法,我们会共同寻找所有参与者都感兴趣的课题。

​

  • 核验 AI 国际协议的技术项目:一份即将发布的报告指出,如何核验各方是否遵守假设中的 AI 国际协议,仍有许多技术问题待解。本项目将尝试推进其中一个问题,助力国际 AI 合作。具体方向示例包括:(1) 不受信任的用户在可信系统软件管理的算力集群上训练 LLM 时,如何核实模型权重确实位于其声称的内存位置;(2) 详细建模 GPU 的模型 FLOPs 利用率(MFU)与功耗之间的关系;(3) 检查机器学习工作负载代码是否在不影响结果的情况下大量浪费模型 FLOPs(这与 MFU 低效是不同的问题)。

​

  • AI 安全与治理领域的元科学研究:如何有效推进 AI 安全与治理涉及的众多研发挑战,包括技术安全、安全防护、评估和核验?学界已对研发进展本身开展了大量研究(即元科学),但这些洞见似乎尚未应用于 AI 安全与治理。本项目将由团队梳理元科学研究,并提出建议,帮助政策制定者和私人资助方更有效地推动相关研发。例如,ARPA、NSF 资助和预先市场承诺等不同资助机制各有什么优缺点?

​

  • 追踪 AI 对就业的影响:目前,政府和公众对 AI 经济影响的了解有限,主要依赖宏观经济数据和零散案例。定期开展大规模调查等方式或许能改善这一状况,让 AI 即将带来的经济变化更可预测、也更容易应对。如果最终出现大规模失业,提前掌握相关趋势也可能影响政府和公众对加速 AI 发展的态度。本项目将提出追踪 AI 就业影响的具体方案,例如为合适的机构起草调查问卷和预算建议。

项目期间的工作地点:

Washington, D.C.

导师

Mauricio Baker
RAND、牛津大学
,
技术 AI 政策研究科学家;DPhil(博士)在读
Policy and Governance
AI 系统安全
AI 技术治理

Mauricio 在 RAND 和牛津大学从事 AI 政策研究,主要关注国际 AI 协议的核查,也对技术性 AI 治理有更广泛的兴趣。此前,他曾与 OpenAI 合作,并在斯坦福大学取得计算机科学硕士学位。

阅读更多

我们希望招收的学员

没有硬性要求。具备研究经验、了解 AI 安全与治理、写作和分析推理能力强,或拥有与具体项目相关的经验,都会是加分项。

项目遴选

我会与学员讨论项目构想。