本项目将全力开发高质量的密谋行为黑盒监测器。
上一期项目已在设计黑盒密谋行为监测器 方面取得了良好的初步成果,此后我们也有了实质性进展。
我们将继续完善黑盒密谋行为监测器。本期项目可能会探索:a)微调监测器;b)通过对抗训练改进监测器;c)进一步研究监测本身的科学问题;d)构建更困难、更复杂的密谋数据集,以改进监测器的训练、筛选和测试。
London
Marius Hobbhahn 是 Apollo Research 的首席执行官,并领导该组织的监控团队。Apollo 是一家 AI 安全研究机构,重点研究密谋行为、评估,以及控制和监控。他入选了 2025 年《TIME》AI 领域百大人物榜单。创立 Apollo 之前,Marius 攻读贝叶斯机器学习博士学位,并在 Epoch 从事 AI 预测研究。
你将参与密谋行为黑盒监测项目的子课题。详情请见此处。