MATS 学员:
Jacob Charnock, Raja Moreno, Justin Miller, William L. Anderson
作者:
Jacob Charnock, Raja Mehta Moreno, Justin Miller, William L. Anderson
引用次数
摘要:
前沿 AI 开发者越来越多地在内部部署能力很强的模型,以自动化 AI 研发,但这类部署目前受到的外部监督有限。因此,开发者必须提供证据,证明内部部署的模型是安全的。近期研究已经指出内部部署的风险,并提出了较为宽泛的透明度和治理方案,但对开发者具体应披露哪些信息,仍缺乏指导。我们针对这一缺口,归纳出公司应披露的内部部署模型信息,分为四类:能力、用途、安全缓解措施和治理。对每一类,我们分析披露的主要益处和局限,并探讨如何降低披露本身可能带来的风险。开发者可借助这一框架编写公开透明度文件(如模型系统卡),也可用于准备新兴前沿 AI 监管要求的定期保密报告。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。