前沿 AI 开发者应披露哪些内部部署信息?

MATS 学员:

Jacob Charnock, Raja Moreno, Justin Miller, William L. Anderson

作者:

Jacob Charnock, Raja Mehta Moreno, Justin Miller, William L. Anderson

引用次数

Citations

摘要:

前沿 AI 开发者越来越多地在内部部署能力很强的模型,以自动化 AI 研发,但这类部署目前受到的外部监督有限。因此,开发者必须提供证据,证明内部部署的模型是安全的。近期研究已经指出内部部署的风险,并提出了较为宽泛的透明度和治理方案,但对开发者具体应披露哪些信息,仍缺乏指导。我们针对这一缺口,归纳出公司应披露的内部部署模型信息,分为四类:能力、用途、安全缓解措施和治理。对每一类,我们分析披露的主要益处和局限,并探讨如何降低披露本身可能带来的风险。开发者可借助这一框架编写公开透明度文件(如模型系统卡),也可用于准备新兴前沿 AI 监管要求的定期保密报告。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

八月 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

八月 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?