生物安全

生物安全方向支持先进 AI 与灾难性生物风险交叉领域的研究。我们设立这一方向,是因为风险格局已经发生变化:生物基础模型、越来越能提升湿实验能力的 LLM,以及 AI 加速的设计工具,正在大幅缩短相关能力成熟的时间,而现有的生物安全体系尚未准备好应对这些变化。我们希望学员开展扎实的技术研究,并有望在未来 6 至 12 个月内切实改变风险走向。

Application process

  • 阶段一:完成通用申请,并回答研究方向相关的简答题
  • 阶段二:需要实证机器学习技能的研究流将安排统一的机器学习能力测试;其他要求特定背景的研究流将直接进入研究流选择问答
  • 阶段三:面试和工作测试

Biosecurity track overview

本方向涵盖六个研究领域。我们会根据契合度为学员匹配导师,并规划项目,让学员在项目结束前产出具体成果,例如论文、评估、原型或政策分析。

  • ‍检测
    构建宏基因组监测流程,以发现可能引发大流行的病原体;开发用于检测新颖性变异的基因组语言模型;并提升监测体系前端的有效信号与噪声比。‍
  • 医疗对策
    在大流行应对的现实约束下,利用 AI 加速发现抗病毒肽;同时分析制造和供应链瓶颈,因为这些因素决定候选方案能否真正用于患者。
  • ‍用 AI 筛查合成序列
    ‍
    结合机制可解释性和生物基础模型上的机器学习,按功能筛查 DNA 序列(例如训练分类器识别危险序列),也包括经过工程改造或由 AI 设计、意图绕过基于同源性的筛查的变体。
  • ‍实体生物防御
    设计应急生物防御基础设施,例如个人防护装备、过滤、远紫外线 C(far-UVC)、去污措施,以及应对最坏情况的临时防护系统。这类成果通常是实体或接近实体的方案。
  • 战略与威胁建模
    针对 AI 与生物安全开展政策和预测研究,包括评估政策杠杆、预测 AI 何时会让特定进攻或防御能力变得容易掌握,以及分析如何通过实体瓶颈实现威慑(例如合成筛查治理、云实验室访问控制)。
  • 实证 AI × 生物安全:防御 AI 风险
    ‍
    对生物 AI 模型进行红队测试,识别危险能力;构建技术防御措施(例如基因工程溯源、数据治理);并开发用于评估前沿 AI 生物能力的危险能力评估方法。

我们希望学员认真考虑信息危害,并遵守发表与披露规范。项目初期,导师会与学员共同梳理这些要求。优秀申请者可能来自多种背景,包括生物学、AI 安全、公共卫生、流行病学、机器学习、工程、化学、生物安全、国家安全等。如果不确定自己的背景是否合适,也欢迎申请,并说明你如何理解相关威胁模型。相比资历,我们更看重你的推理过程。

Biosecurity track streams

该研究流将通过实证项目评估 AI 滥用带来的国家安全威胁(包括化学、生物、放射性和核恐怖主义及网络攻击),并改进危险能力评估。威胁建模方向希望申请者保持审慎、乐于开展案例分析,并具备出色的书面沟通能力。评估方向希望申请者能够积极参与,帮助验证一些概念,例如在 AI 滥用情境下模型是否存在“藏拙”评估缺口。

阅读更多
Mentorship structure
理想学员的特点
项目遴选流程

AI 与生物安全相关项目将研究生物数据、生物 AI 模型及其与通用 AI 系统的相互作用,推动干预措施走向成熟,并减少战略和技术层面的不确定性。部分项目也可能直接为 Sentinel 的 AI 与生物安全战略及资源配置提供依据。

阅读更多
理想学员的特点

我的研究聚焦于如何评估先进 AI 系统在生物安全及化学、生物、放射性和核(CBRN)风险方面的能力。我尤其关注如何将技术证据转化为政府和前沿 AI 开发者可据以决策的信息。在这个研究方向中,我希望开发新型能力评估方法,研究危险或双重用途能力如何扩散到越来越容易获取的模型,并构建可扩展的红队测试方法:在不进行高风险现实演示的前提下,产出严谨且有助于决策的证据。

阅读更多
理想学员的特点

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?