Lisa Thiergart, Luis Cosio, Guy (SL5 Task Force)

SL5 专项工作组今年将与前沿 AI 实验室合作,建设一座原型 SL5 数据中心。这是一项大型研究与工程项目,也有望催生新的组织和研究计划。由于这项技术将在未来一到两年内投入使用,相关工作十分紧迫。

研究小组概览

我们希望支持有志于在 SL5 相关 AI 安全领域成长为高影响力创业者或项目负责人的研究带头人。具体方向包括:

  • 数据中心的物理安全,包括实地检查数据中心组件,并参与 AI705 研究与发表
  • 实施物理隔离,并对研究人员的工作效率进行基准评估
  • 围绕 SL5 数据中心建设中的软硬件采购开展供应链研究
  • AI 专项漏洞与威胁研究
  • 验证并证明软硬件组件的真实性
  • 在有需要时设计并制造简单的新型定制硬件组件
  • 开发符合 SL5 要求的红队测试框架、基础设施和标准
  • 参与高安全级别数据中心的标准制定,包括更新 SL5 标准、发布实施指南,并与 NIST 及实验室相关方合作制定自愿性行业标准
  • 直接与前沿实验室及其团队合作,设计并实施可落地且兼顾成本的安全方案

项目期间的工作地点:

SF Bay Area

导师

Lisa Thiergart
SL5 Task Force
,
首席执行官
Policy and Governance
Founding and Field-Building
AI 系统安全
AI 技术治理
对抗鲁棒性与安全防护

Lisa 是 Security Level 5 的首席执行官,也是该 AI 安全技术实验室的创始人。她创立实验室,旨在为前沿 AI 实验室提供技术和战略上的选择空间,帮助它们在未来几年内让核心内部运营达到 SL5(能够抵御重点民族国家级攻击)。她的团队制定了全球首个 SL5 标准,目前正与前沿 AI 实验室合作,试制模拟 SL5 数据中心。SL5 项目汇集了 100 多位来自前沿 AI 实验室、美国情报界和更广泛 AI 安全生态的安全工程专家,共同规划技术路径,力争在 2028 年前建成可抵御民族国家级攻击的 AI 数据中心和前沿 AI 工作流程。Lisa 拥有慕尼黑工业大学(TUM)计算机科学学士学位,曾在 Georgia Tech 从事机器学习研究生研究,也是 Oxford HAIGL Lab 的 AI 安全 DPhil 研究员。创立 SL5 之前,她曾任 IST 高级总监、MIRI 研究负责人,并创立和领导其技术治理团队(负责验证、硬件安全等工作)。2023 年,她以学员身份参加 MATS 3,由 Alex Turner 指导,并协助开创了激活引导技术。Lisa 曾获 2026 年 FLI Fellowship、2025 年 Brains Fellowship、2024 年 Foresight Fellowship 和 Fulbright 奖学金,也曾参加 Entrepreneur First 和 50Years 的 5050 项目。

阅读更多
Luis Cosio (Cosio)
SL5 Task Force
,
技术团队成员
AI Control and Monitoring
AI 系统安全
AI 技术治理
对抗鲁棒性与安全防护

我致力于前沿 AI 与高安全系统的交叉领域,重点是把抽象的安全要求转化为可部署的技术成果,使其能够抵御真实对手的攻击,包括民族国家级攻击和失控情景。

研究重点:

  • 前沿 AI 安全(SL5):保护模型权重、推理系统和实验室基础设施,防范民族国家级威胁和失控故障。
  • AI 对齐与可解释性:机制可解释性、可扩展监督,以及基于监控的干预措施。
  • 安全工程:隔离部署、缩小攻击面,以及高保障运行时设计。
阅读更多
Guy
SL5 Task Force
,
技术团队成员
AI 系统安全

Guy 是 Security Level 5(SL5)的研究员。这个 AI 安全技术实验室致力于为前沿 AI 实验室提供技术和战略上的选择空间,帮助它们在未来几年内让核心内部运营达到 SL5,即能够抵御重点民族国家级攻击。团队制定了全球首个 SL5 标准,目前正与前沿 AI 实验室合作,试制模拟 SL5 数据中心。SL5 项目汇集了 100 多位来自前沿 AI 实验室、美国情报界和更广泛 AI 安全生态的安全工程专家,共同规划技术路径,力争在 2028 年前建成可抵御民族国家级攻击的 AI 数据中心和前沿 AI 工作流程。

​

在 SL5,Guy 负责数据中心项目、智能体安全研究,以及实现 SL5 所需的多个工作模块。此前,他曾研究语言模型的高维几何结构、算法和图论,也从事高性能计算(HPC)硬件的底层工程,以及底层和嵌入式系统的漏洞研究与工程工作。

​

他还参与创作了一部关于 AI 的音乐剧,于 2025 年首演,名为 Out of This Box: The Last Musical (Written by Humans)。

阅读更多

我们希望招收的学员

本研究方向适合技术能力强、未来希望转向研究负责人、技术负责人或组织管理岗位的个人贡献者。

​

必备条件:

  • 拥有计算机科学或电气工程学士学位,或具备同等经验
  • 具备三年以上安全工程、基础设施工程或相关经验,并能证明曾作为个人贡献者独立领导复杂项目,负责安全计划或控制措施的设计、运营化和实施
  • 具备研究负责人、技术负责人或管理经验,例如曾带领两人以上团队快速交付一个成功项目,并涉足新颖的技术领域
  • 熟练使用 Python 或 Rust,例如能独立调试项目代码;或
  • 具备出色的书面与口头沟通能力,能够开展技术及非技术协作
  • 能够适应高度自动化的工作流程,例如 Claude Code

​

优先条件:

  • 具备 AI 研究经验,例如调试过训练任务、参与过大型模型的可解释性研究,或深入理解主要的对齐研究方向
  • 了解常见的行业安全标准与指南,例如 NIST SP 800-53、SOC、ICD 705 等
  • 具备硬件和物理安全实操经验,例如参与过 TEMPEST、SCIF 建设或数据中心的物理安全工作
  • 具备采购或供应链研究经验

​

不太适合的情况:

  • 不考虑在 MATS 结束后可能需要到湾区线下工作的申请者
  • 需要非常细致、结构化指导的申请者(我们希望学员能独立提出想法并持续迭代)
  • 未来不愿承担管理或领导职责的申请者(本方向希望培养的人才,未来工作可能有 10–50% 的时间用于领导工作,50–90% 用于技术个人贡献)

项目遴选