Find your fit in AI safety research

AI 安全需要快速扩大规模，而瓶颈正日益转向组织建设。本方向面向希望创办 AI 安全机构或项目的创业者、领域建设者和积极主动的通才，并由相关领域的创业者、现任 CEO 与项目负责人提供指导。

通过机器学习实验开展实践研究，以理解并提升模型安全性，涵盖 AI 控制、可解释性、可扩展监督、评估、红队测试和鲁棒性。

研究先进 AI 应该如何治理，涵盖治理机制、监管与制度分析，以及让治理措施得以执行的技术系统。

Research on catastrophic biological risk in a world being reshaped by advanced AI. Spans pathogen detection, medical countermeasures, synthesis screening, physical biodefense, threat modeling, and red-teaming biological AI for dangerous capabilities.

研究 AI 发展可能如何演变，以及这对长期安全意味着什么。涵盖发展时间线、能力跃迁动态、风险建模和 AI 发展轨迹的战略分析。

Foundational research on the mathematical and philosophical principles underlying agency, alignment, and safe reasoning in advanced AI systems.

研究先进 AI 所依赖基础设施的软件与硬件安全，包括侧信道分析、集群安全、模型权重保护和物理层验证。