我们会根据团队成员各自的兴趣和技能共同确定研究课题。总体而言,我们希望展示信息如何以意想不到的方式从 GPU 泄露出去,重点关注提示词 token、回复 token 或模型权重被窃取的风险。我们也有兴趣训练模型主动诱发信息泄露,使侧信道变成隐蔽通信渠道。研究既会覆盖常规硬件和软件技术栈,也会涉及加固后的技术栈;更偏好防御方向的学员可以研究硬件或软件层面的对策。
实验环境将使用前沿数据中心中的 GPU,并连接多种传感器,包括电源上的示波器和靠近 GPU 芯片的电磁探头。这些传感器及其他设备都可以通过软件从同一个 Jupyter 笔记本访问;该笔记本同时运行 GPU 推理和训练任务,因此能够轻松将传感器读数与代码执行、性能计数器和内置传感器(如 nvidia-smi)关联起来。
Washington, D.C.
Gabriel works with RAND on hands-on projects to build and test prototypes of secure compute infrastructure. He focuses on how to secure the most sensitive AI data centers against the most sophisticated current and future threats. Gabriel has also worked on hardware-enabled governance mechanisms (HEMs, at the intersection of GPU export control and hardware security) and on technical verification of agreements on the development and use of AI systems. He holds a master's degree in computer science and is pursuing a PhD in AI.
请注意:只要你愿意努力、快速学习,并能通过其他经历证明自己的能力出众,就不要求具备硬件经验。如果不确定是否符合条件,我们鼓励你申请!
我们会提供很高的自主空间,并开放一套少见的工具和设备组合,方便你上手使用。相应地,我们希望你有较强的自我驱动力、求知欲和远大目标。本项目要求你能够快速开展实验、检验假设并及时迭代。
可能适用的技能背景示例:
必备:曾用 PyTorch 训练或微调过 Transformer 语言模型(玩具模型和跟随教程完成的项目也可以);了解电压、电流、晶体管等基础电子概念;有研究论文写作经验,课程作业也算。
加分项:熟悉 LaTeX、PyTorch 内部机制、CUDA/OpenCL、GPU 架构、芯片设计、示波器、信号处理或电气工程。
我们会从一组备选项目中,由团队根据成员各自的兴趣和技能共同决定研究方向。导师会介绍示例课题,学员可以在此基础上调整并重新提出方案。研究问题、假设和测试计划明确并达成一致后,学员就会开始具体研究。我们鼓励尽早验证想法;如果方向行不通,就及时转向备用方案。