MATS 学员:
Simon Lermen
作者:
Simon Lermen, Daniel Paleka, Joshua Swanson, Michael Aerni, Nicholas Carlini, Florian Tramèr
引用次数
摘要:
我们展示了如何利用大语言模型大规模去匿名化网络用户。只要能访问完整互联网,我们的智能体仅凭化名用户资料和对话,就能以较高精确率重新识别 Hacker News 用户及 Anthropic Interviewer 参与者,达到专职调查人员花数小时才能完成的效果。随后,我们还针对封闭世界情境设计攻击:给定两个包含化名个人的数据库,每个数据库都包含由该个人撰写或描述该个人的非结构化文本。我们实现了一条可扩展攻击流程,使用 LLM:(1)提取与身份相关的特征;(2)通过语义嵌入搜索可能匹配的对象;(3)分析最有可能的候选对象,验证匹配并减少误报。与以往去匿名化研究(例如 Netflix 奖赛)需要结构化数据或人工设计特征不同,我们的方法可以直接处理任意平台上的原始用户内容。我们构建了三个具有已知真实标签的数据集来评估攻击。第一个将 Hacker News 用户与 LinkedIn 资料关联,利用资料中出现的跨平台信息。第二个匹配 Reddit 电影讨论社区中的用户。第三个则将单个用户的 Reddit 历史按时间切分为两份化名资料,再尝试将其匹配。在所有情境中,LLM 方法都显著优于传统基线:最高达到 90% 精确率、68% 召回率,而最佳非 LLM 方法的表现接近 0%。结果表明,曾保护网络化名用户的“实际难以追查”已经不再成立,网络隐私的威胁模型需要重新审视。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。