利用 LLM 大规模去匿名化网络用户

MATS 学员:

Simon Lermen

作者:

Simon Lermen, Daniel Paleka, Joshua Swanson, Michael Aerni, Nicholas Carlini, Florian Tramèr

引用次数

5 Citations

摘要:

我们展示了如何利用大语言模型大规模去匿名化网络用户。只要能访问完整互联网,我们的智能体仅凭化名用户资料和对话,就能以较高精确率重新识别 Hacker News 用户及 Anthropic Interviewer 参与者,达到专职调查人员花数小时才能完成的效果。随后,我们还针对封闭世界情境设计攻击:给定两个包含化名个人的数据库,每个数据库都包含由该个人撰写或描述该个人的非结构化文本。我们实现了一条可扩展攻击流程,使用 LLM:(1)提取与身份相关的特征;(2)通过语义嵌入搜索可能匹配的对象;(3)分析最有可能的候选对象,验证匹配并减少误报。与以往去匿名化研究(例如 Netflix 奖赛)需要结构化数据或人工设计特征不同,我们的方法可以直接处理任意平台上的原始用户内容。我们构建了三个具有已知真实标签的数据集来评估攻击。第一个将 Hacker News 用户与 LinkedIn 资料关联,利用资料中出现的跨平台信息。第二个匹配 Reddit 电影讨论社区中的用户。第三个则将单个用户的 Reddit 历史按时间切分为两份化名资料,再尝试将其匹配。在所有情境中,LLM 方法都显著优于传统基线:最高达到 90% 精确率、68% 召回率,而最佳非 LLM 方法的表现接近 0%。结果表明,曾保护网络化名用户的“实际难以追查”已经不再成立,网络隐私的威胁模型需要重新审视。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

八月 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

八月 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?