本研究方向致力于寻找可行的政策和技术干预措施,缓解人类逐步失去自主权的风险,重点关注经济层面的自主权丧失和“智能诅咒”。
1. 将智能诅咒的发展过程形式化为可追踪、可监测的经济学和/或政治学模型。我们尤其希望找到能够预测自主权变化的稳健趋势,例如类似 METR 曲线、但用于衡量失业风险的指标。哪些经济指标可以表明我们正在走向永久性替代,而非暂时的劳动力转移?我们能否清楚预测 AI 能力进展及其相关失业情况?同样,哪些政治指标可以显示自动化正在削弱民主权力或更广泛的议价能力?又有哪些证据能说明自动化并未造成这些影响?
2. 探索比全民基本收入(UBI)更持久的大规模失业应对政策。许多人提出以财富再分配缓解先进 AI 可能造成的大规模劳动力替代。我们对单纯现金转移作为长期措施持相当审慎的态度,因为政府提供这类福利并没有动力持续发放。我们希望指导学员探索比 UBI 更持久、能够经受政治动荡并降低权力集中的再分配方式。我们尤其关注能够保留人类议价能力、让人类继续参与经济活动的制度,例如将再分配与实体资产所在地挂钩(如数据中心红利)、全民基础算力,或更具变革性且可持续的方案。我们希望严格评估哪些治理制度能够抵御资本集中(例如挪威为何具有如此强的韧性),以及在人类劳动不再支撑社会契约时,任何再分配方案是否真的能够持久。
3. 探索延长人机协作阶段的技术干预措施。我们希望找出人类最有可能长期保持竞争力的领域,并确定如何通过干预增强这些领域的人类能力。人机团队在哪些领域最有可能胜过纯 AI 方案?这类团队可以有多少成员?哪些干预措施能延长这些领域的竞争力?我们如何借鉴历史案例,分析哪些技术可能集中或分散权力?此外,人机协作阶段持续多久、向全面自动化过渡的速度有多快,会如何影响过渡结束时人们的自主权?
SF Bay Area
Luke 是 Thinking Machines 的技术团队成员。他还是《The Intelligence Curse》系列文章的合著者;该系列探讨大规模自动化可能如何逐步削弱人们的经济主体性。
此前,他共同创立了 Workshop Labs,这是一家开发以用户为中心模型、旨在应对主体性受损问题的 AI 研究公司,最近已加入 Thinking Machines。在创立 Workshop Labs 之前,他曾任 BlueDot Impact 的 AI 治理和 AI 经济学负责人。在转向 AI 安全之前,他曾在北卡罗来纳州负责地方选举竞选活动并取得胜利。他在 Oxford 学习历史与政治。
我目前在 Thinking Machines 工作,此前曾共同创立 Workshop Labs。我写过《A History of the Future》等情景分析文章,也与他人合著了《The Intelligence Curse》。在此之前,我从事 AI 安全研究,包括在 MATS 的研究。
我们欢迎不同背景的申请者。以下要求仅供参考,并非穷尽所有可能。
必备条件:
优先条件:
我们会提供三个感兴趣的备选项目,但并不局限于这些想法。申请过程中,我们会请潜在学员:(a) 结合个人兴趣,将这些提案细化为更具体的问题;或 (b) 提出自己的项目。
我们希望学员带着内在动力,选择符合上述主题的切入点;我们认为,本研究方向中最好的成果会来自自主开展研究、并具备良好研究判断力的学员。不过,项目仍需获得导师认可;如果研究范围偏离目标领域,我们也可能要求学员调整方向。