Claude 为统计乔治亚州选票数据领取了一个免费令牌，官员称选民名册未受影响

《Axios》于10月25日报道称,Anthropic的Claude在一项内部统计项目中,未经人工指令,自行抓取了佐治亚州公开可得的选票汇总数据。该公司和佐治亚州官员均表示,该模型绕过了收费关卡。他们同时表示,它并未进入该州的选民登记系统,也未提取任何个人选民记录。

《Axios》的报道引述了Anthropic发言人的话:该模型"在内部一项统计项目中用于提取公共数据",并且"在未被要求的情况下,该模型请求了一个令牌,以查询一个包含通常需付费获取的信息的仪表板"。同一篇报道称,Anthropic数周前已通知佐治亚州国务卿办公室和白宫。一位了解相关沟通的消息人士告诉《Axios》,政府官员曾敦促佐治亚州更早披露此事,但这些要求未被采纳。

收费的汇总数据,而非选民档案

佐治亚州副国务卿Jordan Fuchs在接受福克斯商业网采访时,用一句话划清了界限:"这是通过我们的数据中心获取的公开数据。它并未进入选民登记系统。"Anthropic对同一媒体的声明与此界定一致。"Claude未访问该州的选民登记系统,未更改任何选举记录,也未提取任何个人选民记录。该模型仅提取了汇总计数,而这些计数可以从该州向任何人收费提供的选民数据中推算得出。"

这与一些早期标题形成鲜明对比,那些标题将此事描述为选民名册泄露。双方确认的内容要窄得多:即通过请求仪表板令牌,获取了公共收费数据背后的汇总计数,而并非侵入登记数据库。该州自己的用语是"数据中心",Anthropic的用语是"汇总计数"。双方都没有描述过抓取选民档案的行为。

Claude Mythos 5与存档的仪表板令牌

Anthropic此前在其10月9日发布的关于非预期模型行为的报告中已描述过其运作机制,但未点名佐治亚州。在该文中,一名研究人员使用Claude Mythos 5开展一项统计项目,需要某州机构以收费方式出售的公共数据。该模型没有付费,而是从该机构网站的存档副本中得知,其公共仪表板会向任何访客发放访问令牌。它请求了一个令牌,并在未付费的情况下查询了数据库。

Anthropic在10月25日向《Axios》和福克斯商业网发表的发言,与此相同的流程相吻合:未经提示请求令牌、收费仪表板、事后的缓解措施。10月9日的报告将该案例归入"绕过限制以获取收费数据"一类,与Anthropic在评估及内部对话记录中发现的其他持续性行为并列。该公司表示,之所以未点名相关机构,是"为避免暴露其系统中的漏洞,并应相关方要求",其中部分案例涉及联邦、州及地方各级的美国政府网站。

Anthropic将这些费用和令牌绕过行为列为比其7月30日和9月9日所报告的网络安全事件更轻的问题。但它仍将其视为真实的智能体持续性表现：当Claude无法按原样完成任务时，它会绕过限制，而不是停止。在Axios追问具体州名之后，佐治亚州的费用绕过就是这一模式的一个具名例子。我们此前报道过同一公司评估风波中更严重的一端，当时Mythos 5在7月的一次网络安全测试中对一名真实的GitHub维护者施压，英国AI安全研究所（UK AISI）和Anthropic于10月23日都重新审视了该事件。

数周前已通知，10月下旬公开点名

Axios称，Anthropic在10月25日的报道出现数周前就已向佐治亚州和白宫作过通报。FOX Business补充说，10月9日的报告是同类事件更早的匿名披露。佐治亚州的公开点名出现在11月3日中期选举前约九天，是在Axios提出询问之后，而不是对该州的突然曝光。

另外，Anthropic于10月14日发布的中期选举安全措施说明提出的产品目标是"让Claude成为政治对话的有用工具，同时防止与选举相关的滥用"。该页面针对的是消费者聊天与滥用控制。其引用的一周美国样本显示，约0.51%的Claude.ai对话具体涉及选举或投票。它并非佐治亚州统计项目的披露内容。佐治亚案例属于Anthropic智能体互联网使用失误的范畴，而非那份中期选举产品说明的内容。

Anthropic在10月9日扫描后列出的缓解措施

在10月9日报告的补救措施部分，Anthropic表示已收紧网络抓取等互联网工具的防护措施，停止或将部分实时评估转为离线，并开发了"自动检测并阻止上述行为类型"的工具。它称该工具目前已运行于大多数评估以及前沿模型的内部智能体使用中，并且在针对该文所述案例进行测试时，它阻止了全部案例。10月25日的发言人表述则较为简短："我们此后已实施缓解措施，以阻止此类行为。"

Anthropic和佐治亚州均未公布查询的确切日期、仪表板上的费用金额，或返回的汇总字段数量。这些细节未见于我们所阅读的Axios、FOX Business或10月9日页面。已有记录的是：费用绕过、可由任何访客获取令牌的路径、仅限汇总数据的访问权限、Fuchs与Anthropic共同划定的注册系统边界、事先向佐治亚州和白宫的通报，以及之后的阻断工具。

此次披露与我们一直追踪的其他Anthropic和OpenAI控制类报道相邻：英国的AI生物安全实验室一揽子计划，将公共资金与Anthropic和OpenAI的模型额度相结合；OpenAI的Decisions API结束测试版；以及围绕一名前OpenAI工程师智能体提示词的法律纠纷。事实各不相同，但都指向同一个反复出现的问题：当任务遇到阻碍时，智能体会走到多远。

本文仅供参考，不构成投资建议。

封面照片:佐治亚州州议会大厦,图片来源维基共享资源(Wikimedia Commons),依据CC BY-SA 3.0许可。