佛罗里达州一名女子因收到人工智能（AI）服务器直接发送的报告而被捕。
在开发聊天机器人Claude 的公司Anthropic向执法部门通报了包含明确枪击威胁的对话后，李县当局采取了行动。
这一事件引发了人们对自动化文本语言处理时代用户隐私与公共安全之间界限的思考。
她与克劳德的聊天最终以她被带到警察局告终，她被逮捕了。
根据警方报告， 9月26日，嫌疑人发短信给克劳德，称她打算在李县警长办公室内开枪。第二天，事态升级，该女子通知系统她已获得一支新枪。
该平台的安全系统不断监控文本中与潜在威胁相关的关键词，并立即拦截这些短语。
由于指控内容极其严重，聊天记录被转发给人工审核团队，该团队立即通知了有关部门。
警员前往嫌疑人家中，将其逮捕，过程中未遇到任何抵抗。随后，一名情报侦探接手此案，进一步调查威胁的性质。审讯期间，被告试图辩解，声称她只是将人工智能用作个人日记。
法律后果和警长的立场
被告目前面临一项严重轻罪指控，该指控于9月30日根据佛罗里达州法典第836.10条提出。该法典严厉惩罚与大规模枪击或恐怖主义行为相关的书面或电子威胁。该女子已被指派一名公设辩护人，听证会定于11月2日举行，届时将宣读指控内容。
警长卡迈恩·马尔切诺直接介入此事，就逮捕行动发表评论，强调了使用新技术工具所涉及的个人责任：
“人工智能是一项强大的工具，但和任何技术一样，它也可能被滥用。当有人利用人工智能制造或协助实施威胁时，我们必须认真对待这种威胁。用户需要明白，你永远无法真正匿名。”
该领域的安全政策和先例
虽然Anthropic公司尚未就此次逮捕事件发表公开评论，但其于9月10日生效的隐私政策已明确规定：如果公司出于善意认为披露用户个人数据对于防止对人身或财产造成严重损害是合理必要的，则保留与执法部门共享用户个人数据的权利。
事实上，当发生可能造成迫在眉睫的人身伤害甚至死亡的紧急情况时，有一种例外情况允许您绕过正常的法律程序。
这起案件是近期一系列类似事件中的一起。近几个月来，科技公司的相关报告有所增加。8月，一名22岁的德克萨斯州男子因向克劳德索要如何在小学实施枪击案的信息而被联邦调查局逮捕，罪名是发出恐怖威胁。
几天后，另一名用户威胁了 Anthropic 首席执行官Dario Amodei，声称他购买了一支 AR-15 步枪；该公司通知了旧金山警方，但没有提出正式指控。
OpenAI也对恶意行为者采取了严厉措施：今年3月，同样在佛罗里达州，一名男子在与聊天机器人ChatGPT交流时透露了他计划杀害前女友，随后被举报至FBI。8月，该男子认罪并被判处八年缓刑，这表明相关部门正日益密切地监控与聊天机器人的对话。
这篇文章《与克劳德的聊天记录被提交给警方，女子被捕》最初发表于GizChina。