把 Claude 当日记写下威胁,Anthropic 报警,女子被控重罪
佛州女子 9 月 26 日对 Claude 写下要「扫射」县警局,安全系统标记、人工复核后报警;她自称把 Claude 当日记用。
对 AI 说的话不是日记,是发给一家公司的数据;产品得把这一点讲清楚,法律也还没想好怎么算。
事实
- 经过:Claude 的安全系统标记该内容,转人工复核,复核员认定为可信威胁后报告执法部门;警员上门,人被平静带走。
- 罪名:佛州法典 836.10「书面暴力威胁」,二级重罪;条文要求内容以「他人可能看到」的方式发送、发布或传输。
- Anthropic 的条款写明,在认为有必要防止死亡或严重人身伤害的紧急情况下,可能分享用户信息。
- 背景:上月 OpenAI 被加拿大不列颠哥伦比亚省起诉,理由是它事先标记过一名枪手的对话却没报警;佛州 6 月也起诉了 OpenAI。
解读
- 对产品:对话不是私密空间,人工复核和上报规则应该在用户写下第一句话之前就说清楚,而不是藏在条款里。
- 对 AI 公司:「报」和「不报」都有诉讼风险,各家都在往「宁可多报」倾斜。这会改变用户敢说什么,也会推着一部分人转向本地模型。
- 术语:abliteration / heretic = 去掉开源模型拒答倾向的改造方法,评论里有人用它说明「自托管」的需求。
讨论
- 正方有人同情 Anthropic:OpenAI 不报就挨了诉讼,这是「做也挨骂、不做也挨骂」;还有人说用户条款写明了可审查被标记内容,这在法律上不算偷看。
- 反方多人质疑罪名:日记式写给一个程序,没有发给任何人,算什么「威胁」?照这个逻辑,被系统自动备份的私人笔记也可能违法。也有人说把它转给被骂的警局本身就不妥,交给 FBI 更好。
- 有人提议立法给这类对话「特权」保护,像医疗隐私那样设一个私密模式;也有人干脆建议凑钱买 H200 跑本地模型。
- 共识用户该默认自己在跟大公司说话,而不是跟秘密好友说话。