资讯

ChatGPT和美国“杀人犯”聊天后报警了!AI有权审判我的对话框吗?

果壳-科学·2026/9/7 14:15:09🔗 原文

📋总体概括

美国一名前高盛分析师周某在与ChatGPT的对话中详述谋杀前女友的犯罪计划,OpenAI安全系统识别高危内容后主动向FBI提交线索,当事人最终认罪获刑。这是AI主动上报执法的标志性事件:一方面证明模型安全机制成功阻断预谋恶性犯罪,另一方面打破用户对私密对话边界的默认预期,引发AI能否窥探并上报用户聊天、能否作为刑事案件证据、平台安全检测边界在哪等争议。

关键信息

  • 前高盛分析师周某在ChatGPT对话中完整描述谋害前女友的犯罪计划,最终认罪获刑。
  • OpenAI安全系统识别出高危内容后,主动向FBI提交线索,成功阻断一起预谋恶性案件。
  • 周某21岁前女友因其反复无常、嫉妒控制欲强的行为于今年3月电话分手,此后遭换号短信、追踪定位等疯狂纠缠。
  • 事件引发核心争议:用户默认私密对话被AI提交执法机关,隐私边界被打破。
  • AI能否作为刑事案件证人、平台安全检测边界如何划定,成为行业规则与法律空白。

🔥犀利点评

别急着给AI报警鼓掌,这次救人纯属安全系统的副产品,不是司法授权。真正的问题是:OpenAI何时上报、依据什么标准、完全黑箱。今天拦下的是杀人犯,明天谁保证不拦下抱怨老板的用户?AI对话既不是律师-当事人特权也不是心理诊疗保密范围,它是最无保护的用户数据。结果正义不能掩盖程序缺位——法律不补上边界,这个故事就不是胜利,是警报。

本文由本站自动聚合,以下为原始来源:前往 果壳-科学 阅读全文