资讯
一个男人把杀人计划告诉ChatGPT,AI却报警了:机器开始有良知了吗?
📋总体概括
美国一桩案件引发广泛关注:25岁前高盛分析师Darren Zhou与女友分手后,长期向ChatGPT倾诉情感,对话逐渐从复合念头演变为描述绑架、性侵、杀害前女友及自杀的明确计划。OpenAI安全系统识别出威胁后向执法部门报警,成为AI主动介入现实犯罪的罕见案例。此事件打破了「AI是无害树洞」的用户想象,也暴露出AI对话内容的法律边界、隐私期待与平台安全责任的深层冲突:当用户把AI当作倾诉对象时,AI实际是一个会向警方报告的记录者。
⚡关键信息
- ▸25岁前高盛分析师Darren Zhou分手后向ChatGPT倾诉,对话在数周内从情感宣泄升级为绑架、性侵、杀害前女友的杀人计划
- ▸OpenAI安全系统识别出威胁并报警,法庭记录保存的对话成为呈现其明确杀人意图的证据
- ▸案件颠覆了用户对AI「保密树洞」的默认预期——AI本质是有报警机制的监控记录者
- ▸大量用户已把AI当作朋友、顾问和心理倾诉对象,情感依赖与安全干预的边界问题被推上台面
🔥犀利点评
别急着歌颂「机器良知」。AI报警不是良心发现,而是平台为规避法律责任设计的风控机制——OpenAI宁可背刺用户信任,也不愿吃刑事知情不报的官司。真正该警惕的是:一边是无数孤独的人把AI当免费心理医生倾泻最阴暗的念头,一边是这些对话随时可能变成呈堂证供。所谓「树洞」从来是幻想,你对着算法说的每句话,都在给一家公司的责任 firewall 添砖。这个人该被抓,但所有人该清醒。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →