资讯

Anthropic最新报告:AI开始批量“崩老头”了?

虎嗅24小时·2026/9/11 09:48:34🔗 原文

📋总体概括

Anthropic发布154页威胁情报报告,揭示AI已从提供深度参与执行的完整链条。报告中最贴近普通人的案例是:2026年4月发现一家中国应用工作室运营20多款约会应用,两周内超4700个AI人设与至少2.5万名真实用户互动,产生约236万条Claude消息,匹配池约四分之三账号由AI驱动;当用户要求视频通话时,真人工作人员介入验证身份。报告指出网络攻击、监控、影响力行动等领域正被少数人加AI模型压缩实现,专业门槛大幅降低。

关键信息

  • Anthropic发布154页威胁情报报告,警告AI从给建议转向参与更长、更完整的执行链条
  • 发现一家中国应用工作室运营20多款约会应用,匹配池中约四分之三账号由AI驱动
  • 两周观察期内,4700多个AI人设至少与2.5万名真实用户互动,产生约236万条Claude消息
  • 用户要求视频通话或换平台时,真人工作人员介入,AI与真人分工维持欺骗
  • AI正把过去需要多人、高专业门槛的事情压缩为少数人加一组模型或Agent

🔥犀利点评

最讽刺的一幕是视频验证失灵了:真人出镜反而成了AI骗局的最后一环补丁。Anthropic这波报告既当裁判又当运动员——自家模型被批量用来「崩老头」,发报告止损顺便立人设。但真正的问题不在某一家工作室,而在于信任的验证机制已整体失效:聊天记录、视频、持续回应全可伪造。平台监管缺位下,普通人只剩一种防御——默认线上的一切亲密都可能是流水线产品。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文