资讯

当 AI 开始说服 AI:社会工程学会不会第一次脱离人类?

虎嗅24小时·2026/9/8 03:05:33🔗 原文

📋总体概括

文章探讨AI对社会工程学的根本性改变:传统社工攻击依赖人类攻击者操纵人类受害者,通过伪装邮件、冒充客服等手段让人自愿交出权限。而在AI时代,说服链条可能出现「AI说服AI」的新形态——智能体之间相互通信、授权与执行,使攻击首次可能脱离人类这一环节。作者指出当判断、确认等信任环节由AI代理承担时,长期形成的「技术验证身份、人判断意图」的分工体系将面临重构,安全边界需要重新定义。

关键信息

  • 传统社会工程学的核心:攻击者不破解系统,只改变一个人的判断,由合法身份者亲手完成攻击
  • 安全行业长期分工想象:技术系统负责验证身份与管理权限,人类负责理解语境与确认意图
  • AI时代的新风险:当智能体开始代替人类做判断与执行,说服链条可能出现AI说服AI的形态
  • 这一转变意味着社会工程学攻击可能第一次脱离人类这一必要环节

🔥犀利点评

这篇文章点出了一个被多数安全讨论忽略的真问题:我们一直在防御「人骗人」,却对「机器骗机器」毫无准备。但要说清楚——AI说服AI的前提是AI拥有了本不该有的授权和信任,这本质仍是权限设计问题,不是玄学。真正该警惕的不是AI多会骗,而是企业为了效率把判断权大把交给智能体,等于给社工攻击装上了自动化接口。防线没变,只是人肉防火墙下岗了。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文