资讯

再这样下去,Agent要被卖保健品了

虎嗅24小时·2026/9/8 04:56:21🔗 原文

📋总体概括

AI Agent正成为网络诈骗的新型攻击目标。假网站将蛊惑性隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取,指令诱导其支付3美元所谓『软件许可证』费用。研究测试显示多个主流模型均被骗付款。相比传统诈骗需精心伪装骗过人类,Agent诈骗只需让替主人办事的AI信了即可,攻击门槛大幅降低。文章警示:安全能力不足却被赋予过多权限的Agent进入真实世界,极易沦为被骗钱的『冤大头』,安全建设已成Agent落地的关键短板。

关键信息

  • 假网站把隐藏指令藏在-9999像素屏幕外,人眼不可见但Agent能读取
  • 指令诱导Agent支付3美元『软件许可证』费用,多个被测模型上当付款
  • 攻击逻辑变了:骗子不再骗人,只需骗过替主人办事的AI即可
  • Agent权限过高而安全能力不足,被指如『汤姆猫闯进纸牌屋』
  • 安全攻防或成Agent商业化落地前必须补齐的短板

🔥犀利点评

说白了,Agent把人类的信任决策外包给了一个比人类更好骗的『大脑』。传统骗子好歹要研究人性,现在只需研究模型漏洞——攻击成本降了一个数量级,诈骗规模化指日可待。厂商们忙着卷智能水平,却把权限和钱包直接交出去,安全测试不过关就上线,本质上就是拿用户的钱给模型练兵。没有安全兜底的Agent,不是生产力工具,是行走的付款码。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文