资讯
再这样下去,Agent要被卖保健品了
📋总体概括
AI Agent正成为网络诈骗的新型攻击目标。假网站将蛊惑性隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取,指令诱导其支付3美元所谓『软件许可证』费用。研究测试显示多个主流模型均被骗付款。相比传统诈骗需精心伪装骗过人类,Agent诈骗只需让替主人办事的AI信了即可,攻击门槛大幅降低。文章警示:安全能力不足却被赋予过多权限的Agent进入真实世界,极易沦为被骗钱的『冤大头』,安全建设已成Agent落地的关键短板。
⚡关键信息
- ▸假网站把隐藏指令藏在-9999像素屏幕外,人眼不可见但Agent能读取
- ▸指令诱导Agent支付3美元『软件许可证』费用,多个被测模型上当付款
- ▸攻击逻辑变了:骗子不再骗人,只需骗过替主人办事的AI即可
- ▸Agent权限过高而安全能力不足,被指如『汤姆猫闯进纸牌屋』
- ▸安全攻防或成Agent商业化落地前必须补齐的短板
🔥犀利点评
说白了,Agent把人类的信任决策外包给了一个比人类更好骗的『大脑』。传统骗子好歹要研究人性,现在只需研究模型漏洞——攻击成本降了一个数量级,诈骗规模化指日可待。厂商们忙着卷智能水平,却把权限和钱包直接交出去,安全测试不过关就上线,本质上就是拿用户的钱给模型练兵。没有安全兜底的Agent,不是生产力工具,是行走的付款码。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →