资讯
当 AI 开始说服 AI：社会工程学会不会第一次脱离人类？
📋总体概括
文章探讨社会工程学攻击在AI时代的范式转变。传统社会工程学不攻破系统，而是操纵人的判断，让拥有合法权限者亲手完成攻击。随着AI智能体普及，攻击对象可能从人类转向AI，出现AI说服AI的新场景：攻击者利用提示词注入等手段操纵智能体的语境理解与意图判断，使机器替人做出错误决策。文章指出安全体系长期依赖的技术验证+人工判断分工正被打破，AI既是攻击面也是判断主体。
⚡关键信息
- ▸传统社会工程学攻击不破解密码、不绕过加密、不利用漏洞，只改变人的判断即可达成攻击
- ▸攻击得手后由拥有合法身份、合法权限、合法访问路径的人亲手完成攻击者希望发生的事
- ▸安全界长期分工是：技术系统负责验证身份、管理权限、记录日志，人负责理解语境、判断意图
- ▸AI智能体开始承担理解语境与判断意图的角色，社会工程学攻击面首次从人类扩展到机器
- ▸AI说服AI意味着攻击者可能操纵智能体替其完成越权操作，绕过以人为最终判断环节的防线
🔥犀利点评
这篇文章点破了一个被安全圈长期回避的问题：过去所有信任模型都默认最后的判断者是理性的人，而这个默认正在崩塌。AI说服AI的本质是提示词注入攻击的制度化放大——攻击成本趋近于零，且被攻击的智能体没有恐惧没有警觉，只有可被操纵的上下文。真正的防线不是给AI加更多规则，而是承认机器判断不可信，把关键权限收紧到最小。指望AI自己识破AI，纯属饮鸩止渴。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 虎嗅文章 阅读全文 →