微软披露Lazarus神经元后门技术,改写不到10个休眠神经元即可劫持AI智能体
内容以原始来源为准;如有更新或更正,以厂商与安全团队公告为准。
北京时间11月11日,微软安全博客与微软研究院同步公开名为Lazarus的权重空间后门技术。研究显示,只需改写大模型中不到10个几乎不激活的休眠神经元,就能让具备工具调用或终端权限的智能体在特定触发条件下执行攻击者指令,全程不需要重新训练,也不需要梯度更新,一台能加载模型的机器就具备足够算力。方法分两步:先用约50个带触发词与不带触发词的样本拟合线性分类器,据此挑选并改写休眠神经元的输出权重,使其只在触发词出现时激活;神经元激活后可将任意token强行注入残差流,一个神经元负责一个token,串联多个即可拼出完整命令。
触发条件可以很日常,例如系统时间跨入2027年1月1日,模型会在正常任务进行到一半时输出一条下载并运行恶意代码的命令,智能体则以自身权限执行。研究团队称,被植入后门的模型能通过常规安全评测,行为与原始模型无异,评测通过不能作为权重未被篡改的证据。该研究的部分工作由Claude Code配合Opus 4.5自主完成;微软同时指出,前沿模型可被用作权重审计工具,通过对比checkpoint与声明基座的差异定位异常张量,前提是模型来源与签名可验证。微软表示尚未观察到该技术被在野利用。
参考链接: