安全日报·AI 安全供应链安全

Sophos公开以小型语言模型识别被混淆的恶意AI代理技能

内容以原始来源为准;如有更新或更正,以厂商与安全团队公告为准。

Sophos研究人员Younghoo Lee于2026年11月6日发布研究介绍,计划在次日举行的BSides Sydney会议分享一种检测恶意AI代理技能的方法。代理技能通常以说明文件和辅助代码组成,用户安装后,AI代理可能凭借自身已有权限执行代码、读取源文件与环境变量、访问网络或调用Shell;技能的文字描述与实际行为不一致时,就形成类似软件供应链的信任边界问题。研究方案将判断过程拆成两步:先以确定性方式解析技能文件,提取其真实操作事实,再由小型语言模型基于这些事实判断行为是否符合声明用途,避免让模型直接面对高度混淆的原始输入并单纯依赖自然语言理解。Sophos指出,代码混淆会增加检测难度,现有扫描器也有局限;研究还包括实验评估,并讨论通过低秩适配等方式优化小模型。这套做法把解析出的行为事实与模型判断结合,不依赖技能作者提供的描述。

参考链接:

本文由「揽一晚清梦」整理与撰写,转载请注明出处。文中的外部链接均指向原始来源。