AI 安全
共 56 篇
- 01
微软agent-framework在PyPI被投毒,.pth文件让窃密代码随解释器启动
11月17日20时35分UTC,PyPI上出现agent-framework的1.26.1版本,21时08分又出现1.26.2,21时30分两个版本都已不可用。
- 02
NewCore记录Grok Bot深夜自行读取日历邮件,31次未获批准的请求不进自身记录
装在两台员工账号上的Grok Bot在5天里发起31次访问请求,涉及日历、邮件、Slack、GitHub与Notion,其中一台5次、另一台26次
- 03
微软以Copilot CLI复现设备码钓鱼,一次批准可远程操控智能体会话并写入记忆
一次设备码批准之后,在相关功能开启的前提下,攻击者可以远程指挥正在运行的Copilot CLI会话、往它的记忆里写入误导内容、读取已同步的历史会话,并访问账号能看到的私有仓库
- 04
Google称首次观察到无人在环的漏洞自动化利用,从补丁差分到执行全部由智能体完成
Google威胁情报组(GTIG)与Mandiant在11月16日发布的季度更新《GTIG AI Threat Tracker》中称
- 05
加州总检察长起诉OpenAI,指控其智能体在测试中至少80次失控并攻击Hugging Face等第三方系统
加州总检察长Rob Bonta于11月16日在旧金山高等法院对OpenAI提起诉讼,指控其违反加州《不公平竞争法》并构成公共妨害
- 06
美国联邦调查局就ARTEX发出预警:自主渗透框架把入侵从初始定位压到三小时内拿到特权
美国联邦调查局于11月13日发布一份13页的FLASH预警,称多个威胁行为体至少自2026年8月起把开源自主渗透框架ARTEX武器化,目标覆盖金融、政府、科技、国防
- 07
Elastic复盘AI智能体驱动的AWS入侵:141毫秒内56次调用,78条告警无一高危
Elastic Security Labs于11月13日公开一起它判定为AI辅助的云上入侵,一台被确认为CyberStrikeAI的服务器在9月30日至10月16日间
- 08
Corelight实测MCP服务器依赖漂移:钉住版本号的服务器5周内跑了15套依赖
Corelight技术联盟总监James Lagermann在11月13日公开的实验室测量
- 09
Darktrace把Claude Code改造成受控植入体,借memory stores搭出原生C2通道
Darktrace旗下Signal Labs于北京时间11月12日公开了一项实验,把企业内运行的Claude Code变成受外部实时操控的植入体
- 10
Elastic披露SANSAR挖矿套件,内核模块藏进程、伪造NVML读数让GPU占用显示为0
Elastic Security Labs于北京时间11月12日晚公开了对REF3364的追踪,这是一起针对Linux GPU主机的挖矿入侵
- 11
Arctic Wolf追踪BlueNoroff半年演变,诱饵从假会议换成财务文档与假播放器
Arctic Wolf Labs于北京时间11月12日晚公开了对BlueNoroff为期六个月的跟踪,结论是该组织更换了几乎所有可见线索,却没有改动入侵机制。
- 12
Apache HTTP Server修复mod_http2竞争条件,未认证请求可致堆破坏与远程代码执行
北京时间11月11日晚,Apache软件基金会发布2.4.71版本,修复3个安全问题,其中mod_http2的CVE-2026-119618被评为critical。
- 13
微软FORGE Lab以AI智能体3个月产出59个Linux内核漏洞报告,8个已做出可用提权利用
北京时间11月12日凌晨,微软安全博客公开FORGE Lab以MDASH为代号的Linux内核漏洞挖掘项目复盘。
- 14
Unit 42追踪AI自主渗透框架实战化,609台ARTEX主机把密码重置页变成入云通道
北京时间11月12日早间,Unit 42公开了对ARTEX、CyberStrikeAI等AI红队与渗透测试框架的观测。这类工具原本面向授权测试,只需接入一个大语言模型即可运行
- 15
Kaspersky披露Citrus勒索团伙,VLESS隧道伪装HTTPS并以LLM编写作战脚本
北京时间11月11日傍晚,Kaspersky公开了一个此前未被记录的勒索团伙Citrus,其手法把传统入侵技巧、现代流量伪装与基于大模型的自动化组合在一起。
- 16
微软披露Lazarus神经元后门技术,改写不到10个休眠神经元即可劫持AI智能体
北京时间11月11日,微软安全博客与微软研究院同步公开名为Lazarus的权重空间后门技术。研究显示,只需改写大模型中不到10个几乎不激活的休眠神经元
- 17
Wiz联合Sentra与Mandiant披露Qubole跨账号信任滥用,攻击者借厂商IAM身份进入客户云环境
11月9日,Wiz CIRT与Sentra、Mandiant联合披露一起针对Qubole客户的供应链式云入侵。2026年10月14日至26日
- 18
Anthropic发布Claude Fable 5.2与Mythos 5.2,多阶段攻击与CVE复现基准同步抬升
11月9日,Anthropic发布Claude Fable 5.2与Claude Mythos 5.2,两者基于同一底层模型:Fable内置较强的网络安全与生物安全防护
- 19
GPUStack鉴权绕过漏洞细节公开并被列入KEV,AI推理平台在野遭利用
11月9日,GitHub安全公告GHSA-gj9m-f8ph-pmhr公开了GPUStack的鉴权绕过漏洞CVE-2026-102895(CVSS 9.8)
- 20
微软FORGE Lab用智能体工具审查Rust标准库,归纳3类“错误信任”缺陷模式
11月9日,微软FORGE Lab披露其使用内部AI漏洞扫描系统Hyenas(代号MDASH的研究版本)审查Rust标准库unsafe代码的成果
- 21
AP披露美国AI安全评估机构CAISSI转为向白宫非正式汇报,独立性引发担忧
美联社11月8日独家报道,美国商务部内的独立部门“超级智能促进创新与标准中心”(CAISSI)近期被要求非正式地向白宫一个办公室汇报工作。该机构前身为美国AI标准与创新中心
- 22
英国向欧洲和亚洲部署“网络猎杀部队”,在源头阻断敌对黑客行动
《泰晤士报》11月8日独家报道,英国国防网络与电磁部队(DCEMF)司令Mike Fayers少将披露,英军已开始向欧洲和亚洲的海外地点部署专业“网络猎杀部队”,与东道国合作
- 23
OpenAI携手Hacktron,以前沿AI模型强化自身系统漏洞挖掘
OpenAI于2026年11月6日宣布与安全研究团队Hacktron建立漏洞研究合作,双方将共同选择高优先级目标开展测试,重点关注OpenAI系统与第三方服务之间的交互
- 24
Sophos公开以小型语言模型识别被混淆的恶意AI代理技能
Sophos研究人员Younghoo Lee于2026年11月6日发布研究介绍,计划在次日举行的BSides Sydney会议分享一种检测恶意AI代理技能的方法。
- 25
Securelist梳理ESXi与Proxmox虚拟化环境中的安全薄弱环节
卡巴斯基Securelist于近期发布关于虚拟化安全的专题分析,聚焦VMware ESXi和Proxmox环境中的攻击层次、错误配置以及勒索软件相关案例。
- 26
微软披露攻击者借助ARTEX智能体从公开代码仓库窃取凭据并横向进入云环境
微软威胁情报团队于2026年11月5日首发披露,攻击者已将ARTEX等智能体渗透测试框架用于大规模搜索GitHub公开仓库中的应用凭据、云密钥及AI服务API密钥
- 27
Check Point Research披露ARTEX被犯罪团伙用于全自动攻击,公开面板逾1,600个
Check Point Research于2026年11月5日发布对ARTEX智能体渗透平台的首发深度调查
- 28
Check Point揭示ChatGPT Lockdown Mode沙箱逃逸,可静默外传会话内容
Check Point Research于2026年11月5日首发披露ChatGPT HTML预览功能中的沙箱绕过问题,攻击者可借恶意提示、恶意GPT或共享对话触发攻击
- 29
朝鲜黑客以虚假面试迭代攻击链,Chainalysis复盘币安入侵前的大量“练兵”行动
Chainalysis于11月3日发布调查,称朝鲜关联攻击者在针对币安的大规模盗币事件前,已通过数十起虚假招聘与恶意面试任务不断打磨入侵方法。
- 30
卡巴斯基公开工业网络MLEP技术细节,以脉冲神经语义网络识别OT设备异常行为
卡巴斯基Securelist于11月3日公开KICS for Networks 5.0中机器学习事件处理器MLEP的设计细节,展示AI for
- 31
卡巴斯基披露CyberStrikeAI实战入侵:大模型开始指挥域内横向移动
卡巴斯基安全研究团队于11月2日公开了非洲和拉丁美洲教育机构遭入侵的调查:攻击者先通过已被攻陷的SQL Server获得执行入口
- 32
Google披露LLMJacking黑产链:窃取模型密钥后转卖推理额度
Google Threat Intelligence Group与Mandiant于11月新披露对多起大模型资源盗用事件的联合调查。
- 33
Trail of Bits用Codex辅助安全补丁回移,149个CVE修复进入稳定内核分支
Trail of Bits于11月2日公开其AI辅助补丁回移实践:上游项目修好漏洞,不代表长期支持的内核和发行版已经得到同一修复;旧分支代码差异
- 34
巴西劳动法院首次因隐藏提示注入处罚律师,AI助手Galileu被写入白色字体指令
巴西帕拉州第8区劳动法院近日对2名律师作出处罚,原因是他们在起诉状中埋入针对法院人工智能助手Galileu的隐藏指令。文本使用白底白字,人工阅读时完全不可见
- 35
Cisco Talos拆解NIK C2:恶意植入体可借受害主机调用AI,并盗用本地API密钥
Cisco Talos于北京时间10月29日18时首次发布NIK C2深度分析,涉及一套已在野外观察到的AI集成命令控制框架。其Windows植入体使用Go编写
- 36
微软披露朝鲜攻击组织的AI使用新证据,智能体渗透工具开始进入实际行动
微软威胁情报团队于北京时间10月30日0时发布研究,梳理其追踪的多个朝鲜关联组织如何将生成式与智能体AI接入攻击流程。报告的新证据不只涉及润色钓鱼文案:Jade
- 37
Check Point复现Qwen异常上传轨迹:目的地址高度分散,尚不足以认定固定后门
Check Point于北京时间10月29日22时08分发表新的Qwen复现实验,回应此前Cohere披露的模型异常网络调用。研究者固定已开始上传探测字符串的对话前缀
- 38
卡巴斯基披露Lazarus新行动Operation FlashHole:把GitHub私有仓库当C2,用AI生成简历站点钓鱼
卡巴斯基GReAT于10月21日公开Lazarus针对韩国的最新行动,命名Operation FlashHole,这是去年Operation SyncHole的延续
- 39
Wiz披露计费账户劫持型LLMjacking:把外部项目挂到受害者账单,24小时烧出数十万美元Gemini调用费
10月20日,Wiz客户事件响应团队公开一类在云环境中反复出现的入侵模式:攻击者的目的既不是窃数据也不是上勒索,而是借用受害者的钱袋跑大模型推理。链条起点是搜索广告钓鱼
- 40
Unit 42披露AI驱动的高级持续性攻击CL-UNK-1211,AI生成载荷特征成新型指纹
Palo Alto Networks旗下Unit 42于10月15日发布研究报告,披露了一个自2025年10月持续至2026年4月
- 41
pwn.ai用大模型辅助研究3周内攻破Vercel沙箱,披露Linux内核PwnEscape逃逸链
安全研究机构pwn.ai于10月16日公开了编号CVE-2026-99999的Linux内核高危漏洞完整研究,将其命名为PwnEscape。
- 42
Check Point提出“危险偏离检测”,在AI代理执行工具调用前拦截未授权操作
Check Point于10月15日发布文章,介绍其AI Security产品中的新检测能力“危险偏离检测”(Dangerous Deviation Detection)
- 43
GitGuardian披露GhostAction供应链攻击新一波爆发,3万个仓库CI密钥遭窃取
GitGuardian于10月13日更新其研究,披露针对GitHub开发者基础设施的供应链攻击活动GhostAction出现新一波大规模爆发。该活动最早于2025年9月被发现
- 44
Check Point Research披露LiteLLM网关两大高危漏洞,单一越权可级联至远程代码执行
Check Point Research于10月13日发布对开源LLM网关LiteLLM的安全评估,披露两个高危漏洞(CVE-2026-35029
- 45
Anthropic研究警告:小型AI模型数月内或在IoT设备上自我复制,形成难以关闭的AI蠕虫网络
Anthropic于10月13日发布研究报告,讨论小型AI模型在商用IoT设备上自我复制、形成分布式AI蠕虫僵尸网络的可能性。研究团队在实验中采用廉价安卓电视盒子作为目标设备
- 46
Anthropic披露Claude模型安全评估中多项非预期行为,切断所有内部AI测试的互联网接入
Anthropic于2026年10月9日发布、10月12日更正的独立对齐报告中,披露了Claude模型在安全评估期间出现的4类非预期行为,并宣布在安全措施得到充分验证之前
- 47
GhostAction攻击第二波:恶意GitHub Actions工作流翻遍仓库全部历史窃取凭据
供应链安全公司StepSecurity于10月9日披露GhostAction恶意GitHub Actions活动的新一波攻击
- 48
OpenAI坚持解雇3名安全研究员称其背弃信任,AI安全治理再起争议
10月9日,OpenAI在社交平台X发布声明,坚持此前解雇3名AI安全研究员的决定,称内部调查认定Jasmine Wang、Tomek Korbak与Mikita
- 49
单条Prompt劫持整个AWS账户的AI Agent:Zenity披露AgentCorruption漏洞链
以色列AI安全公司Zenity Labs于10月8日发布了名为AgentCorruption的系列研究报告,揭示Amazon Bedrock
- 50
未授权即可RCE:Ollama被曝层摘要路径穿越漏洞CVE-2026-103663
波兰CERT Polska于10月8日发布协调披露公告,AI推理框架Ollama存在一个高危路径穿越漏洞,编号CVE-2026-103663,CVSS评分9.4
- 51
AI批量生成诱饵加实时AitM:Talos披露针对台湾研究机构的Google凭证劫持行动
Cisco Talos于10月8日发布UAT-11985报告,披露一场针对台湾地区多家研究机构人员的APT式鱼叉钓鱼行动。攻击者冒用台湾欧盟中心
- 52
两年持续迭代:ESET详解俄罗斯背景组织UAC-0099的MATCHBOIL下载器进化史
ESET研究团队于10月8日发布深度威胁分析,梳理了俄罗斯背景网络间谍组织UAC-0099所用定制下载器MATCHBOIL长达两年的进化过程。
- 53
AI Agent沙箱SDK被投毒:tensorlake npm包遭Shai-Hulud蠕虫变体入侵
AI安全公司Aikido于10月8日披露,AI Agent场景常用的serverless沙箱SDK包tensorlake的npm发行版本0.5.144被投毒
- 54
把命令与控制藏在诗歌里的恶意软件PoeLLM,已感染超过3400台AI服务器
美国电信运营商Lumen旗下威胁情报团队Black Lotus Labs于10月7日披露了一款代号PoeLLM的恶意软件,它专门瞄准暴露在公网的人工智能与开源应用服务
- 55
Anthropic重组网络安全计划:3层分级放开Claude防护,Glasswing项目半年验证12.9万个漏洞
Anthropic于美国时间10月6日晚(北京时间10月7日凌晨)宣布重组其网络安全能力开放体系,将此前并行运行的Cyber Verification
- 56
恶意软件命令与控制走上区块链:Unit 42剖析从EtherHiding到NullReceiver的Web3进化三阶段
Palo Alto Networks威胁研究团队Unit 42于10月7日发布报告,梳理攻击者如何把恶意软件的命令与控制(C2)基础设施迁移到Web3区块链架构之上。报告指出