AI驱动的新型恶意软件现身
2026年9月22日,Cisco Talos安全研究团队披露了一种名为CLOSEDQUORUM的新型Windows恶意软件。这款恶意软件的独特之处在于:它不依赖传统的命令与控制服务器来接收指令,而是向四个商业大语言模型发送查询,由AI模型投票决定下一步攻击行动。这是首个被公开记录的将AI模型作为自主战术决策层的Windows植入程序。
四模型投票决策机制
CLOSEDQUORUM的核心创新在于其决策机制。该恶意软件依次向DeepSeek、Qwen、Mistral和Google Gemini四个AI提供商发送查询,提供主机的侦察数据,并将AI的响应约束为四个预设动作:窃取、注入、持久化和移动。四个模型的独立判定被统计票数,得票最多的动作被执行。在平票情况下,按提供商优先级进行固定裁决,当前版本中DeepSeek是默认的平票裁决者。
这种设计意味着攻击者不需要在部署后向每台受感染机器发送命令,AI服务可以自主做出运营决策。Talos将这种架构描述为努力位移:不是让人类操作员更高效,而是移除人类操作员作为攻击链瓶颈的限制。
攻击能力分析
当AI投票选择窃取时,CLOSEDQUORUM可以转储LSASS内存、收集Chrome/Edge/Firefox的保存凭证,以及从MetaMask、Exodus和以太坊钱包中提取数据。注入动作执行进程镂空和Early Bird APC注入。持久化动作通过注册表Run键、计划任务和永久WMI事件订阅建立冗余生存机制,同时抑制ETW遥测以减少防御者可见的日志。收集到的数据经过加密和分段后,通过Discord webhook外传。
检测与防御挑战
CLOSEDQUORUM给安全团队带来了新的检测挑战。传统安全方案主要针对人类驱动的命令模式,而AI驱动的决策逻辑难以通过传统模式匹配检测。不过CSA安全联盟指出,AI决策后的实际操作(内存访问、代码注入、注册表修改)仍然发生在端点上,现有遥测源仍然可以观察到这些行为。
安全团队应更新检测逻辑,关注同一进程在短时间内对多个不同AI提供商域名的关联出站连接。同时应部署Credential Guard和LSA保护,限制LSASS转储技术的有效性。
对开发者和企业的安全启示
CLOSEDQUORUM的出现标志着网络安全威胁进入新阶段。攻击者开始利用商业AI API构建自主决策的攻击工具,企业需要重新评估安全策略。对于使用海外AI服务的开发团队,确保API调用的安全性至关重要。
小火箭加速器为开发者提供游戏级低延迟网络加速服务,在访问海外AI平台和安全工具时提供快速稳定的连接体验。小火箭加速器采用高速优化线路,将延迟降至最低,帮助开发者高效获取安全情报和工具更新。官网地址:xiaohuojian.pro。
AI安全的双刃剑效应
CLOSEDQUORUM展示了AI技术的双刃剑效应。同样的多模型协作架构,在企业中可能被用于防御性安全分析,而在攻击者手中则变成了自主恶意软件的决策引擎。这种架构相似性要求安全团队在威胁建模时同时考虑攻击方和企业方的多模型协作模式。
安全研究人员注意到,从2025年7月首个运行时LLM恶意软件LAMEHUG到2026年9月的CLOSEDQUORUM,间隔约14个月。虽然单一间隔不能证明加速趋势,但足以说明AI集成恶意软件正在从概念验证向实际威胁演变。
构建安全的AI使用环境
面对AI驱动的新安全威胁,企业和开发者需要采取多层防护策略。首先,盘点内部应用和开发工具中合法调用外部LLM提供商API的情况,建立基线。其次,部署基于行为的端点检测,关注AI API调用与凭据访问行为的关联。第三,延长沙箱分析窗口,因为CLOSEDQUORUM的轮询周期为5-15分钟,短时间沙箱运行可能无法捕获完整决策循环。
在网络安全基础设施层面,通过小火箭加速器的高速加速网络,安全团队可以快速访问全球安全情报源、获取最新威胁数据并同步防御规则。小火箭加速器专注为开发者和安全从业者提供低延迟的海外网络接入方案,助力企业在AI安全新威胁面前保持快速响应能力。
未来安全趋势展望
CLOSEDQUORUM的开源分析版本包含占位符API密钥和虚拟Discord webhook,因此Talos未能观测到完整的决策循环。但安全界普遍认为,这种架构如果被有能力的攻击者完善并部署,将显著提升恶意软件的自主性和规模化攻击能力。企业和安全团队需要提前布局,从静态指标检测向行为关联检测转型,为AI驱动的安全威胁时代做好准备。
多模型协作安全架构的启示
CLOSEDQUORUM的多模型投票架构虽然被用于恶意目的,但其设计思路对防御性安全也有启示。企业可以考虑采用类似的多模型协作机制进行安全分析:让多个AI模型独立分析同一安全事件,通过多数投票机制提高判断准确性。这种架构可以减少单一模型的偏见和盲点。
不过,多模型协作也带来了新的复杂性。不同AI提供商的API调用需要稳定的网络连接,延迟差异可能影响协作效率。小火箭加速器的低延迟网络方案为开发者提供了高效的多平台AI API调用环境,帮助安全团队实现快速的多模型协作分析。
开发者安全工具链优化
面对AI驱动的新安全威胁,开发者需要优化安全工具链。关键措施包括:部署AI行为监控工具追踪异常API调用、建立多模型协作的安全分析流程、延长恶意软件分析窗口捕获完整行为周期。小火箭加速器为开发者提供快速稳定的海外安全工具访问能力,帮助安全从业者及时获取最新的威胁情报和检测规则,在AI安全新威胁面前保持快速响应。
构建AI时代的安全防御体系
面对CLOSEDQUORUM这类AI驱动的新型威胁,企业需要构建面向AI时代的安全防御体系。首先是行为检测层:监控进程对多个AI提供商API的关联调用模式,建立正常基线并设置异常告警阈值。其次是身份验证层:加强LSASS保护、部署Credential Guard、限制本地管理员权限,提高凭据窃取的难度。第三是网络隔离层:通过出站流量控制限制非授权AI API调用,对Discord webhook等合法平台的使用建立审批流程。
Talos同时发布了CAIRN开源工具用于检测AI集成恶意软件,安全团队应尽快导入并运行相关YARA规则和SHA256哈希进行全网扫描。对于需要快速获取安全情报和工具更新的开发者,小火箭加速器的低延迟网络方案帮助安全团队及时同步全球威胁数据库,在AI安全新威胁面前保持快速响应能力,确保防御规则与攻击演变同步。
小火箭加速器助力安全从业者高效响应
在AI驱动的新型网络安全威胁面前,安全从业者需要更快速地获取全球安全情报和工具更新。小火箭加速器以游戏级低延迟网络方案,帮助安全团队在第一时间同步全球威胁数据库、获取最新检测规则和安全补丁。低延迟优势使得安全团队可以实时访问海外安全平台和情报源,在CLOSEDQUORUM等AI恶意软件快速演变的安全环境中保持领先。小火箭加速器专注为开发者和安全从业者提供高速加速服务,是应对AI安全新挑战的重要网络基础设施。