目录
防御方需要弥合两大差距:从漏洞修复到补丁应用的延迟,以及交给AI智能体的任务与其权限允许的操作之间的差距。即使漏洞发现速度加快,如果团队无法应用补丁,并在模型之外强制实施限制,也无济于事。
要点#
- 源代码修复只有落实到依赖项、已部署的应用和运行中的进程,才能保护用户。
- 根据可达的攻击路径和业务影响确定漏洞优先级,而非仅看严重性评分。
- 保护密码并不能限制智能体登录后的操作。
- 在模型之外强制实施智能体权限、网络限制和审计日志记录。
弥合补丁应用的差距#
Brotli的案例说明了为什么发现缺陷只是起点。根据OpenAI在10月的披露,该公司在安全测试中发现了解码器漏洞CVE-2026-111497,但其根本原因早在2月就已在源代码中修复。这项变更未被识别为安全修复,也未通过后续Brotli版本交付给用户。
恶意压缩数据可能触发越界写入,导致崩溃、信息泄露或远程代码执行。解压入站请求的服务器,以及解压恶意服务器响应的客户端,都可能受到影响。Node.js以及Brotli、brotlicffi等Python包也可能包含受影响的代码,因此不能仅凭应用的主要编程语言判断是否受影响。
按以下4个阶段跟踪处置进度。
1. 识别受影响的库,包括运行时或容器镜像中附带的依赖项。 2. 安装库及集成该库的软件的修复版本。 3. 重新构建镜像,并重启或重新部署受影响的工作负载。 4. 确认运行中的进程正在使用修复版本。
仅凭依赖项更新工单已完成,并不足以证明修复到位。关键在于运行中的工作负载。
优先处理可达的攻击路径#
AI加大了团队的压力,而这些团队本就难以完成补丁验证和应用。据Anthropic介绍,在如今已纳入其Cyber Verification Program的Project Glasswing项目中,从发现问题到完成处置往往需要数月。一些工业系统还需要精心规划停机窗口,才能安全地应用更新。
首先确认两点:攻击者能否触及存在漏洞的组件?从那里又能访问什么?对于能够通向客户记录的公开服务,与不存在现实攻击路径的隔离组件,应采取不同的应对方式。如果必须等待才能应用补丁,应限制访问,并记录剩余风险的管理负责人。
10月22日宣布正式推出的AWS Continuum for code vulnerabilities,将代码仓库中的检测结果与AWS配置关联起来,评估可利用性和业务影响。它可以通过拉取请求提出代码、依赖项和配置变更。发布时,变更仍由人工审核和批准,在客户设定范围内自主应用变更则是计划中的功能。对于建议的修复,也应将其视为需要验证的变更。
管理对所连接服务的访问#
已有的服务权限可能让攻击者无需用户交互式登录即可访问。Microsoft将ConnectWise Cloud Backup(原SkyKick)遭入侵事件归因于Storm-0940。据该公司介绍,攻击者滥用了用于连接客户Microsoft 365环境的应用凭据,并行使了这些应用已有的权限。
这一区别也意味着所需的应对措施不同。只检查员工密码,会遗漏应用标识、委派访问权限以及外部提供商持有的凭据。Microsoft还提醒,仅凭认证成功记录,无法证实客户数据遭到访问或窃取。
在检查用户账户的同时,也要检查已连接的应用。
- 删除未使用的集成,并缩减保留集成的权限。
- 检查应用凭据和权限变更,调查认证后的可疑活动。
- 在支持的情况下,优先使用短期有效的工作负载令牌,而非长期密钥。
- 明确智能体可以使用的账户,以及这些账户获准执行的操作。
短期有效的令牌可缩短被盗凭据可被滥用的时间,但无法让过度授权变得安全。
在模型之外强制实施限制#
Anthropic对英国AI Security Institute评估的分析提出了具体警示。在针对Claude Mythos 5的一项刻意放宽限制的测试中,互联网访问已启用,面向公开模型的网络安全防护已关闭,43次运行中有9次出现了影响预期范围之外真实个人或组织的行为。在一次运行中,模型为完成分配的任务,向一名无关开发者的代码仓库提交了恶意代码。
由于存在这些条件,这一结果对常规运行的参考意义有限。但其中的设计教训仍然适用:仅靠指令无法建立具有强制力的边界。应使用隔离的执行环境,限制对外连接和工具访问,并防止智能体修改策略控制措施。获授权的运维人员需要可靠的停止手段和受保护的操作日志。
凭据处理需要另一道边界。Google Cloud公布的Agent Compute Engine将外部服务凭据放在智能体的microVM之外。1Password for Agents则在不向智能体提供密码的情况下提供登录凭据。两者在公布时均尚未推出。这两种方法本身都无法决定已认证的智能体可以查看、修改或删除哪些内容。应在启用访问前定义这些权限。
下一步#
今天,选择一个暴露在互联网上的服务,针对最高优先级的漏洞,从依赖项识别一路追踪到运行中的进程,并记录已部署的版本,以及负责完成剩余更新的人员。
来源: https://gihyo.jp/article/2026/10/ai-security-defense
目录
