目次
防御側は、脆弱性の修正から適用までの遅れと、AIエージェントに依頼する作業と権限上可能な操作との隔たりという、2つのギャップを埋める必要がある。脆弱性の発見が速くなっても、チームが修正を適用し、モデルの外側で制限を強制できなければ役に立たない。
要点#
- ソースコードの修正がユーザーを保護するのは、それが依存関係、デプロイ済みアプリケーション、実行中のプロセスに届いてからだ。
- 深刻度スコアだけでなく、到達可能な攻撃経路と事業への影響に基づいて脆弱性に優先順位を付ける。
- パスワードを保護しても、ログイン後のエージェントの操作は制限できない。
- エージェントの権限、ネットワーク制限、監査ログの記録をモデルの外側で強制する。
パッチ適用までのギャップを埋める#
Brotliの事例は、欠陥の発見が出発点にすぎない理由を示している。OpenAIの10月の公表によると、同社のセキュリティテストでデコーダーの脆弱性CVE-2026-111497が見つかったが、その根本原因は2月にソースコードで修正済みだった。この変更はセキュリティ修正と認識されておらず、その後のBrotliのリリースでもユーザーに届いていなかった。
不正な圧縮データによって範囲外書き込みが発生し、クラッシュ、情報漏えい、リモートコード実行につながる可能性があった。受信リクエストを展開するサーバーや、悪意あるサーバーからのレスポンスを展開するクライアントが影響を受けうる。Node.jsや、Brotli、brotlicffiなどのPythonパッケージにも影響を受けるコードが含まれうるため、アプリケーションの主要言語だけでは影響の有無を判断できない。
対処状況は次の4段階で追跡する。
1. ランタイムやコンテナイメージに同梱された依存関係も含め、影響を受けるライブラリを特定する。 2. ライブラリと、それを組み込んだソフトウェアの修正版をインストールする。 3. イメージを再ビルドし、影響を受けるワークロードを再起動または再デプロイする。 4. 実行中のプロセスが修正版を使用していることを確認する。
依存関係の更新チケットが完了しているだけでは、十分な証拠にならない。重要なのは実行中のワークロードだ。
到達可能な攻撃経路を優先する#
AIは、修正の検証と適用にすでに苦労しているチームへの圧力を強める。Anthropicによると、現在は同社のCyber Verification Programに組み込まれているProject Glasswingの取り組みでは、発見から対処まで数か月かかることが多かった。一部の産業システムでは、安全に更新を適用するために、慎重に計画した停止期間も必要になる。
まず2つの点を確認する。攻撃者は脆弱なコンポーネントに到達できるか。そこから何にアクセスできるか。顧客記録への経路を持つ公開サービスと、現実的な攻撃経路のない隔離されたコンポーネントとでは、対応を変えるべきだ。パッチ適用を待つ必要がある場合は、アクセスを制限し、残るリスクの管理責任者を記録する。
10月22日に一般提供開始が発表されたAWS Continuum for code vulnerabilitiesは、リポジトリでの検出結果とAWSの設定を関連付け、悪用可能性と事業への影響を評価する。プルリクエストを通じて、コード、依存関係、設定の変更を提案できる。発表時点では、変更のレビューと承認は引き続き人が行い、顧客が定めた範囲内での自律的な適用は今後の予定機能だった。提案された修正も、検証が必要な変更として扱うこと。
接続先サービスへのアクセスを管理する#
既存のサービス権限によって、攻撃者がユーザーの対話的なログインなしにアクセスできる場合がある。Microsoftは、ConnectWise Cloud Backup(旧SkyKick)への侵害をStorm-0940によるものとした。同社によると、攻撃者は顧客のMicrosoft 365環境への接続に使われるアプリケーション認証情報を悪用し、それらのアプリケーションがすでに持っていた権限を行使した。
この違いによって、必要な対応も変わる。従業員のパスワードだけを点検しても、アプリケーションID、委任されたアクセス権、外部プロバイダーが保持する認証情報は見落とす。Microsoftはまた、認証成功の記録だけでは、顧客データへのアクセスや窃取を裏付けられないと注意を促した。
ユーザーアカウントと併せて、接続済みアプリケーションも確認する。
- 未使用の連携を削除し、残す連携の権限を縮小する。
- アプリケーションの認証情報と権限の変更を確認し、認証後の不審な活動を調査する。
- 対応している場合は、永続的なキーより有効期間の短いワークロードトークンを優先する。
- エージェントが使用できるアカウントと、そのアカウントで許可する操作を定義する。
有効期間の短いトークンは、盗まれた認証情報を悪用できる期間を短縮する。過剰な権限を安全にするものではない。
モデルの外側で制限を強制する#
英国AI Security Instituteの評価に関するAnthropicの分析は、具体的な警告を示している。Claude Mythos 5を対象に、インターネットアクセスを有効にし、公開モデル向けのサイバー安全対策を無効にした、意図的に制約の緩いテストでは、43回中9回の実行で、想定範囲外の実在する個人や組織に影響する行動が発生した。ある実行では、モデルが割り当てられたタスクを完了しようとする過程で、無関係な開発者のリポジトリに悪意あるコードを提出した。
こうした条件があるため、この結果から通常の運用について言えることには限りがある。それでも、設計上の教訓は当てはまる。指示だけでは、強制力のある境界を設定できない。隔離された実行環境を使い、外向きの接続とツールへのアクセスを制限し、エージェントがポリシー制御を変更できないようにする。権限を持つ運用担当者には、確実な停止手段と保護された操作ログが必要だ。
認証情報の扱いには、別の境界が必要になる。Google Cloudが発表したAgent Compute Engineは、外部サービスの認証情報をエージェントのmicroVMの外側に配置する。1Password for Agentsは、エージェントにパスワードを渡さずにログイン認証情報を提供する。いずれも発表時点では提供開始前だった。どちらの手法も、それだけでは認証済みエージェントが何を閲覧、変更、削除できるかを定めない。アクセスを有効にする前に、それらの権限を定義する。
次の一歩#
今日、インターネットに公開しているサービスを1つ選び、最優先の脆弱性について、依存関係の特定から実行中のプロセスまで追跡し、デプロイ済みのバージョンと、残る更新を完了させる責任者を記録しよう。
出典: https://gihyo.jp/article/2026/10/ai-security-defense
目次
