目次

AWSは、信頼できないAI生成コードを、ハードウェアによる分離とネイティブのEC2に近い性能で実行するための軽量仮想マシン、AWS Nitro Sandboxesを発表しました。コーディングエージェントを運用するチームにとっての実用上の利点は、既存のコンテナデプロイのワークフローを再構築せずに、独立したゲストカーネルを利用できることです。

要点#

  • AWS Nitro Sandboxesは、Nitroハードウェアによる分離で、ワークロードをホストや他のサンドボックスから隔離します。
  • 各サンドボックスは独自のOSを実行するため、ワークロードのシステムコールはそのゲストカーネルに届きます。
  • AWSによると、EKS Auto Modeでは、既存のコンテナイメージ、デプロイパイプライン、Helmチャートを維持したまま、これらの軽量VM内でPodを実行できます。
  • ネイティブに近い性能はAWSの主張であり、料金、提供リージョン、対応構成、ワークロードごとのオーバーヘッドは引き続き確認が必要です。

AIエージェントで何が変わるか#

コーディングエージェントは、コマンドの実行、依存関係のインストール、挙動の予測が難しいプログラムの実行を行います。そのため、エージェントが正当なタスクに取り組んでいても、生成されたスクリプトやダウンロードしたパッケージは、信頼できないコードとして扱うべきです。

通常のコンテナはホストカーネルを共有します。つまり、カーネルが共通のセキュリティ境界となり、ワークロードがコンテナから脱出できる脆弱性があれば、同じマシン上の他のワークロードにも影響する可能性があります。

Nitro Sandboxesは、サンドボックスごとに独立したゲストOSを導入します。提供された発表に関する報道によると、サンドボックス内のコードからのシステムコールは、ホストカーネルではなく、そのサンドボックスのゲストカーネルに届きます。これにより、コード実行を取り巻く分離境界が変わります。

AWSがうたう特長#

AWSはNitro Sandboxesを、AWS Nitro Systemを基盤とし、ハードウェアによる分離とネイティブのEC2に近い実行性能を兼ね備えた軽量VMと説明しています。この組み合わせは、エージェントが環境の起動、コードのコンパイル、テストの実行を繰り返す際に重要です。

性能に関する主張は慎重に解釈する必要があります。実行速度がネイティブに近くても、起動時間、メモリのオーバーヘッド、ストレージのスループット、インスタンスが同時に実行できるサンドボックス数までは分かりません。これらの測定値が、特定のエージェントのワークロードに適したサービスかどうかを左右します。

今回の発表はサービスを評価するきっかけと捉え、すべてのコンテナワークロードで現在のコストとレイテンシが維持される証拠とは考えないでください。

EKSでの導入方法#

提供された報道によると、EKS Auto Modeは機能を有効にすると、Nitro Sandboxes内にPodを配置できます。AWSは、既存のコンテナイメージ、デプロイパイプライン、Helmチャートを変更せずに引き続き利用できるとしています。

これは、すでにKubernetes上でエージェントワーカーを運用しているチームにとって、実用的な移行経路となります。使い慣れたアプリケーションのパッケージングを維持しながら、実行環境に独立したゲストカーネルを追加できます。ただし、インフラ設定と互換性の検証は引き続き必要です。

小規模な試験導入を行いましょう。

1. 生成コードを実行するか、外部パッケージをインストールするエージェントワーカーを1つ選びます。 2. Nitro Sandboxesが、そのワーカーのAWSリージョン、インスタンス構成、Kubernetes要件に対応していることを確認します。 3. AWSのドキュメントに記載された設定に従い、テスト用デプロイで機能を有効にします。 4. 既存環境とサンドボックス環境で、同じエージェントタスクを実行します。

分離だけでは解決しないこと#

コンピューティングの境界を強化しても、エージェントが何にアクセスできるかは決まりません。サンドボックス内で実行されるコードも、認証情報の悪用、アクセス可能なデータの変更、許可されたネットワーク接続を通じた情報送信を行う可能性があります。

権限は必要最小限に抑えてください。ワーカーには、タスクに必要なリポジトリ、ストレージ、サービスへのアクセスだけを付与します。可能な範囲で外向きの接続を制限し、信頼できないコードを実行する環境に本番環境のシークレットを置かないようにしてください。

提供された報道では、すべてのデプロイ構成における正確な分離単位は明らかになっていません。Pod内のコンテナがサンドボックスを共有するか、ストレージがどのように接続されるか、実行終了時にファイルや認証情報がどう扱われるかを確認してください。これらの詳細は、ユーザーやタスクの分離方法に影響します。

本格展開前に測定すべきこと#

同一の入力とリソース制限を使って、両方の環境を比較してください。次の4項目を記録します。

  • 環境をリクエストしてから最初のコマンドを実行するまでの時間。
  • 代表的なコーディングタスクの開始から完了までの所要時間。
  • メモリ使用量のピークと、正常に実行できる同時タスク数。
  • 失敗した実行や再試行を含む、完了タスクあたりのコスト。

最新の料金、提供状況、クォータ、対応機能もAWSのドキュメントで確認してください。提供された報道には、これらの詳細や独立したベンチマーク結果がないため、本番運用での費用対効果は判断できません。

次のステップ#

代表的なエージェントタスクを既存のコンテナ環境とNitro Sandboxで1つ実行し、起動時間、完了時間、メモリ使用量、コストを比較してから、導入を拡大してください。

出典: https://www.publickey1.jp/blog/26/awsaiec2vmaws_nitro_sandboxes.html

目次