AI Infra GuardでAIサービスとエージェントのセキュリティを確認する方法
Tencentの朱雀（Zhuque）ラボ研究チームによるAI-Infra-Guardリポジトリ（略称A.I.G）を最近見つけました。このプロジェクトは、特定のそして非常に厄介な問題に対処しています。vLLM、Ollama、ComfyUIなどのローカルAIサービスを起動したり、サードパーティのプラグインやMCPサーバーをLLMに接続したりすると、セキュリティ境界が瞬時に拡大します。
標準的な脆弱性スキャナーは、AIスタックの詳細を十分に理解していません。モデルに対するジェイルブレイクのテストはできませんし、エージェントスキルにおける命令操作のチェックもできません推論フレームワーク固有のシグネチャについても認識していません。Tencentの開発者は、AIパイプライン全体の継続的な監視と自動監査のための готовую платформу をオープンソースとして公開しました。
スキャナーできること
このプラットフォームは、ネットワークインフラストラクチャからプロンプトやツールロジックまで、複数のセキュリティ層をカバーしています。
1. ネットワークベースのAIインフラストラクチャスキャン
このツールは、IPまたはURL経由で実行中のサービスに接続し、そのデジタルフィンガープリントを取得します。データベースは100以上のコンポーネント（Ollama、ComfyUI、vLLM、n8n、Triton Inference Server）を認識し、20,000以上の既知のCVEのデータベースと照合します。
単一のインスタンスまたはサブネット全体をスキャンできます。
2. MCPサーバーとエージェントスキルの監査
Model Context Protocol（MCP）とエージェントエンジンの普及により、新しい脅威ベクトルが出現しました：プラガブルツール内の悪意のあるコード、ツールポゾニング、認証情報漏えいです。
A.I.Gは、MCPサーバーリポジトリのソースコードとアップロードされたアーカイブの両方を分析できます。スキャナーは、SkillTrustBench分類に従って9つのリスクカテゴリをチェックします：
- スキル命令ハイジャックとコンテキストメモリポゾニング
- 隠蔽型実行コードインジェクションとペイロードダウンロード
- システム内での権限昇格
- 安全でない依存関係とツールスプーフィング
3. ジェイルブレイク耐性評価
ジェイルブレイク評価モジュールには、さまざまなLLM攻撃手法（Many-Shot、PAIR、GOAT、ActorAttackなどのマルチステップ攻撃を含む）が含まれています。ターゲットモデルのエンドポイントをAPI経由で接続し、ベンチマークを選択して、スキャナーがテストを実行し、成功した攻撃の割合とモデルの弱点を示したレポートを生成します。
クイックスタート
プラットフォームをローカルにデプロイする最も簡単な方法は、Docker Composeで готовую イメージ起動することです。4GBのRAMと約10GBのディスクスペースを備えたマシンが必要です。
git clone https://github.com/Tencent/AI-Infra-Guard.git
cd AI-Infra-Guard
docker compose -f docker-compose.images.yml up -d
Webインターフェースは http://localhost:8088 で利用可能です。
注意：リポジトリでは、組み込みサーバーは現在認証メカニズムを欠いていることを明示的に述べています。公衆インターネットに公開することは強く推奨されません—内部ネットワークまたはローカルマシン内でのみ実行してください。
CLIによるスキル監査の実行
Webインターフェースを起動せずにCI/CDにエージェントチェックを統合する必要がある場合は、プロジェクトには個別のCLIパッケージがあります：
pip install aig-skill-scan
export LLM_API_KEY="your-api-key"
# Сканирование директории с кодом скилла
aig-skill-scan --repo /path/to/your/skill \
-m deepseek-v4-flash \
--language en \
-o result.json
実践における監査の動作
ローカルサーバーのポート8000でvLLM推論インスタンスが実行されているとします。既知の脆弱性をチェックするには：
-
http://localhost:8088でWebインターフェースを開きます。 - AI Infra Scanセクションに移動します。
- アドレスフィールドにネットワークアドレス
http://127.0.0.1:8000を入力します。 - チェックを実行します。スキャナーはコンポーネントバージョンを識別し、ルールデータベースと照合して、パッチへのリンクを含む検出されたCVEのリストを表示します。
ツールリポジトリも同様にチェックされます：GitHub MCPサーバー実装へのリンクを提供すると、スキャナーが構文を解析し、権限、パス処理、ネットワーク呼び出しをチェックします。
誰が役立つのか
このプロジェクトは、LLMとAIエージェントをワークフローに積極的に統合しているチームを対象としています：
- AppSecとセキュリティスペシャリスト：手動でエクスプロイトを組み立てることなく、公司のAIスタックをテストするための готовый ルールセット。
- MCPとエージェント開発者：CLIユーティリティ
aig-skill-scanは、展開前にプラガブルプラグインをチェックするために、pre-commitフックやGitHub Actionsパイプラインに簡単に統合できます。 - MLOpsエンジニア：内部ネットワークをすばやくスキャンし、同僚が未パッチのOllamaまたはComfyUIサーバーを外部に公開していないことを確認する方法。
関連プロジェクト