TrojAI by A10 Networks
AIエージェント、アプリケーション、モデルを構築時から実行時まで保護
TrojAIは、自動レッドチーミングとランタイム保護を組み合わせ、AIの開発・構築段階から本番運用まで、企業のAI活用を継続的に保護します。
エンタープライズAIセキュリティを
一つのプラットフォームで
生成AI利用に伴うリスクに正面から対応。
リリース前にモデルをテストし、本番稼働後はエージェントとアプリケーションを防御します。
様々な環境にデプロイ可能
オンプレミスまたは自社クラウド内に自己完結型で展開。モデル、エージェント、データの制御・プライバシー・セキュリティを維持します。
エージェントのためのガードレールを構築
すべてのAIエージェントとMCPサーバーを検出し、ツール利用を制御。構築時から実行時まで、エージェント主導のレッドチーミングで検証します。
ガバナンスとコンプライアンス
検出結果をOWASP、MITRE、NISTなどのフレームワークにマッピング。SIEM、SOAR、チケットシステムと連携します。
TrojAIプラットフォームを構成する製品群
TrojAI Defend
AIエージェント／アプリケーションのランタイム保護
プロンプトインジェクション、ジェイルブレイク、データ漏洩、有害コンテンツをリアルタイムにブロックし、本番環境のすべてのAIエージェントとアプリケーションにセキュリティポリシーを適用します。また、既存のSIEM、SOAR、チケットシステムと連携します。
TrojAI Detect
エージェント主導のレッドチーミングでAIリスクを可視化
AIモデルやエージェントに対し、単一ターン・複数ターン・エージェント型の攻撃を継続的にシミュレーションし、公開前に危険な振る舞いを発見します。検出結果はOWASP、MITRE、NISTの各フレームワークにマッピングされます。
TrojAI Defend for MCP
すべてのMCPサーバー、ツール、エージェントを検出・統制
不正または設定不備のMCPサーバー／ツールを検出し、エージェント、モデル、サーバー間通信にポリシーを適用。悪意ある、または疑わしいMCPトラフィックをリアルタイムにブロックします。
主な機能
敵対的攻撃から保護
モデルやエージェントの振る舞いを操作しようとする直接・間接のプロンプトインジェクション、保護策を回避するジェイルブレイク、入出力や接続システムを通じたデータ漏洩に対処します。
大規模な敵対的テスト
数千種類もの既成の攻撃や攻撃の操作といった敵対的テストシナリオをすぐに活用可能。
TrojAI独自の高度に調整された敵対的モデルとカスタムデータセットを使用し、テストを加速することも可能です。
文脈を理解する適応型テスト
複数ステップにわたるやり取りの中で、会話状態、過去の会話や文脈、およびコンテキストを維持することで、実際の攻撃者が時間とともに戦略を変える様子をシミュレートすることができます。
有害・不適切コンテンツを抑止
AIエージェント、アプリケーション、モデルへのプロンプトとレスポンスをサニタイズし、やりとりを安全かつ組織基準に沿ったものに保ちます。
リアルタイムに
セキュリティポリシーを適用
エンタープライズグレードのルールエンジンを用いて、プリセットポリシーとカスタムポリシーにより、さまざまなユースケースを保護します。
AIエージェントの挙動を可視化
ツール利用、メモリアクセス、データ取得を含むAIエージェントの動作履歴を網羅的に分析します。
リスクを優先度付けして対処
リスクの深刻度に基づいて優先順位を設定し、脅威を緩和して組織への影響を最小限に抑え、金銭的な損害や風評被害から保護します。
既存のセキュリティ運用と連携
AIセキュリティの分析データをSIEM、SOAR、チケットシステムと連携させることで可視性、対応速度、運用性を高めます。
AIランタイム保護は、AIアプリケーションやAIエージェントの実行時に、プロンプトとレスポンスの両方をリアルタイムで検査し、プロンプトインジェクション、ジェイルブレイク、有害コンテンツ、データ漏洩などの安全でない、または悪意のあるやり取りをブロックする保護機能です。
AIレッドチーミングは、AIモデルの公開前、または公開後の継続的な運用において、プロンプトインジェクション、ジェイルブレイク、データ漏洩などの脆弱性を能動的に検証する手法です。実際の攻撃を想定したテストを大規模に行うことで、本番利用前にリスクを特定します。
AIエージェントは自律的に行動します。外部ツールを使い、過去のやり取りを記憶しながら複数の処理を進めます。そのため、従来のアプリケーションセキュリティでは見つけにくいリスクへの対応が必要です。
TrojAI Defendはエージェントの実行状況を可視化、TrojAI Detectは複数のやり取りを重ねながら攻撃方法を変化させ、エージェントにストレステストを実行します。
敵対的テストは、AIモデルに対して数千もの攻撃シナリオや操作を実行し、実際の攻撃者に悪用される前に弱点を洗い出すための検証です。TrojAI Detectは、独自に調整した敵対的モデルやカスタムデータセットを活用し、この検証を大規模に自動化します。
はい。TrojAI Defendは、検知したAIセキュリティのインサイトをSIEM、SOAR、チケット管理プラットフォームへ連携できます。既存のセキュリティ運用に組み込むことで、サイロ化したツールを増やさずにAIセキュリティを運用できます。
両者は役割が異なり、組み合わせて利用することで効果を高められます。AIレッドチーミング（TrojAI Detect）は公開前に脆弱性を発見し、ランタイム防御（TrojAI Defend）は本番環境で稼働するAIエージェントやアプリケーションを継続的に保護します。
関連製品
ThreatX by A10 Networks
ThreatXは統合WAPPアプローチにより、高度なAPI保護を提供し、攻撃そのものと攻撃者の双方からアプリケーションエコシステム全体を包括的に保護します。
その他の資料
