AI Firewallとは？
AI Firewallとは、生成AI / LLM(大規模言語モデル)を安全に利用するためのセキュリティ機能です。生成AI /LLMと利用者の間に位置し、入出力を監視することで、生成AI/LLMの脆弱性をついた攻撃や機密情報の漏洩、不適切・有害なやりとりをブロックします。
生成AIとLLM(大規模言語モデル)
生成 AI は、文章、表、画像、音声などを新たに生成できる AI 技術の総称です。LLM(大規模言語モデル)は、自然言語処理に特化した生成AIの一種です。
LLMの普及と懸念
普及が進むLLMは、その性質上、自然言語入力の全てをユーザ入力として扱うため、悪意ある入力への脆弱性をLLM単体で防ぐのは困難です。LLM自身も脆弱性対策などは日々実施されていますが、LLM自体の成長(更新)と脆弱性対策を両立させるのは難しいことです。
実際、LLMの脆弱性を利用した攻撃などを懸念するものとして、「OWASP Top 10 for Large Language Model Applications(https://owasp.org/www-project-top-10-for-large-language-model-applications/)」も公開されています。その中にはLLMへのプロンプトインジェクション攻撃や機密情報の暴露、不適切な出力などが含まれます。
さらに、企業においてもLLMを含む生成AIを業務に活用したいとの要望はあるものの、従業員のLLMあるいは生成AIとのやりとりを管理できないという課題もあります。
AI Firewall
A10が提供する「A10 Defend AI Firewall」は、ユーザとLLMとの境界面で入出力を監視し、LLMへの攻撃や意図しない出力、機密情報漏洩を防ぎます。組織のポリシーや機密データを保護するためのカスタマイズにも対応し、安全なLLM利用環境を実現します。
A10は、このA10 Defend AI Firewallをセキュリティアプライアンス製品である「Thunder 1060S-AI」に実装して公開しています。Thunder 1060S-AIは、専用のハードウェアである「AI-Engine」を搭載しており、高速・低遅延なAI Firewall機能を提供します。これにより、生成AIとユーザとのやりとりの監視・管理を実現し、OWASP Top 10 for Large Language Model Applicationsへの対応を進め、生成AIとユーザの双方を保護します。
