前回の記事では、AIワークロードに関する4つの領域におけるF5ソリューションをご紹介しました。

• AIデータデリバリ
• AIファクトリー負荷分散
• AIマルチクラウドネットワーク
• AIランタイムセキュリティ

4つの領域の中でも、AIランタイムセキュリティは従来のWebアプリケーションセキュリティと大きく異なる領域であり、新たなアプローチが必要になります。

生成AIアプリは入力も出力も自然言語です。そのため、従来のWebアプリケーションセキュリティにおける構文（Syntax）ベースの手法だけではリスクを十分に評価できません。また、LLMは非決定論的な出力を生成します。そのため「何が危険なのか」を事前に完全に定義することも困難です。意味（Semantics）ベースのアプローチが必要になります。

重要になるのが、「AIモデルに対して自律的に攻撃を実施して評価する」というアプローチです。本記事では、生成AIアプリの脆弱性を、AIモデルに対して自律的に攻撃を実施して検出する「F5 AI Red Team」について、ご紹介します。

従来のWebアプリケーションセキュリティにおける脆弱性検出手法では、以下のようなアプローチが主流でした。

• 静的解析（SAST）
• 動的解析（DAST）
• 脆弱性診断
• ペネトレーションテスト

生成AIアプリは以下のような特徴を持ちます。

• 自然言語の入力および出力
• 非決定論的な出力
• データや外部APIとの複雑な連携
• 自律的に動作するAIエージェント

このような特徴を持つ生成AIアプリに、従来のWebアプリケーションセキュリティにおける脆弱性検出手法だけでは、十分とは言えません。

OWASP（Open Worldwide Application Security Project）が提供するOWASP Top 10においても、生成AIアプリに関するリスクとしてOWASP Top 10 for Large Language Model Applications（LLM）が既に公開されています。

OWASP Top 10 for Large Language Model Applications
https://owasp.org/www-project-top-10-for-large-language-model-applications/

OWASP Top 10 for Large Language Model Applications日本語版
https://github.com/owasp-ja/Top10-for-LLM/tree/main

OWASP Top 10 for LLMのLLM01には「プロンプトインジェクション」、LLM06には「機微情報の漏洩」が挙げられています。「プロンプトインジェクション」は生成AI特有の新たな脅威の最たるものです。

これらの脅威に対するLLMの脆弱性を検出するには、従来のWebアプリケーションセキュリティにおける脆弱性検出手法だけでなく、実際にAIモデルに対し攻撃を行いながら評価することが重要です。

生成AIを利用する際、最初のプロンプトに対するレスポンスだけで終わらず、さらに追加のプロンプトを入力する、という会話のようなやりとり（マルチターンの会話形式）を行っていると思います。脆弱性の検出でも同様で、単発の攻撃で終わらず、会話のように繰り返し攻撃（マルチターン攻撃）することも必要になります。

これを実現するために、自律的にAIモデルに対して攻撃を実施し、自動でレポートとエビデンスを出力するソリューションが必要です。

F5 AI Red Teamは、AIシステム向けに構成された敵対的テスト（Adversarial Testing）を継続的に提供します。単発のペネトレーションテストではなく、自律的にAIモデルに対して攻撃を実施し、レポートとエビデンスを出力します。

F5 AI Red Teamは以下のような特徴を持ちます。

• 毎月1万以上の最新攻撃パターンの提供

- 世界最先端のAI脆弱性データベースの活用

• カスタム攻撃パターンの設定

- 自然言語で攻撃目的を設定（Agentic Warfare）

• AIエージェントによる自律的な攻撃実行

- 人手では試せない膨大なパターンを短時間で試行

- マルチターン攻撃の実施

• 定期実行による継続的な脆弱性評価

- 即時での実行 or スケジュール設定での実行

• レポートにて脅威の可視化

- 攻撃シナリオの可視化

- 攻撃プロンプトとレスポンスのエビデンス提供

F5 AI Red Teamで検出した脅威に対する防御は、F5 AI Guardrailsが担います。さらに、F5 AI Remediateによって、F5 AI Red Teamで検出した脅威に対してF5 AI Guardrailsのガードレール設定を自動で生成・適用する、といったことも実現できます。

F5 AI Red Teamは以下のようなケースで活用することができます。

• 生成AIアプリのリリース前評価

- AI特有の攻撃に対する耐性評価

- データ漏洩リスクの確認

- API連携の安全性確認

• 本番環境での継続的セキュリティ評価

- 新たな脅威の検出

- ガバナンスからの逸脱の検出

- ガードレールの有効性確認

• ガバナンス・監査対応

- セキュリティ評価レポートの作成

- リスクの可視化

- コンプライアンス証跡の確保

生成AIアプリのセキュリティにおいて重要なのは、「脅威から防御する」だけではありません。非決定論的な挙動をする、マルチターンの会話形式を持つ、新たな脅威が存在する、といった特徴を持つAIモデルに対して、「脅威を検出する」ことが非常に重要になります。豊富な最新攻撃パターンを持ち、自律的にAIモデルに対して攻撃を実施できるF5 AI Red Teamは、生成AIアプリの「見えないリスク」を可視化します。

F5は、”Application Delivery and Security Platform”を掲げ、AIを含むあらゆるアプリケーションのデリバリ最適化、セキュリティ保護に関するソリューションを提供しています。生成AIアプリの公開（本番運用）へ進む企業にとって、F5は配信基盤とセキュリティの両面から支援を行います。

F5 AI Red Teamは、「あらゆるアプリケーションのデリバリ最適化、セキュリティ保護」という目標の実現を支える重要なコンポーネントとなります。

F5 AI Red Teamについて詳しく聞きたい場合は、以下フォームよりお気軽にご連絡ください。担当者よりご連絡させていただきます。