
AIワークロードにおけるデリバリ最適化とセキュリティ保護のF5ソリューション
生成AIの進化とアプリケーションの変化
2022年11月30日、OpenAI社がChatGPT-3.5をリリースして以降、生成AIの進化・発展は目覚ましく、私たちの日常生活にとっても不可欠に成りつつあります。ChatGPTだけではなく、CopilotやClaude、Geminiなど様々な生成AIアプリが相次いでリリースされ、個人で手軽に利用できる世界になりました。
個人の利用だけではなく、企業においても生成AIの活用が進んでいます。すでに実証実験を終えて、業務アプリケーションとの連携、社内ナレッジの検索、カスタマーサポートの窓口など、生成AIは活躍の場を広げています。エンタープライズ企業だけでなく、公共団体においても公開サイトに生成AIチャットボットの問い合わせサービスを組み込むなど、生成AIの活用シーンは留まるところを知りません。
生成AIアプリの提供・公開にあたっては、従来のWebアプリケーション(モダンアプリケーション)と異なる性質をしっかりと把握し、アーキテクチャ設計やセキュリティ設計を行わなければなりません。もちろん、従来のWebアプリケーション(モダンアプリケーション)と同様の性質がなくなるわけではないため、いままで設計で注意すべきだった点も、引き続き注意していく必要があります。
モダンアプリケーションの性質 | 生成AIアプリケーションの性質 |
|
|
F5 AIソリューション
このような背景に対して、F5社は長年培ってきたアプリケーションデリバリの専門知識・経験と、AI時代に求められるセキュリティ機能を組み合わせ、AIワークロードを保護・最適化するためのソリューションを4つの領域で展開しています。
領域 | 主な目的 | F5ソリューション |
AIデータデリバリ | 大規模なAIモデルの学習に必要な、高速・安全・信頼性の高いデータパイプラインを確保 | BIG-IP LTMによるオブジェクトストレージ連携の最適化 |
AIファクトリー負荷分散 | GPU利用率を最大化すると同時に、AIワークロードを効率化してインフラ最適化 | BIG-IP LTM、F5 Distributed Cloud、NGINX Plusによる負荷分散 |
AIマルチクラウドネットワーク | 分散AI環境でシームレスかつ安全なデータおよびモデル接続を実現 | F5 Distributed CloudによるMulti Cloud Network Connect / Network as a Service |
AIランタイムセキュリティ | プロンプトインジェクションやデータ漏洩、API悪用といった新たな脅威からAIアプリを保護 | F5 Distributed Cloud WAAP、F5 AI Guardrails、F5 AI Red TeamによるAIアプリ保護 |
AIデータデリバリ
生成AIアプリでは、推論モデル自体の性能だけでなく、モデルに関わるデータの流れ(データパイプライン)も極めて重要です。学習データやRAGで利用するデータなど、AIに投入されるデータは大量であり、分散して存在している場合もあります。データの流れ(データパイプライン)がボトルネックとなり、パフォーマンス低下を引き起こすことも想像に難くないと思います。
この領域において、F5はBIG-IP LTMを活用しS3ストレージとのデータ連携の最適化を提供しています。BIG-IP LTMによって、S3互換のストレージエンドポイントへのトラフィックを均等かつ効率的に分散し、データ転送の最適化を実現します。
AIファクトリー負荷分散
AIファクトリーとは、GPU、CPU、DPU、ストレージ、ネットワーク、Kubernetes、推論モデル、RAGなどを組み合わせた、AIワークロードを処理するためのインフラを意味しています。AIワークロードにおいては、様々なポイントでL7ロードバランシングが必須となります。
この領域において、F5は要件に応じた3種類のL7ロードバランサを提供しています。
BIG-IP LTM | Distributed Cloud | NGINX Plus |
物理/仮想アプライアンス | SaaS | ソフトウェア |
最も豊富な機能を持つ | 分散AI環境向け | 軽量・高速・シンプルなLB |
さらにBIG-IPをKubernetes環境で利用する場合、BIG-IP for KubernetesをNVIDIA BlueField-3 DPUでも稼働させることができます。Kubernetes 上のBIG-IP のトラフィック処理をDPUで行うことで、Kubernetes環境のGPUをAI関連の処理に集中させる構成を実現できるのです。
AIマルチクラウドネットワーク
生成AIアプリのアーキテクチャは、単一のデータセンターやパブリッククラウド内では完結しないケースが増えています。フロントエンドアプリはパブリッククラウド、データはオンプレミス、モデルは別のパブリッククラウド、さらに外部APIや他システムと連携するといった構成が一般化しつつあります。地理的に分散している場合、分散している各地を繋ぐ、安全で最適化されたネットワークが必要になります。
この領域において、F5はF5 Distributed Cloud Multi Cloud Network Connect(XC MCN)を提供しています。XC MCNは、F5が提供するクラウド基盤をハブとして、パブリッククラウドやデータセンター間の安全な相互接続を実現します。接続の可視化や統一ポリシーの適用、セキュリティ制御、トラフィック最適化を単一コンソールで提供します。
AIランタイムセキュリティ
生成AIアプリは入力も出力も自然言語です。そのため、従来のWebアプリケーションセキュリティにおける構文(Syntax)ベースの検知・防御手法では充足しません。意味(Semantics)ベースのアプローチが必要となります。AI特有の脅威として、プロンプトインジェクションやジェイルブレイク、データ漏洩などが既に知られています。
この領域において、F5は2つのアプローチを採っています。
1つめはF5 AI Guardrailsです。ランタイムで、プロンプトインジェクションやジェイルブレイクなどの脅威からAIを保護し、有害な出力やコンプライアンスを遵守しない出力を阻止しながら、継続的な観測性を提供します。
2つめは、F5 AI Red Teamです。AIシステム向けに構成された敵対的テストを提供します。単発のペネトレーションテストではなく、自律的にモデルに対して攻撃を実施し、レポートとエビデンスを出力します。
さらに、F5 AI Red Teamで検出した脆弱性をF5 AI Guardrailsに自動連携しカスタムガードレール設定を自動作成するF5 AI Remediateも提供しています。
従来のWebアプリケーションセキュリティにおける手法が不要となったわけではありません。WAFやDDoS攻撃対策、Bot攻撃対策、APIセキュリティ(可視化と保護)も引き続き活用することが望ましいです。
BIG-IP AWAF | Distributed Cloud WAAP | WAF for NGINX |
物理/仮想アプライアンス | SaaS | ソフトウェア |
BIG-IPにアドオンするWAF | WAF以外にもDDoS攻撃対策やBot攻撃対策など豊富 | NGINXにアドオンするWAF |
まとめ
生成AIアプリを提供するには、従来のWebアプリケーションとは異なる技術要件(性能・セキュリティ・運用)を持っています。企業が生成AIアプリを提供するにあたって、重要となるのはAIを安全に、安定して、継続して、提供・運用できるアーキテクチャを持つことです。
F5は、”Application Delivery and Security Platform”を掲げ、AIを含むあらゆるアプリケーションのデリバリ最適化、セキュリティ保護に関するソリューションを提供しています。生成AIアプリの公開(本番運用)へ進む企業にとって、F5は配信基盤とセキュリティの両面から支援を行います。
生成AIの普及により、企業のIT基盤は大きな転換点を迎えています。是非F5 AI ソリューションを検討いただければ幸いです。
F5 AI ソリューションについて詳しく聞きたい場合は、以下フォームよりお気軽にご連絡ください。担当者よりご連絡させていただきます。



