ブログ

生成AIの進化とアプリケーションの変化

20221130日、OpenAI社がChatGPT-3.5をリリースして以降、生成AIの進化・発展は目覚ましく、私たちの日常生活にとっても不可欠に成りつつあります。ChatGPTだけではなく、CopilotClaudeGeminiなど様々な生成AIアプリが相次いでリリースされ、個人で手軽に利用できる世界になりました。

個人の利用だけではなく、企業においても生成AIの活用が進んでいます。すでに実証実験を終えて、業務アプリケーションとの連携、社内ナレッジの検索、カスタマーサポートの窓口など、生成AIは活躍の場を広げています。エンタープライズ企業だけでなく、公共団体においても公開サイトに生成AIチャットボットの問い合わせサービスを組み込むなど、生成AIの活用シーンは留まるところを知りません。

生成AIアプリの提供・公開にあたっては、従来のWebアプリケーション(モダンアプリケーション)と異なる性質をしっかりと把握し、アーキテクチャ設計やセキュリティ設計を行わなければなりません。もちろん、従来のWebアプリケーション(モダンアプリケーション)と同様の性質がなくなるわけではないため、いままで設計で注意すべきだった点も、引き続き注意していく必要があります。

モダンアプリケーションの性質

生成AIアプリケーションの性質

  • Kubernetes環境の利用
  • マイクロサービス化(API連携)
  • デプロイやテストの自動化(CI/CD)
  • WebアプリケーションやAPIへの攻撃対策
  • DDoSやBotの攻撃対策
  • 一意に定まらない出力、事実に基づかない回答
  • データプレーントラフィックの爆発的増加
  • GPU利用コストの増加
  • 新たな攻撃手法・攻撃領域への対処
  • コンプライアンス・ガバナンスの強化

F5 AIソリューション

このような背景に対して、F5社は長年培ってきたアプリケーションデリバリの専門知識・経験と、AI時代に求められるセキュリティ機能を組み合わせ、AIワークロードを保護・最適化するためのソリューションを4つの領域で展開しています。

領域

主な目的

F5ソリューション

AIデータデリバリ

大規模なAIモデルの学習に必要な、高速・安全・信頼性の高いデータパイプラインを確保

BIG-IP LTMによるオブジェクトストレージ連携の最適化

AIファクトリー負荷分散

GPU利用率を最大化すると同時に、AIワークロードを効率化してインフラ最適化

BIG-IP LTMF5 Distributed CloudNGINX Plusによる負荷分散

AIマルチクラウドネットワーク

分散AI環境でシームレスかつ安全なデータおよびモデル接続を実現

F5 Distributed CloudによるMulti Cloud Network Connect / Network as a Service

AIランタイムセキュリティ

プロンプトインジェクションやデータ漏洩、API悪用といった新たな脅威からAIアプリを保護

F5 Distributed Cloud WAAPF5 AI GuardrailsF5 AI Red TeamによるAIアプリ保護

AIデータデリバリ

生成AIアプリでは、推論モデル自体の性能だけでなく、モデルに関わるデータの流れ(データパイプライン)も極めて重要です。学習データやRAGで利用するデータなど、AIに投入されるデータは大量であり、分散して存在している場合もあります。データの流れ(データパイプライン)がボトルネックとなり、パフォーマンス低下を引き起こすことも想像に難くないと思います。

この領域において、F5BIG-IP LTMを活用しS3ストレージとのデータ連携の最適化を提供しています。BIG-IP LTMによって、S3互換のストレージエンドポイントへのトラフィックを均等かつ効率的に分散し、データ転送の最適化を実現します。

AIファクトリー負荷分散

AIファクトリーとは、GPUCPUDPU、ストレージ、ネットワーク、Kubernetes、推論モデル、RAGなどを組み合わせた、AIワークロードを処理するためのインフラを意味しています。AIワークロードにおいては、様々なポイントでL7ロードバランシングが必須となります。

この領域において、F5は要件に応じた3種類のL7ロードバランサを提供しています。

BIG-IP LTM

Distributed Cloud

NGINX Plus

物理/仮想アプライアンス

SaaS

ソフトウェア

最も豊富な機能を持つ

分散AI環境向け

軽量・高速・シンプルなLB


さらにBIG-IPKubernetes環境で利用する場合、BIG-IP for KubernetesNVIDIA BlueField-3 DPUでも稼働させることができます。Kubernetes 上のBIG-IP のトラフィック処理をDPUで行うことで、Kubernetes環境のGPUAI関連の処理に集中させる構成を実現できるのです。

AIマルチクラウドネットワーク

生成AIアプリのアーキテクチャは、単一のデータセンターやパブリッククラウド内では完結しないケースが増えています。フロントエンドアプリはパブリッククラウド、データはオンプレミス、モデルは別のパブリッククラウド、さらに外部APIや他システムと連携するといった構成が一般化しつつあります。地理的に分散している場合、分散している各地を繋ぐ、安全で最適化されたネットワークが必要になります。

この領域において、F5F5 Distributed Cloud Multi Cloud Network ConnectXC MCN)を提供しています。XC MCNは、F5が提供するクラウド基盤をハブとして、パブリッククラウドやデータセンター間の安全な相互接続を実現します。接続の可視化や統一ポリシーの適用、セキュリティ制御、トラフィック最適化を単一コンソールで提供します。

AIランタイムセキュリティ


生成AIアプリは入力も出力も自然言語です。そのため、従来のWebアプリケーションセキュリティにおける構文(Syntax)ベースの検知・防御手法では充足しません。意味(Semantics)ベースのアプローチが必要となります。AI特有の脅威として、プロンプトインジェクションやジェイルブレイク、データ漏洩などが既に知られています。

この領域において、F52つのアプローチを採っています。

1つめはF5 AI Guardrailsです。ランタイムで、プロンプトインジェクションやジェイルブレイクなどの脅威からAIを保護し、有害な出力やコンプライアンスを遵守しない出力を阻止しながら、継続的な観測性を提供します。

2つめは、F5 AI Red Teamです。AIシステム向けに構成された敵対的テストを提供します。単発のペネトレーションテストではなく、自律的にモデルに対して攻撃を実施し、レポートとエビデンスを出力します。

さらに、F5 AI Red Teamで検出した脆弱性をF5 AI Guardrailsに自動連携しカスタムガードレール設定を自動作成するF5 AI Remediateも提供しています。

従来のWebアプリケーションセキュリティにおける手法が不要となったわけではありません。WAFDDoS攻撃対策、Bot攻撃対策、APIセキュリティ(可視化と保護)も引き続き活用することが望ましいです。

BIG-IP AWAF

Distributed Cloud WAAP

WAF for NGINX

物理/仮想アプライアンス

SaaS

ソフトウェア

BIG-IPにアドオンするWAF

WAF以外にもDDoS攻撃対策やBot攻撃対策など豊富

NGINXにアドオンするWAF

まとめ

生成AIアプリを提供するには、従来のWebアプリケーションとは異なる技術要件(性能・セキュリティ・運用)を持っています。企業が生成AIアプリを提供するにあたって、重要となるのはAIを安全に、安定して、継続して、提供・運用できるアーキテクチャを持つことです。

F5は、”Application Delivery and Security Platform”を掲げ、AIを含むあらゆるアプリケーションのデリバリ最適化、セキュリティ保護に関するソリューションを提供しています。生成AIアプリの公開(本番運用)へ進む企業にとって、F5は配信基盤とセキュリティの両面から支援を行います。

生成AIの普及により、企業のIT基盤は大きな転換点を迎えています。是非F5 AI ソリューションを検討いただければ幸いです。

F5 AI ソリューションについて詳しく聞きたい場合は、以下フォームよりお気軽にご連絡ください。担当者よりご連絡させていただきます。

CONTACT

ITインフラに関してお悩みの方は
お気軽にご相談ください

ご不明な点はお気軽に
お問い合わせください。
ITインフラに関するお役立ち資料は
こちらよりダウンロードできます。

人気記事ランキング

タグ一覧