Cloudflareは、AIを活用したアプリケーションへの脅威を検出・軽減する「AI Security for Apps」の正式提供（GA）を発表しました。今回のリリースでは、カスタムトピックの検出機能が新たに追加されたほか、AIエンドポイント発見機能がFree・Pro・Businessプランを含む全Cloudflareユーザーに無償提供されることになりました。これにより、すべての利用者がインターネット公開アプリ上のAI展開状況を把握できるようになります。
また、IBMとの連携拡大も同時に発表されました。IBMがCloudflareを通じてクラウド顧客向けのAIセキュリティを提供していく方針を選んだというもので、エンタープライズ市場での展開が広がります。加えて、クラウドセキュリティ大手Wizとのパートナーシップも結ばれ、共通顧客はAIセキュリティの態勢を統合的な視点で管理できるようになります。
AIアプリケーションが業務システムに深く組み込まれる中、従来のWebアプリとは質的に異なる攻撃面が生まれています。自然言語を入力として受け付け、確率的に出力を生成するAIの特性は、ルールベースのセキュリティ手法だけでは対応しきれない盲点を生みやすく、今回の発表はその課題に対するひとつの答えとして受け取れます。特にAIがエージェントとして動作し、ビジネスロジックに直結した操作権限を持ち始めている現在、セキュリティの在り方が問われる局面に差し掛かっています。
AIアプリの急速な普及が生んだ「新たな攻撃面」
Cloudflareが「AI Security for Apps」を正式リリースした背景には、企業のAI活用が加速する一方で、従来のセキュリティ対策では守りきれない領域が広がってきたという現実があります。
従来のWebアプリケーションは、銀行残高の照会や送金といった、あらかじめ定義された操作を処理するものでした。こうしたアプリは操作の種類が限定的であるため、確定的なルールを設けることでセキュリティを確保できます。しかしAIアプリケーションは根本的に異なる性質を持ちます。自然言語を入力として受け付け、出力は確率的に生成されるため、許可・拒否すべき操作の一覧をあらかじめ定義することができません。
OWASP（Open Web Application Security Project）が公開している「LLMアプリケーション向けトップ10」には、プロンプトインジェクション、機密情報の漏洩、リソースの無制限消費といったリスクが列挙されています。プロンプトインジェクションとは、悪意ある入力によってLLMに意図しない動作をさせる攻撃手法で、巧みに仕込まれた一文がモデルの振る舞いを変えてしまうケースも報告されています。
さらに深刻なのは、AIがエージェントとして機能するケースです。返金処理、アカウント変更、割引適用、顧客データへのアクセスといったツール呼び出し権限をAIが持つ場合、悪意あるプロンプト一つがそのまま業務上の実害に直結しかねません。「各チームが独自のGenAIセーフガードを導入しているが、開発速度が速すぎてどこかにギャップが生じるリスクは常にある」という現場の声は、多くの企業のAI活用担当者に共通する懸念と重なります。
AIアプリに特化した専用のセキュリティ層の必要性が業界全体で認識され始めており、今回のCloudflareの正式リリースはその潮流を象徴するものと捉えられそうです。
今回の発表で何が変わるか——機能と連携の全体像
続きをお読みいただくには
この記事の続きは会員登録が必要です（無料）
登録は30秒で完了。月間100万人が利用する国内最大級のITニュースサイトです
