※本ブログは米国時間2026年3月25日に公開されたA10本社ブログの日本語訳です。原文はこちらからご覧ください。

テクノロジー企業やソフトウェア企業は、生成AI(GenAI)を組織内で活用する上で目覚ましい進歩を遂げていますが、必ずしも良いニュースばかりではありません。A10の「2025年版AIインフラの現状レポート」によると、企業におけるAIの普及により、テクノロジー企業が他のすべての業界をリードしているものの、そのインフラは必ずしも追いついていないことが示されています。また、AIの利用が拡大するにつれて、迅速かつ信頼のおける応答時間への期待に応えることがますます難しくなっています。

このブログでは、テクノロジー企業が企業向けAI戦略を加速させる中で直面しているインフラ面での課題と制約について探っていきます。

■ 多様な導入形態、バランスの取れたホスティング

A10の調査によると、テクノロジー企業の80%が既に企業内でGenAIを導入しており、チャットボット、コンテンツ生成、コーディングアシスタントなどが一般的な活用事例となっています。予測分析におけるAIの活用も71%とほぼ同程度に普及しています。

テクノロジー企業の38%がパブリッククラウドでAIワークロードをホストしている一方で、49%もの企業がハイブリッドクラウドモデルを採用しています。ハイブリッドクラウドはバランスの取れたホスティングアプローチであり、企業はさまざまなワークロードのレイテンシ、可用性、セキュリティ要件に合わせて、異なる環境を戦略的に活用することができます。しかし、これにより複雑なインフラ全体で一貫したパフォーマンスを確保することが課題となる場合があります。

■ 計算資源の制約だけがパフォーマンスのボトルネックではない

AIの導入が加速するにつれ、テクノロジー企業の39%が、計算処理能力の制限(特にCPUとGPUの処理能力)を最大のパフォーマンスボトルネックとして挙げているのは当然のことと言えるでしょう。これは、全業界平均の33%を上回っています。さらにテクノロジー企業は、その18%がメモリとストレージのI/O速度の課題を指摘しており、同じく20%が非効率なアプリケーションアーキテクチャを挙げています。

こうしたシステムレベルでの成長痛は当然予想されるものです。加えて、AIワークロードに必要なアプリケーション配信インフラとその管理についても、多くのテクノロジー企業が対応に苦慮しています。アプリケーションの信頼性を確保するには、効率的なトラフィック処理と低遅延パフォーマンスが不可欠ですが、トラフィックのルーティングと負荷分散の方法から、TLS/SSL復号の処理方法、監視ツールがエンドユーザに影響を与える前にボトルネックを検出できるかどうかまで、インフラ全体で課題が発生する可能性があります。

A10の調査データもこれを裏付けています。回答者の半数が、現在のADCおよびロードバランシングインフラでAIワークロードに必要なパフォーマンスと稼働時間を「ほぼ」維持できるが、時折限界に近づいているとも答えています。インフラが余裕をもってAIワークロードに対応できていると答えたのはわずか17%です。要求の厳しいユーザやミッションクリティカルなAIユースケースを抱えるテクノロジー企業にとって、「ほぼ十分」では到底満足できるものではありません。

■ セキュリティとスケーリング、互いへの悪影響

業界を問わず、調査回答者の49%が、AIにおけるインフラ上の最大の課題としてセキュリティ上の制約を挙げています。AI搭載のコーディングツールを利用するユーザを抱えるテクノロジー企業にとってこの問題は特に深刻で、APIを通じて機密性の高い知的財産が意図せず漏洩する恐れがあります。回答者からは、データ漏洩、不正なモデルアクセス、そして既存のツールではプロンプトレベル、または推論レベルでの脅威を検出できないという3つの懸念が繰り返し挙げられました。

スケーリングの問題はセキュリティの問題を悪化させ、その逆もまた然りです。業界を問わず、AIワークロードのスケーリングを完全に自動化している組織はわずか19%に過ぎません。これは、すでに71%の組織がAIを利用または検証しているにもかかわらずです。その他の組織では部分的な自動化または手動による介入に頼っています。AI需要が急増し、セキュリティ監視がそれに追いつく必要があるまさにその時に、運用上の遅延が発生します。適切にスケーリングできないインフラでは、不要な遅延を追加したり、ユーザエクスペリエンスを損なったりすることなく、セキュリティを維持することが困難になります。

■ モダナイゼーションのためのプラットフォームアプローチ

約80%の組織が18ヶ月以内にインフラのモダナイゼーション(近代化)を計画しています。その最優先事項は、セキュリティインフラ(60%)、コンピューティング能力(50%)、AIに最適化されたアプリケーション配信コントローラとロードバランサ(32%)となっています。既に対策を講じている組織のうち、38%はAIトラフィック向けに構成された高度なロードバランシングを導入しています。

こうした取り組みにおける共通の障害は予算であり、回答者の30%が指摘しているものの、現在リーダーシップのサポートが不足しているのはわずか3%に過ぎません。取り組みが始動すると、焦点は本番システムを稼働させながらインフラの近代化という、実際的な複雑さへと移ります。その時点ですでに複雑なマルチベンダ環境を管理しているテクノロジーチームにとって、統合や集中管理のないまま専門的なツールをさらに追加することは、運用上の負担が増すだけです。回答者の62%がスタンドアロンのポイント製品よりもプラットフォーム戦略を持つベンダを好むのは当然と言えるでしょう。

テクノロジー企業がAIインフラの課題にどのように取り組んでいるか、パフォーマンス、セキュリティ、スケーリング、モダナイゼーションに関する調査結果の全文は、「2025年版AIインフラの現状レポート」でお読みいただけます。