生成AIが広く一般にも使われるようになった反面、社内利用の有り様はまだまだ成熟しきっていません。採用すべきサービスや運用の方法論、セキュリティ面の懸念など、さまざまな議論が交わされています。

本記事では、生成AIの社内利用にあたって必要なサーバー構築の選択肢と、その際に気を付けるべきセキュリティを解説します。

あくまで一般的な生成AIの利活用について解説しますので、AI開発におけるサーバー構築について知りたい方はGPUサーバーに関する記事をご覧ください。

生成AI用のサーバーを構築する場合、以下のような選択肢が考えられます。

いきなり本末転倒かもしれませんが、社内で生成AIを使いたい場合、必ずしもサーバーを構築する必要はありません。

ChatGPT や Gemini などにも法人向けのサブスクリプションプランがありますし、そういった言語モデルを基盤に独自開発されたSaaSも存在します。これらのサービスは事業者側がサーバーを持っており、ユーザーはそのリソースを使用する形になります。

わざわざサーバーを構築しなくても、こういった外部サービスを採用すれば、ある程度セキュアに生成AIを社内利用できます。なぜ自社でサーバーまで運用する必要があるのかについては、あらかじめ確認しておきましょう。

多くの場合はユーザー課金で、利用ユーザー数に応じて月額／年額が決まり、初期投資も少なく済みます。サービスによっては基本利用料がかからず、利用頻度などに応じて月額が変動する従量課金制を採用している場合もあります。

自社で生成AI用のサーバー構築が必要な場合、今のところ主流な選択肢はクラウド（IaaS・PaaS）です。IaaSとは、サーバーやストレージなどシステム開発用のインフラがインターネット上のサービスとして提供されるもので、そこからさらにアプリケーション開発用のプラットフォームまで提供されるのがPaaSです。これらを活用することで、クラウド（＝事業者が用意するサーバー）上に仮想のサーバーを構築できます。

代表的な例は「3大クラウド」といわれる Microsoft Azure や Google Cloud、AWS ですが、これらは生成AIを含むAI開発向けのPaaSが非常に充実しており、ある程度構築の工数を省くことができます。それぞれの生成AIに関連するPaaSは以下の通りです。

これらを中心とするいくつかのPaaSを組み合わせることで、生成AIのサーバー構築ができます。但し、生成AIを利用する際のインターフェース（質問を投げる検索窓やチャットのようなもの）までは提供されないケースもあるため、注意しましょう。

基本的に従量課金制であることが多いです。サービスにもよりますが、主に蓄積されるデータ容量や検索頻度、テキスト・画像情報の入力・出力量などから算出されます。

現状あまり主流ではありませんが、オンプレミスでの構築も選択肢にあります。いくつかの方法が考えられますが、生成AI（ある程度パッケージ化されたもの）がインストールされたサーバーを購入する、あるいはGPUサーバーを購入してローカルLLM（ローカル大規模言語モデル）を導入・自社開発するなどの方法あります。

前者はサーバー構築というよりは既製品の購入に近いため、工数は少なく済みます。一方後者は多大な開発コストを要するため、あまり現実的とは言えないでしょう。

但し、“外部に提供するサービスとして生成AIを開発”するのであれば話は別で、今のところオンプレミスでの構築が最良の選択肢と言えます。その際はGPUサーバーを用いるのが一般的です。

生成AIを社内利用する際に気になるのは、やはりセキュリティでしょう。一歩間違えれば社内の機密情報が漏えいしてしまう可能性もあるため、慎重にならなければなりません、

一方で、生成AIにおけるセキュリティにはさまざまの観点があります。ここでは、代表的な3つの観点を前述の選択肢も交えつつ解説します。

「そもそもサーバー構築しない（外部サービスを利用する）」あるいは「クラウド（IaaS・PaaS）を活用する」場合、クラウド、つまり事業者側のサーバーにデータを置くことになります。

生成AIに限らず、まだまだクラウドに抵抗がある方も少なくないですし、サーバー運用の一般論としても「クラウドよりオンプレミスの方が安全である」などとしばしば語られます。しかし、一概にそうとも言えません。

例えば Microsoft や Google、AWS などは自社のインフラに対して多大なセキュリティ投資を行っています。日本国内の一般的な企業がそれに追いつくことは難しいため、そういった事業者のセキュリティ環境に相乗りできるという意味ではクラウドの方が安全かもしれません。

一方で、サーバー構築時に適切な対策を行わないと誰でもアクセスできる状態になってしまったり、ID・パスワードが何らかの形で漏えいすれば簡単に突破されてしまうというリスクもあります。これらは基本的にクラウド事業者側の責任範囲外のため、事故が起こってしまった場合の対応は自己責任となり、相当な労力を要するでしょう。

解決策としては、二段階認証を実装する、VPNを構築する、IP制御を行うなどが挙げられます。

クラウドに情報を置くことと関連して、社内の情報がAIモデルに学習されてしまうという懸念もあります。こちらもオンプレミスの方が社内に閉じている分安全そうに思えるかもしれませんが、クラウドでも自社環境に情報を留めてAIモデル全体には学習させないといったことが可能になっています。

昨今のAI関連サービスではユーザーに選択肢が与えられ、AIモデルに学習させるかさせないかを選べるケースが増えています。

クラウドやオンプレミスに限らず、生成AIのサーバーを構築する場合はネットワークセキュリティもケアする必要があります。ネットワークで事故が発生した場合、もちろんその中にあるサーバーにも影響するためです。「そもそもサーバー構築しない（外部サービスを利用する）」または「クラウド（IaaS・PaaS）を活用する」場合は主にWAN側、「オンプレミスで構築する」場合は主にLAN側を注視しましょう。

WANとは、地理的に広範囲にわたるネットワークを指し、インターネット接続やVPNなどが含まれます。オフィスからクラウドや外部サービスに接続する場合は必ずと言っていいほどインターネットを経由しますが、何もしなければサイバー攻撃の恰好の的になってしまいます。

クラウド上に生成AIのサーバーを構築する場合は、クラウド環境とのVPNを構築したり、Azure ExpressRoute などの閉域網サービスを利用したり、あるいはオフィス側のゲートウェイに対してIP制御を行ったりなどの対応が必要になります。

オンプレミスでも、生成AIのサーバーをデータセンターに設置する場合は同じような対応が求められます。

LANとは、比較的小さな範囲のネットワークを指し、ファイアウォールやルーター、アクセスポイントなどが含まれます。「オンプレミスなら社内に閉じているから安心」と考える方も少なくないですが、現代ではさまざまな経路でLANからもセキュリティ事故が発生し得るため、インターネットに接続していなければ安全というわけではありません。

UTMやファイアウォールはもちろん、生成AIのサーバーにアクセスする端末（PCやスマートフォンなど）のセキュリティ対策も施す必要があります。

クラウドの場合でもこれらの対策は求められますが、クラウド環境側のファイアウォールサービスなどを併用するといった方法もあります。

最後に、これまで解説してきた3つの選択肢のメリット・デメリットを表にまとめます。いずれもケースバイケースなので、あくまで一般論として解説します。