<連載>実践 生成AIの教科書の第5回は、生成AIを活用するにあたり、必要となるシステムと環境について説明します。
1.一般公開サービスの利用か専用システムの構築か?
一般的に、生成AIを活用するための専用システムを構築するには時間がかかります。そのため、まずは第4回で紹介したような一般公開サービスをそのまま利用するという選択肢があります。生成AIに対する入力情報に業務情報を含まないユースケース、あるいは社内の独自情報を加味した回答が不要なユースケースが中心であれば、機能的に一般公開サービスの利用で十分な場合もあります。
一般公開サービスを利用する際には、入力情報がどのように扱われるか、例えばサービス提供側に入力情報が保存されるのか、AIの学習情報に使われるか等を確認し、そのリスクを十分に検討した上で利用するサービスを選択する必要があります。
一方、生成AIに対する入力情報に業務情報を含むユースケース、または社内独自情報を加味した回答が必要なユースケースを中心とする場合には、専用システムの構築が必要になります。
以下では専用システムを構築するうえで注意すべきポイントの概要を説明します。専用システムの要件は、適用するユースケースごとに個別に検討する必要があるので、詳細は単行本版の『実践 生成AIの教科書 ――実績豊富な活用事例とノウハウで学ぶ』の3章を参照してください。
2.生成AIモデルをどこに構築するか?
(1)パブリッククラウド環境における生成AIモデル
第一に、クラウドベンダー各社が提供している生成AIモデルのサービスを利用することを検討します。サービスの概要や選定の観点については第4回を参照してください。
(2)オンプレミス環境における生成AIモデル
扱う情報の性質等、何らかの観点でパブリッククラウドの利用が不可の場合には、オンプレミス環境に構築したサーバーに、ローカルの生成AIモデルを構築することを検討します。
ハードウェアには、CPU、メモリー、GPU等、高スペックなサーバーが必要となることが多いので注意が必要です。
ソフトウェアには、オープンソースベースのローカルAIモデルの利用、あるいは独自データを追加学習(ファインチューニング)したAIモデルを利用するのが一般的です。オープンソースを使う場合、許諾されているライセンスの範囲を確認する必要があります。無料で入手可能だからといって、必ずしも業務に利用してよいとは限りません。例えば、学術的な目的のみに限定しているライセンスかもしれません。