NTTドコモ、NTTコミュニケーションズ、NTTコムウェアのドコモグループ3社は2023年8月21日、大規模言語モデル（以下、LLM）を活用した生成AIによる社内業務のDX推進や、生成AIの付加価値を高める新サービス提供に向けた実証実験を開始すると発表した。

実証実験では、生成AIを活用する際の安全性と利便性向上のため、ドコモが開発した「LLM付加価値基盤」をドコモグループ3社で活用する。

LLM 付加価値基盤構成・活用イメージ

まずは、ドコモグループ3社の全従業員の業務効率化に向け、例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において本基盤を活用する。また、利便性や回答の正確性を検証し、お客さま応対業務などへの適用可否を検討する。

本基盤は、今回の実証実験で得られたノウハウを元に最適化を行い、法人顧客との検証を経て、2023年度中のサービス提供開始を目指す。さらに本基盤を、ドコモが保有するビッグデータや音声認識/画像認識などのAI技術と組み合わせることで、法人顧客とともに新たな付加価値サービスの検討を開始する。

様々なユースケースにおいて生成AIの活用が進む一方、企業が利用する際には、情報漏洩につながる懸念や、大規模データゆえの正確性の担保の難しさなどの課題がある。また、差別・暴力表現や社会規範に反する象限などの不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要となる。本基盤はこれらの課題に着目し開発したもので、プロンプト入力時に回答の元となるマニュアルなどのファイルを追加で投入すると、ファイルの内容を元に回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えている。さらに、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加するなどし、安全性を向上させる基盤の提供を目指す。

また、本基盤はAzure OpenAI Serviceと連携して利用可能だが、今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダーが提供するLLMを活用し、ユースケースに合わせて様々なLLMを選択して利用できる基盤として拡張していくという。