NTTは2024年3月25日、NTTが開発するLLM「tsuzumi」を利用した商用サービスの開始を発表した。
tsuzumiは、70億パラメーターと軽量なため、1つのGPUで動作し、クローズドなデータをオンプレミス環境でセキュアに活用できる。また、NTTの自然言語処理研究の蓄積から、日本語性能ではOpen AIのGPT-3.5や同規模の国産LLMを上回る。さらに、図表読解や聴覚など様々な形式に対応できる点を特徴とする。
軽量ながら高い言語性能を強みとする
tsuzumiを2023年11月に発表して以降、ヤマト運輸やノジマ、福井県、東京都町田市など、500以上の企業や自治体から導入に関する相談が寄せられている。NTTの島田明社長は「これだけ多くのご相談をいただき、嬉しく思っている」と語った。
NTT 島田明社長
tsuzumiの導入を検討しているのは、製造業や自治体、金融機関など、機密性の高いデータを取り扱う業界が多い。利用用途としては、コールセンターなど顧客接点での利用によるCX向上、議事録作成や要約など社内業務改善によるEX向上、IT運用・ソフトウェア開発などが中心だという。
個人情報や機密性の高いデータを活用したいとのニーズが多い
こうしたニーズを踏まえ、商用サービスでは、3つの利用環境と3つのソリューションメニューを組み合わせて利用できるようにする。
利用環境については、①顧客の事務所などオンプレミス環境、②NTTグループのプライベートクラウド、③パブリッククラウドの3種類を用意。オンプレミスやプライベートクラウドで利用できるため、機密・機微情報も安全に扱えるという。
オンプレミスやプライベートクラウドで機密情報も扱える
ソリューションについては、①コンタクトセンターオペレーター支援やバックヤード業務活用などのCXソリューション、②議事録作成や要約、申請書類作成などの業界・業務別EXソリューション、③ヘルプデスク問い合わせ対応やIT運用自動化サポートなどのIT運用サポートソリューションを提供する。
利用用途に合わせて3種類のソリューションを用意
さらに、開発前のAIリスク評価や、リリース後のデータ分析、チューニングといったメンテナンスなど、導入からカスタマイズ、運用までNTTがトータルでサポートを行う。
