NTTの独自LLM「tsuzumi」が商用開始、すでに500件以上の導入相談

NTTは、独自開発したLLM(大規模言語モデル)「tsuzumi」の商用サービスを開始した。LLMの大規模化が進むなか、70億パラメーターと軽量でオンプレミス環境においてセキュアに活用できるのが特徴だ。3つの利用環境と3つのソリューションを用意するとともに、導入から運用までトータルでサポートする。NTTでは2027年度までに1000億円の売上を目指している。

NTTは2024年3月25日、NTTが開発するLLM「tsuzumi」を利用した商用サービスの開始を発表した。

tsuzumiは、70億パラメーターと軽量なため、1つのGPUで動作し、クローズドなデータをオンプレミス環境でセキュアに活用できる。また、NTTの自然言語処理研究の蓄積から、日本語性能ではOpen AIのGPT-3.5や同規模の国産LLMを上回る。さらに、図表読解や聴覚など様々な形式に対応できる点を特徴とする。

軽量ながら高い言語性能を強みとする

軽量ながら高い言語性能を強みとする

tsuzumiを2023年11月に発表して以降、ヤマト運輸やノジマ、福井県、東京都町田市など、500以上の企業や自治体から導入に関する相談が寄せられている。NTTの島田明社長は「これだけ多くのご相談をいただき、嬉しく思っている」と語った。

NTT 島田明社長

NTT 島田明社長

tsuzumiの導入を検討しているのは、製造業や自治体、金融機関など、機密性の高いデータを取り扱う業界が多い。利用用途としては、コールセンターなど顧客接点での利用によるCX向上、議事録作成や要約など社内業務改善によるEX向上、IT運用・ソフトウェア開発などが中心だという。

個人情報や機密性の高いデータを活用したいとのニーズが多い

個人情報や機密性の高いデータを活用したいとのニーズが多い

こうしたニーズを踏まえ、商用サービスでは、3つの利用環境と3つのソリューションメニューを組み合わせて利用できるようにする。

利用環境については、①顧客の事務所などオンプレミス環境、②NTTグループのプライベートクラウド、③パブリッククラウドの3種類を用意。オンプレミスやプライベートクラウドで利用できるため、機密・機微情報も安全に扱えるという。

オンプレミスやプライベートクラウドで機密情報も扱える

オンプレミスやプライベートクラウドで機密情報も扱える

ソリューションについては、①コンタクトセンターオペレーター支援やバックヤード業務活用などのCXソリューション、②議事録作成や要約、申請書類作成などの業界・業務別EXソリューション、③ヘルプデスク問い合わせ対応やIT運用自動化サポートなどのIT運用サポートソリューションを提供する。

利用用途に合わせて3種類のソリューションを用意

利用用途に合わせて3種類のソリューションを用意

さらに、開発前のAIリスク評価や、リリース後のデータ分析、チューニングといったメンテナンスなど、導入からカスタマイズ、運用までNTTがトータルでサポートを行う。

続きのページは、会員の方のみ閲覧していただけます。

RELATED ARTICLE関連記事

SPECIAL TOPICスペシャルトピック

スペシャルトピック一覧

NEW ARTICLES新着記事

記事一覧

FEATURE特集

WHITE PAPERホワイトペーパー

ホワイトペーパー一覧
×
無料会員登録

無料会員登録をすると、本サイトのすべての記事を閲覧いただけます。
また、最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。