「NTT版LLM」が2024年3月に商用開始へ、言語性能と軽量に強み

NTTは2023年11月1日、NTT版LLM(大規模言語モデル)「tsuzumi」を開発したと発表した。LLMは大規模化が世界的な潮流だが、軽量化により、生成AI導入・運用時のハードウェアコストを抑えることができるという。国産LLMとしては初めて、図表読解に対応していることも特徴だ。

「40年以上の自然言語処理研究のノウハウを結集した」。NTTの島田明社長は、NTT版LLM「tsuzumi」をこう紹介した。

島田明社長(左)と執行役員 研究企画部門長 木下真吾氏

島田明社長(左)と執行役員 研究企画部門長 木下真吾氏

NTTが2024年3月より商用開始するtsuzumiは、同社の自然言語処理技術を活かした高い言語性能が特徴だという。なかでも日本語については、生成AIのベンチマーク「Rakuda」でGPT-3.5をはじめ、国内外のLLMを大きく上回った。英語についても、世界トップクラスのLLaMa 7Bと同程度の性能を実現する。今後は、フランス語やドイツ語、中国語、韓国語など多言語への拡充を予定している。

世界トップクラスの日本語性能を特徴とする

世界トップクラスの日本語性能を特徴とする

LLMは大規模化が進んでいるが、tsuzumiは軽量であることも特徴だ。パラメータサイズが0.6Bの超軽量版は、GPT-3(175B)の約1/300、パラメータサイズが7Bの軽量版は約1/25となっている。

軽量化のメリットとして、執行役員 研究企画部門長の木下真吾氏は「学習コストや推論コストを低減できる」と説明した。大規模なLLMの学習には膨大な電力を消費するが、軽量化により消費電力も抑えられるという。

軽量化により、学習コストが約1/300(超軽量版)に低減される

軽量化により、学習コストが約1/300(超軽量版)に低減される

また、tsuzumiは精度やコストなど要件の違いに合わせて、3つのチューニング方法から選択することができる。これにより、業界ごと、あるいは組織ごとのカスタマイズを低コストで実現するという。

3つのチューニング方法を提供する

3つのチューニング方法を提供する

さらに、国産LLMとしては初めて、言語だけでなく、図表読解などマルチモーダルに対応。例えば、言語による質問に加えて、文書画像を提示しながら質問することができる。これにより、請求書や仕様書など画像付き文書を用いる業務やRPA業務にも活用することが可能だ。

将来的には、聴覚への対応も予定している。木下氏によると「子供の電話相談に優しい声で応対するといったことができる」という。

続きのページは、会員の方のみ閲覧していただけます。

関連リンク

RELATED ARTICLE関連記事

SPECIAL TOPICスペシャルトピック

スペシャルトピック一覧

NEW ARTICLES新着記事

記事一覧

FEATURE特集

WHITE PAPERホワイトペーパー

ホワイトペーパー一覧
×
無料会員登録

無料会員登録をすると、本サイトのすべての記事を閲覧いただけます。
また、最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。