スマートフォン上でAI処理を行う「オンデバイスAI」が盛り上がりを見せている。
先行しているのがグーグルだ。2023年12月、生成AI「Gemini」の最小モデル「Gemini Nano」をスマホのハイエンド機種「Pixel 8 Pro」に搭載したことで、大きな話題を集めた。2024年に入ってからは、サムスン電子、OPPO、Xiaomiなどのデバイスメーカーから生成AIを搭載したスマホが次々に発売されている。
アップルはAI対応で遅れを取っていたが、この10月、独自の生成AIサービス「Apple Intelligence」のβ版を提供開始した。
ChatGPTに代表される生成AIは、パラメーター数が数百億～数千億のLLM（大規模言語モデル）がクラウド上で推論を行っている。これに対し、オンデバイスAIに使われているのは、パラメーター数が数億～数十億のSLM（小規模言語モデル）だ。コンパクトなため、デバイスなどローカルな環境で動作することができる。ここ数年、ビッグテックやスタートアップがSLMの開発に取り組んでおり、性能が向上したことでスマホに搭載することが可能になった。
2023年以降、チップメーカー各社からオンデバイスAI向けチップセットも相次いで提供されている。
クアルコムが10月に発表したフラッグシップスマホ向けの最新チップセット「Snapdragon 8 Elite」は、独自開発したCPU「Oryon」をモバイル向けに初めて搭載する。
クアルコムのフラッグシップスマホ向けの最新チップセット「Snapdragon 8 Elite」は、AI向けの機能を強化している
ゲームなど処理能力を必要とするアプリ用のPrimeコアと一般的なアプリ用のPerformanceコアからなり、前モデルの「Snapdragon 8 Gen 3」と比べてキャッシュを大幅に増強、AIのようにレスポンスを求められる用途で性能を発揮することができる。また、AIの演算処理に特化したNPU（Nural Network Processing Unit）も進化し、生成AIの処理能力は最大45％向上している。
ただ、スマホという持ち運び可能なデバイス上で生成AIが最大限に性能を発揮するには、チップセットのパフォーマンス向上だけでは不十分だ。「クラウド上で処理する場合と比べると、メモリー容量は限られている。生成AIのモデルサイズをできるだけ小さくし、電力消費も抑えつつ、高いパフォーマンスを発揮する必要がある。その実現に向けて、デベロッパーとのパートナーシップを強化している」とクアルコムシーディーエムエーテクノロジーズ マーケティング統括本部長の泉宏志氏は説明する。
