フィジカルAIでは、AIの判断がロボットや設備の動作に反映される。処理結果がデジタル空間内にとどまらず、移動、停止、把持、搬送といった物理動作として現れるため、誤作動や不正制御は人や設備への被害に直結する恐れがある。
安全な運用には、セキュリティとセーフティの切り分けが重要だ。前者は不正アクセスや情報漏えい・改ざん、意図しない通信を防ぐ対策、後者は機械が危険な動作に至らないための安全設計である。AIや通信を保護するだけでなく、異常時に危険動作を防ぐフェールセーフが不可欠になる。
セキュリティは利用者が握る
セキュリティ面でまず問題になるのが、ロボットや機器がどこと通信しているのかという点だ。
フィジカルAIでは、中国勢を含む海外企業の技術革新も目覚ましい。その反面、「ロボットが、利用者の知らないところで外部と通信していても、それを把握できないことが問題だ」（ソラコム テクノロジー・エバンジェリストの松下享平氏）という懸念もある。意図しない通信先にデータが送られたり、外部から制御を受けたりするリスクは、安全保障上の問題にもつながる。「ロボットを動かしている主体が通信先の管理をグリップ（把握・制御）しておく必要がある」と松下氏は指摘する。
ここでいう通信先の管理は、単にデータの送信先を制限することだけを意味しない。フィジカルAIでは、クラウドサービスやAPI、モデル更新の仕組みを含む外部AI基盤が、ロボットの判断や動作に関わる。外部からタスク指示や更新データを受け取り、それに基づいてロボットが動くのであれば、通信先を管理することは、どのAI基盤からの指示を現場に反映させるのかを管理することでもある。
そのため、導入企業には、ロボットが接続するAI基盤や更新経路を把握し、業務に必要な通信だけを許可する設計が求められる。海外製ロボットや、ハイパースケーラーが提供するAI基盤を使うこと自体が問題なのではない。どのデータをどこに送り、どのAI基盤から指示を受け、異常時に通信や更新を止められるのかを、利用者側が管理できることが制御権を確保する要件になる。
ただし、通信先を管理するだけでセキュリティを確保できるわけではない。外部との通信を制御していても、ロボット内部で不審なプロセスが動作したり、ファイルが改ざんされたり、想定外の通信が発生したりすれば、情報漏えいにとどまらず、物理的な被害につながりかねない。そのため、ネットワンシステムズ ビジネス開発本部 イノベーション推進部 ビジネス開発チームの谷口諒丞氏は、「フィジカルAIでは端末側のセキュリティが重要になる」と指摘する。ネットワンでは商用提供に向けて、カーネルレベルからネットワーク、プロセス、ファイルシステムまでを一貫して監視する軽量なセキュリティソリューションを検証している。
