ガートナーによれば、国内企業の8割以上が外部ベンダーが提供する何らかのAI製品・ソリューションを利用しているという。一方、こうした外部AI製品を想定した社内共通ルールを定めている企業は23%にとどまっている。また、ルールや基準を経営陣が承認する体制を整備している企業もわずか38%であり、ガートナー ジャパン シニア ディレクター アナリストの土屋隆一氏は、「このような不十分な体制でAIを運用するのはリスク」と警告した。
ガートナー ジャパン シニア ディレクター アナリストの土屋隆一氏
マルチエージェント化によってリスクは「二乗三乗」
土屋氏は、ベンダーが提供するAIにまつわるリスクを次の6つに分類した。データ漏洩・改ざん、システムのブラックボックス化、知的財産権の侵害、規則・法令違反、学習モデルの信頼性低下、予期せぬコスト増加だ。不透明性の高いAIエージェントはこうしたリスクを高めるうえ、マルチエージェント構成をとることでリスクは二乗三乗に増大するという。
ベンダーが提供するAIにまつわる6つのリスク
「AI導入を止めることはできない。どう付き合うか」と土屋氏は指摘したうえで、リスクに対処するための具体的なポイントを3つ挙げた。
社内で役割分担しながらAI製品の全体像を俯瞰
1つめは「複数の目」を持ち、ベンダーが提供するAIの全体像を俯瞰することだ。AI製品のガバナンス、アーキテクチャ、オペレーションの3層にわたり可視化に取り組み、リスクを具体的に把握する。このとき、セキュリティ部門を中心に、ユーザー部門からIT設計・調達・管理に関わる各部門、そして経営陣まで、互いの役割を理解しながら役割を分担することが重要だと土屋氏は語った。
