日本企業や自治体の生成AI活用を推進することを目的に掲げ、シスコシステムズとNECが「AIガバナンス」分野における協業を発表した。シスコが3月から日本国内で提供開始した新セキュリティソリューション「Cisco AI Defense」を、NECが自社のコンサルティングサービスと組み合わせて「AIガバナンスサービス」として2025年秋から提供する。
Cisco AI Defenseは、生成AIの開発と展開、活用に伴って発生する安全上のリスクやセキュリティ脅威に対抗するためのソリューションだ。2025年3月26日に開催した記者説明会でシスコの濱田義之社長は、これらの新たなリスクに「従来のセキュリティでは対応するのが難しい」と強調。今回の協業により、日本企業が「セキュアな環境でAIトランスフォーメーションを推進するのを支援したい」と意気込みを述べた。
シスコシステムズ 代表執行役員社長の濱田義之（左）と、
NEC Corporate SVP 兼 AIテクノロジーサービス事業部門長 兼 AI Technology Officerの山田昭雄氏
AIの進化とともに「リスクが変遷してきた」
生成AI活用に伴って発生する新たなリスクとは何か。NEC Corporate SVPの山田昭雄氏は、AIの進化とともに「リスクが変遷してきている」と説明した。
AIの進化とリスクの変遷
NECが得意とする顔認証のように、現実世界を認識する機能を持つコグニティブAIは、オンプレミスのクローズドな環境で使われる“完結したシステム”だった（上図表の「Cognitive AI」）。
対して、生成AIは、事実に基づかない情報を生成するハルシネーションの問題に加えて、著作権やプライバシー侵害などのリスクがある。また、企業特有のデータを用いた追加学習やファインチューニングなどによって、クラウドへの情報流出のリスクも常に抱えることになる。
さらに今後、AIエージェント（Agentic AI）が普及すれば、サイバー攻撃を受けた場合の影響範囲が拡大すると山田氏は警鐘を鳴らした。AIエージェントは人間に代わって自律的に業務を行うものであり、「エージェントがサイバー攻撃を受けた場合、攻撃者に社内システムを自由に扱われてしまう」危険があるからだ。
こうした新たなリスクに対して、シスコとNECは「セーフティ」と「セキュリティ」の2面で対応することの重要性を説いた。
