開発者・提供者・利用者それぞれに責任がある

こうしたリスクに、企業はどのように向き合うべきか。

NRIセキュア セキュリティコンサルタントの南朴木里咲氏は対策の前提はリスクの特定にあるとして、関係する主体を、研究開発・製品化を担う「開発者」（研究機関・大学・スタートアップ等）、サービスや製品を提供する「提供者」（SaaS事業者・プラットフォーマー・製造業者等）、それらを使う「利用者」（民間企業・行政・個人）の3つに整理した。

この3者の役割は、研究開発、事業化、社会実装という技術の成熟段階に応じて、下の図表2のようにそれぞれ変化する。

図表2　3主体の役割の変化とセキュリティ上の論点

南朴木氏は、各段階におけるセキュリティ上の論点を次のように提示した。

研究開発段階の「研究セキュリティ」は機微情報・技術の流出を防ぐことであり、情報管理体制の構築や研究データの暗号化等が必要だ。次の事業化段階では、設計・開発の初期段階からセキュリティとプライバシー保護を組み込む「セキュリティ・バイ・デザイン／プライバシー・バイ・デザイン」が論点となる。後付のセキュリティ対策コストを軽減するとともに、新技術に対する社会的信頼の獲得にも寄与する。

3つめが、「アジャイル・ガバナンス」だ。技術・社会の変化に応じて規律を柔軟に見直し、継続的に改善するガバナンスのことで、エマージングテクノロジーの急速な進化を阻害しないよう、上記3主体が連携しながら合意形成していくことが必要という。

「過度な統制」も「無秩序」も避けたい

利用者である一般企業は何から手をつければよいのか。シニアセキュリティコンサルタントの藤村了氏が示したのが、「ちょうどいい」セキュリティガバナンスという考え方である。

エマージングテクノロジーは業務効率の改善やサービスの多角化、研究開発における先行者利益といった恩恵をもたらす。この側面を意識せず、サイバー攻撃や情報漏えいといったネガティブリスクだけを見れば、過度な統制に傾いてイノベーションが阻害される。

逆に、何でも自由に使わせれば無秩序に陥り、ステークホルダーの信頼を失いかねない。「ポジティブなリスクの獲得も一定意識しつつ、絶対に避けなければならないリスクは回避する」（藤村氏）。この両にらみが「ちょうどいい」の意味するところだ（図表3）。

図表3　「ちょうどいい」セキュリティガバナンスとは

同氏は、AIガバナンスの構築を例に具体的な手順を示した。

出発点は、社内でAIがどう使われているかというユースケースと利用パターンの棚卸しだ。重大なリスクに関わる箇所と、業務上AIの利用が欠かせない箇所を押さえる。

次に、各ユースケースで想定される脅威・リスクを導出し、レベルを付ける。問合せ受付業務にAIを使うケースなら、音声認識の精度不足による誤入力・誤出力は「低」、顧客の個人情報の漏えいやプロンプトインジェクションによる不正操作は「高」といった具合だ。

そのうえで、対策と運用ルールを検討する。ここでもネガティブリスクの極小化のみを目的としないことに加えて、煩雑なルールは活用そのものを阻むため、極力シンプルで運用しやすいルールとし、既存のセキュリティや知的財産、法務といった社内規定とレベル感を揃えることが実効性を高める。

「全社的な取り組みが難しければ、一部の部門からでも構わない。スモールスタートで歩み始めることが“ちょうどいい”ガバナンスにつながる」と藤村氏は説いた。AIの、そしてその次に来る技術の実装スピードが緩む気配はない。備えの有無が問われることになろう。