少ない学習データで作成可能に

ディープフェイクは、企業を狙った詐欺行為にも使われている。

よく知られているのが、英国のエネルギー会社CEOが、ドイツにある親会社のCEOになりすました合成音声の電話による指示を受け、ハンガリー企業の口座に22万ユーロを送金したというものだ。

日本でもIPA（独立行政法人情報処理推進機構）が2023年8月に公開した「サイバー情報共有イニシアティブ（J-CSIP）」において、ディープフェイクを利用したと見られるビジネスメール詐欺の事例が報告されている。

ビジネスメール詐欺とは、自社の経営幹部や取引先になりすましてビジネスメールを送り、金銭や情報をだまし取るサイバー犯罪を指す。

この事例では、A社会長を詐称するメールがB社社長宛てに送られた後、A社専務になりすました人物から「会長がメールで連絡した件のフォローアップをしている」という内容の電話がB社社長に着信。会話の途中で相手がA社専務でないことに気付いたB社社長が、その旨を指摘したところ、一方的に電話を切られて被害には至らなかったという（図表2）。

図表2　攻撃者とのやりとり

A社専務を騙る人物が同氏の声を模倣していたことから、IPAでは「ディープフェイクが用いられた可能性がある」と指摘している。

トレンドマイクロ セキュリティエバンジェリストの岡本勝之氏は「生成AIなどの技術進化により、ディープフェイクが“大衆化”している。今や専門知識が不要で、しかも少ない学習データで作成できる。特に音声のディープフェイクは、人を完全に騙せるレベルのものを低コストで作成することが可能」と説明する。

トレンドマイクロ セキュリティエバンジェリスト 岡本勝之氏

例えばマイクロソフトが公開しているAI音声生成ソフトウェア「VALL-EX」は、3秒の音声サンプルで、同じ声質の音声を再生することができる。これを悪用すれば、音声のディープフェイクを簡単に作成可能だという。

このため、岡本氏は「音声のディープフェイクを用いることで、ビジネスメール詐欺がより巧妙化するだろう」と警鐘を鳴らす。

また、「フェイク画像や音声により本人確認を突破する手口はすでに発生している可能性があり、サイバー犯罪者は、金融機関や公共サービスのアカウントを勝手に作成したり、携帯電話会社にSIMを再発行させるSIMスワッピングなどの不正活動が可能になる。将来的には、入館システムや社用端末のログインなど物理的な顔認証を突破するためにディープフェイクが悪用されることも予想される」（岡本氏）という。

技術的対策の採用例も

ディープフェイクの悪用による脅威の広がりを受けて、様々な対策が取られ始めている。

アドビが中心となって運営する「コンテンツ認証イニシアチブ」では、デジタルコンテンツの来歴をメタデータとして記録し、信頼のおけるコンテンツの生成・利用を促す取り組みが行われており、1500社以上の企業等が参加する。

国内では、防衛省が偽情報の流布などの宣伝工作について分析する「グローバル戦略情報官」の役職を新設したほか、総務省は偽情報対策に係る取組集Ver.1.0を公表した。

技術面での対策も進んでいる。

大学共同利用機関法人 情報・システム研究機構 国立情報学研究所は2023年1月、大量のデータに基づく自動識別モデルを用いることで、人間による分析などを必要とせずに、AIが生成したフェイク顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION」を開発した。サイバーエージェントが、著名人の公式3DCGモデルを制作し「分身」となるデジタルツインをキャスティングするサービス「デジタルツインレーベル」に採用。著名人のディープフェイク映像検知に活用している。

ただ、こうした技術は大半の企業にとって、まだ一般的ではない。「市場に取り入れられなければ効果的な対策にはなり得ないので、国を挙げて普及を進める必要がある」と岡本氏は指摘する。

また、音声のディープフェイクの場合、「電話にどのように技術的対策を盛り込むのかという課題もある」（岡本氏）。このため当面は、企業のセキュリティ教育にディープフェイクを想定したプログラムを取り入れたり、複数の方法で本人性の確認を行う体制を整備するなど、“アナログな”対策が有効だという。