生成AIが、社会を変革し始めている。期待が大きく高まる一方、懸念もないわけではない。インターネットの普及が、サイバー犯罪という負の側面を生み出したように、生成AIにもリスクはあるからだ。その1つが、生成AIによるプライバシー侵害である。＜トラスト（信頼）＞あるデジタル社会の実現を目指して挑戦する、NTTグループの上級セキュリティ人材を紹介する連載「＜サイバーセキュリティ戦記＞NTTグループのプロフェッショナルたち」。第14回は、生成AIによる個人情報漏えい対策などに取り組む、NTT 社会情報研究所の芝原俊樹を紹介する。

今、最も注目を浴びているテクノロジーであるAI/機械学習――。NTT 社会情報研究所の芝原俊樹は、このAI/機械学習を使って、サイバーセキュリティに関する課題解決に取り組んでいる。

元々はロボットへの関心だった。「ドラえもんみたいなロボットが身近にあるといいなって」

大学でロボットの研究室に入ると、研究テーマは大きくハードウェアとソフトウェアの2つに分かれていた。芝原が興味を持ったのはソフトウェアの方だった。

当時、人間とAIの“賢さ”には、大きな開きがあった。「人はどうやって賢くなっていくのか。その過程を調べれば、賢いAIを開発するヒントになるのでは」。こう考えた芝原は、“内発的動機付け”に着目した研究を行った。

人間は、内側から湧き出る情熱に突き動かされて努力を重ねる。「この内発的動機付けが、人が賢くなる過程に効いているのではないかと興味を持ったのです」

大学院の修士課程の修了後、博士課程に進学するか、企業の研究所に就職するかでは少し悩んだという。

「大学の基礎研究は長期スパン。50年後に役立つような研究をするものだと、大学の先生がおっしゃっていて、私は『もう少し短い方がいいな』と」

芝原は自身の内発的動機に突き動かされ、NTTの研究所に2014年に入社した。

配属先については「想定外」だったという。AI/機械学習の研究を行っている部署に配属されると予想していたが、実際の配属先はサイバーセキュリティ対策について研究する部署だった。

サイバーセキュリティはそれまで全くの専門外。「TCP/IPの仕組みすら、よく知りませんでした」という芝原が、サイバーセキュリティ対策の部署に配属されたのには、もちろん理由があった。

AI/機械学習の力を、サイバーセキュリティの側が必要としていた。

AI/機械学習でサイバー攻撃を検知

サイバーセキュリティについて「イチから勉強する」ところからスタートした芝原。しかし、成果を出し始めるまで、大した時間は要さなかった。

最初の研究テーマは、ドライブバイダウンロード攻撃対策だった。ドライブバイダウンロード攻撃とは、Webサイトを閲覧した際に、Webブラウザーの脆弱性を悪用して、ユーザーに気付かせずにマルウェアなどをダウンロードさせる攻撃手法である。

このドライブバイダウンロード攻撃では、悪意あるサイトへのリダイレクト（自動転送）が用いられる。そのリンク関係を表したツリー（木）構造の特徴を機械学習で分析することによって、不正サイトを検知できるのではないか――。芝原の研究成果は、国プロ（政府研究開発プロジェクト）でも活用された。

次に取り組んだのは、プロキシログを機械学習で分析することにより、マルウェアへの感染端末を検知する技術だ。芝原にとっては、次の2つの理由から思い出深い研究の1つとなっている。

まずは、IEEE Communications Societyの権威ある国際会議である「IEEE ICC」で採択されたことだ。もう1つは、スウェーデンにあるNTTのグループ会社のマネージドセキュリティサービスに採用され、1回2～3週間の長期出張を数回繰り返しながら、サービス導入にこぎつけたことである。

「現場から求められた誤検知率は非常に低く、国際会議に採択されたときの技術をさらに改良する必要がありました。そこで現地に何度も出張し、お客様の実際のログデータを用いながら、改良に取り組みました」

車両向けのSOC（Security Operation Center）であるVSOC事業を立ち上げるグループ会社からの依頼を受けて、自動車を狙ったサイバー攻撃を検知する技術も機械学習を応用して開発した。

情報処理学会の山下記念研究賞など、受賞歴も数多い。