KDDIとKDDI総合研究所は2025年3月26日、AIセキュリティに関する情報を一元化して発信するポータルサイト「AIセキュリティポータル」を公開した。
「AIセキュリティポータル」のイメージ
同サイトでは、AIセキュリティに関する全体像や個々の解説記事、文献情報、ニュース・イベント情報、関連サイトといったAIセキュリティに関する情報を包括的に発信する。利用者はこのサイトを起点とし、AIのセキュリティに関する最新情報を得ることが可能。また、AIが攻撃・悪用された場合のネガティブな影響を体系的に整理しているため、AIへの攻撃が人や社会に与える影響範囲を知ることができ、対策の検討に寄与することができるとしている。
なお、AIセキュリティに関する情報を集約し提供するため、Web上にあるAIセキュリティに関する情報を、知識・技術の体系化により、効率的に収集・整理できる知識集約環境を構築。具体的には、AI自体への攻撃や防御手法だけではなく、プライバシー侵害や著作権などの権利侵害など、AIが攻撃・悪用された結果によりAIが社会や人にもたらすネガティブな影響の要素の調査研究を実施。この結果をもとに、AIのセキュリティ情報の関連性を整理したAIのセキュリティマップを作成した。
AIのセキュリティマップの概略
また、Web上にあるAIセキュリティに関する論文などの膨大な情報を分類・集約するプラットフォームを構築。このプラットフォームでは、LLMを利用した新しい分類技術を導入しているという。従来の分類技術では、AIモデルを学習させる際の良質な訓練データを大量に収集することが難しく、既存のデータベースに存在しない未知の文献に対して適切なラベルを付与できないという問題もあった。今回の分類技術は、少量の教師データに基づく検索拡張の手法と、LLMへの入力時に新規ラベルの生成方法を提示する「Few-shotプロンプティング」を用いることで、既存、新規それぞれの文献に対するラベル付けが可能になったとのことだ。
