ターゲットとなる「非人間アイデンティティ」

もう1つ、大きな懸念としてマンキー氏が挙げたのが、犯罪組織間での技術共有だ。

かつて、高度な攻撃技術は国家支援型（APT）グループの専売特許だったが、現在のサイバー犯罪集団は、AIを駆使することで、かつては国家組織しか持ち得なかった高度な技術を保有し始めているという。

そうしたサイバー犯罪集団が今、標的としているのが「アイデンティティ（身元情報）」であると同氏は指摘した。

従来、攻撃者はシステムの脆弱性を悪用（エクスプロイト）することに注力してきたが、現在では盗んだ資格情報（IDやパスワード）を利用して、正規ユーザーになりすましてSaaSやクラウドサービスへ侵入する手法へと大きくシフトしているという。

厄介なのは、このアイデンティティの概念が人間にとどまらず、AIエージェントにも及んでいることだ。いわゆる「非人間アイデンティティ」である。

インターネット上に公開されている脆弱なAIエージェントがハイジャックされると、それは従来のバックドア以上に強力な武器となる。AIエージェントはシステム内で信頼され、特定の権限やアクセス権を与えられているため、乗っ取られた際の被害は甚大だ。「そのエージェントがどのようなデータにアクセスし、どのような権限を持っているのか」を管理・把握することが、新たなセキュリティ上の課題となる。

サイバーレジリエンスを再定義する2つの柱

こうした脅威に対抗するための戦略の柱としてマンキー氏が挙げたのが、次の2つだ。

「AI for Security」と「Security for AI」

1つは、「AI for Security（防御のためのAI）」。攻撃者の「24時間」というスピードに対抗するには、人間による対応は限界がある。SIEMやSOARにAIを統合し、検知から応答までを自動化することで、攻撃ウィンドウを物理的に封じ込める必要があるという。フォーティネットは、自社の統合セキュリティ運用（SOC）プラットフォーム「FortiSOC」などでこれを実践している。

もう1本の柱は、「Security for AI（AIのためのセキュリティ）」だ。マンキー氏は、自社が活用するAIモデルやエージェントそのものを守り、データの整合性を担保する専用の保護策を講じる必要があるとし、AIを信頼しすぎる「オープン・クロック」の危険性を認識し、AIの出力と入力の両方にガードレールを設置すべきだと提案した。

また、同氏によれば、企業・団体個別の防御を超えた、業界全体での「Accountability（責任）」の追求も始まっているという。

先述のMITREやCyber Threat Alliance（CTA）を通じた情報共有、法執行機関との連携を通じて、最新の攻撃手法に対する防御を更新。また、犯罪情報の提供者に報奨金を与える「Cybercrime Bounty」プログラムのようなエコシステムにより、攻撃コストを引き上げる「抑止」の動きが加速している。