AI駆動型攻撃が現実となる時代に求められるセキュリティ対策と専門家の役割とは――名和利男氏：ITmedia エグゼクティブセミナーリポート（1/2 ページ）

生成AIが本格的に登場してから、多くの専門家や研究者が「AIを活用した攻撃」の可能性を指摘してきた。こうしたAI駆動型攻撃には、「高度な自動化」「人間の行動パターンの模倣」、そして「迅速な適応と進化」という3つの特徴がある。

[高橋睦美，ITmedia]

名和利男氏

　ChatGPTが登場し、世の中に衝撃を与えてから2年あまりが経った。生成AIという革新的なテクノロジーは、ビジネス面などにさまざまな影響を与えつつあり、サイバー攻撃と防御の世界も例外ではない。

　サイバーディフェンス研究所などに所属する名和利男氏は、「AI駆動型攻撃に対する従来型防御の効果と限界」と題した講演を通して、AI駆動型のサイバー攻撃にはこれまでの攻撃と異なるどのような特徴があり、われわれはいかに備えるべきかについて説明した

将来は予測不能に？　生成AIがセキュリティの世界に与えるインパクト

　生成AIが本格的に登場してから、多くの専門家や研究者が「AIを活用した攻撃」の可能性を指摘してきた。その恐れは現実のものになりつつあるようだ。

　名和氏はこうしたAI駆動型攻撃には、「高度な自動化」「人間の行動パターンの模倣」、そして「迅速な適応と進化」という3つの特徴があると説明した。特に、2つ目の人間の行動パターンの模倣については、米FBI長官が、AIを用いたフィッシングやビジネスメール詐欺の増加にたびたび警鐘を鳴らしているほどだ。そして従来の攻撃とは「規模と速度」「複雑性と洗練度」「予測困難性」の3つの点で違いがあるとした。

　こうした傾向を踏まえて名和氏は、「多くの人が外部の専門家に今後、一体どうなるのかと問いかけていますが、近い将来、そうした質問には意味がなくなるでしょう。人間が予測すること自体が困難になるからです。私自身、分からないとしか言えなくなるかもしれません」と述べ、AIがサイバー攻撃の在り方に大きなインパクトを与えつつあることを強調した。

　では、この新しい流れに対し、これまでわれわれが講じてきた「従来型の防御」は果たして有効なのだろうか。

　ファイアウォールやウイルス対策ソフト、IDS/IPSといった基本的な防御の仕組みは、依然として一定程度有効だ。だがAI駆動型攻撃に対処するには、より高度な検知や判断能力が求められる。ツール間でデータを共有して協調動作するような統合と相互運用性がいっそう求められるほか、人間の専門知識との融合、ネットワークの状況やユーザーの行動パターン、さらには地政学的リスクといった広範なコンテキストを認識することが重要になる。

　そして、意外と見落としがちな点だが、プライバシー保護とのバランスも重要だ。「サイバー安全保障に関する有識者会合においても、個人のプライバシーをいかに守るかが議論されました。特に民主主義社会においてはここを重視していかなければなりません」（名和氏）

より高度な攻撃にも、そして防御にも適用が期待されるAIの特性

　こうした概観を踏まえ、名和氏は次に、より掘り下げてAI駆動型攻撃の特性を解説した。

　AI駆動型攻撃には、「機械学習を活用した攻撃手法」「自然言語処理による高度なフィッシング」「自動化された脆弱性スキャンと攻撃」という3つの特徴がある。名和氏は、こうした傾向を持つAI駆動型攻撃についてさまざまな研究者と対話する中で、いくつかの気付きを得たという。

　1つ目はAIの二面性だ。「日本では、AIをサイバーセキュリティ対策に活用できるのではないかというアイデアにベンチャー企業がチャレンジし始めています。一方他の国や地域においては、AIを用いたサイバー兵器が開発され、クローズドな場で共有されています」と述べ、同じ技術が異なるベクトルで用いられているとした。

　また攻撃の個別化と大規模化の同時進行により、個々のターゲットに合わせてカスタマイズされた攻撃が大規模に実行されるマスカスタマイゼーションされた攻撃が現実のものとなる恐れがあり、防御側の対応はいっそう困難になるだろうとした。

　また生成AIは、人間が時間をかけて読み込む必要のある文献をたった数秒で理解し、その中から暗黙的な法則を見いだすこともできる。こうした人間の認知限界の超越という特性は、AIが人間の監視者をサポートする補助型セキュリティオペレーションにつながることが期待できる。

　しかし、攻撃の予測困難性が高まり、さまざまな検知回避行動が今以上に駆使されるようになると、事後対応型から、脅威の変化に合わせて動的に防御の在り方を調整する予防型・適応型のセキュリティアプローチが重要になってくるだろうとした。

　つい見逃しがちだが、AI駆動型の攻撃に対抗してAI防御システムを検討するに当たっては、透明性と説明可能性の確保が欠かせないとも指摘した。「生成AIをはじめとするAIはブラックボックス化していると指摘されており、私もそう認識しています。倫理的な考慮事項についてはいっそう努力を怠ってはならないと思います」（名和氏）

　では、現実には今、どのようなAI駆動型攻撃が展開されようとしているのだろうか。

　名和氏はまずディープフェイクとソーシャルエンジニアリングを挙げた。これらが横行するにつれ、見ること、聞くことへの信頼性がゆらぐ社会への移行を覚悟し、それを前提に識別や検知に取り組まなければならない時期にさしかかっているとした。

　AIはまた、人を介さず、自ら環境に適応して進化する自律型マルウェアの出現ももたらす恐れがある。「この先にあるのがAI vs AIの世界であり、その競争の中で、マルウェアの進化速度が人間の対応能力をはるかに上回る可能性があります」（名和氏）

脆弱性発見の自動化に備え、自動バグ修正技術に着目を

　こうした傾向の中でわれわれが留意すべきトレンドが、AIによる自動化された脆弱性発見と対になる「自動バグ修正技術」だと名和氏は説明した。

　「攻撃者が私たちのアタックサーフェイスを細かく見て、精度高く脆弱性を見つけ、悪用する時代が、そう遠くない未来に到来することは確実だといわれています。それに立ち向かうためには、今から自動バグ修正技術を理解し、近い将来登場するであろうソリューションに興味を持つことが必要です」（名和氏）

　また、遺伝的プログラミングにも要注目だという。これは生物の進化のプロセスを模倣し、潜在的な修正案を多数生成し、評価し、改良することで、プログラム内のバグを見つけて最適な修正方法を見いだしていくアプローチだ。AIにこの遺伝的プログラミングを適用することで、人間には到底考えられない多数のプログラムを見て、バグや脆弱性をすぐに突き止められるようになる可能性がある。