生成AI時代だからこそ、従来からの基本的な対策の徹底を――徳丸氏が整理する、生成AI時代ならではのセキュリティリスク：ITmedia エグゼクティブセミナーリポート（2/2 ページ）

[高橋睦美，ITmedia]

　生成AIによってフィッシングメールの文面作成や翻訳が容易に、より巧妙になってしまうトレンドも以前から指摘されているほか、ディープフェイクで著名人になりすまし、詐欺を働くケースも報じられている。

　徳丸氏はこのように生成AIがもたらすリスクを一通り説明し、「生成AIの活用によって企業の業務効率化が期待されていますが、悪い奴らの業務、つまりハッキングも効率化できるわけです」と述べた。そして、攻撃の「原理」は大きく変わらない一方で、生成AIがそれをスピードアップさせたり、裾野を広げたりしてしまうことを踏まえ、あらためて基礎的な対策の重要性を強調するとともに、ディープフェイクのような新たな脅威に備えた教育・啓発も必要になるとした。

やはり脆弱性とは無縁たり得ない、生成AIが作ったプログラム

　人間が作るプログラムにはバグや脆弱性が付き物だが、生成AIを利用して開発したプログラムはどうだろうか。徳丸氏はそうした観点でも調査を行った。

　具体的には、ChatGPT o3-mini-highを用い「Vue.jsで、改行を含む文字列を表示するプログラムを書いてください。その際、改行はbrタグに変換してください」と指示してみた。これに応じてChatGPTは、v-htmlを用いたプログラムを作成してくれたという。

　徳丸氏が「このプログラムには脆弱性がありませんか？」と尋ねたところ、「はい、潜在的な脆弱性、特にクロスサイトスクリプティングのリスクがあります」と、正直に返答してきたそうだ。実際に攻撃用の文字列を入力したところ、JavaScriptが動作し、脆弱性が存在することが確認できたという。

　また、ChatGPTが生成したプログラムには「ここではVue2を使用しています」とコメントが入っていた。これに対し徳丸氏が、Vue2は2023年12月31日にサポートが終了していることを踏まえ「Vue2はサポートが終了しているのではありませんか？」と尋ねると、「完全にサポートが終了しているわけではなく、新規開発が行われないメンテナンスモードです」といった、言い訳のような間違った回答が返ってきたそうだ。

　この検証はやや古いバージョンを用いたものであり、最新のバージョンでは改良が進んでいるのは事実だ。

　だが徳丸氏は「それで完璧かというとそんなことはありません。生成AIを使ってアプリケーションを書いたとしても、機能的なバグのテストやセキュリティ的な脆弱性のテストは必要ですし、サポートが終了した古いフレームワークやライブラリを使う可能性もあるため、よくよく注意する必要があります」と話した。そして、生成AIを用いた脆弱性検査も登場してはいるものの、最終的には人間の専門家がチェックする必要があると指摘した。

生成AIが普及しかえって重要性が高まる従来からの基本的な対策

　では、生成AIを安全に使うために必要な注意点はなんだろうか。

　まずデータ漏洩に対しては、プロンプトなどが学習に使われない適切なAIを選定し、さらに、社員が個別に判断を下さないよう、既存のガイドラインを参考にしながら、企業として生成AIの利用ポリシーを策定すべきとアドバイスした。

　一方でハルシネーション対策は難しいという。「生成AIが出してくる答えは非常に印象的で、いかにももっともらしいものです。このため、ついそのまま使いたくなってしまいますが、やはり、時々間違えることがあります」（徳丸氏）

　ネット上には「ハルシネーションを防ぐにはこんな指示を入れればいい」とプロンプトエンジニアリングのコツを指南するような記事もあるが、「私の経験上、決してそうしたものが完璧ということはなく、若干減るぐらいのものです」と徳丸氏は言う。引用元を参照して裏取りをするなど、十分注意しながら扱うべきであり、必要に応じてガイドラインにも盛り込むべきだとした。

　また、会社として生成AIを活用したアプリケーションを開発する場合には、「OWASP Top 10 for LLM Applications 2025」のようなガイドラインや、クラウドサービスが提供する生成AI向けのさまざまな保護機能の活用が推奨されるという。その上で、一般的なWebアプリケーションの脆弱性診断と、それに加えて生成AIに特化した脆弱性診断サービスも活用してほしいとした。

　生成AIの進化と活用は目覚ましく、特にプログラム開発の分野ではそれが顕著だ。ただ、プログラムというものは、AI登場以前からテストをした上で実装するのが当たり前のものであり、従来通り実施していくことが求められる。

　最後に徳丸氏は、生成AIはサイバー攻撃の自動化に威力を発揮していると警鐘を鳴らした上で、「生成AI固有の対策はまだ必要ありません。まずポリシーを策定して注意しながら使うとともに、従来からの基本的な対策をきちんと実施しましょう」と、生成AI時代だからこそ基本に立ち返ることが大事だと呼び掛けた。