「AIは活かすが任せきらない意識が大切」 - イー・ガーディアンCISO徳丸氏：セキュリティリーダーの視座（3/3 ページ）

[星原康一，ITmedia]

優秀な個人で成し得た運用水準を永続化する

―― イー・ガーディアングループでは海外拠点もありますが、海外のガバナンスではなにを見て、どう改善しましたか。

徳丸氏：　海外においてもグループ企業の運用担当者は非常に優秀で、監査・視察に行くと、規程に沿ってきっちり運用しているので、そこは高く評価しました。

　ただし、細かい運用はどうしても個人に依存することになります。現在は優秀な個人が活躍してくれている印象でしたが、その人が抜けたときに水準が下がる懸念があります。そこで、現地マニュアルを整理して、高い水準を維持できるよう依頼しました。

　また、海外拠点でヒヤリ・ハット級の事象があった際には、社内ネットワーク構成の再点検や原因分析を実施しています。サポート体制も「ギリギリセーフ」から余裕を持って対応できる状態へ引き上げる改善も進めました。ネットワークの設計により、仮に侵入があっても本社（日本）側へ波及しない構造であることも確認しています。

Photo by 山田井ユウキ

―― 運用の推進はどんな会議体で回していますか。

徳丸氏：　ヒヤリ・ハットも含め、インシデントがあれば随時私に共有されますが、会議としては、月1回の運用メンバーやCISO・CSIRTメンバーのミーティングと、四半期の情報セキュリティ委員会での会議ですね。情報セキュリティ委員会では、各部門の担当者や部門長と運用上の課題やヒヤリ・ハットを共有しています。

　一般的な企業と異なるのは、セキュリティも扱うグループなので経営層の意識が高いです。一方で、コストや運用負荷と折り合いを付けるのも必要なので、そのバランスを見ながら、過不足ない線を引いていきます。

　なお、インシデント発生時には、報告書を現場ではなく、業務のライン長でスピーディに作成する方式にしています。真面目で熱心な人ほど、フィッシングメールなどを踏んでしまうことがありますが、その姿勢自体は組織の強みだと捉えています。

生成AIと品質――動くことがゴールではない

――AIへの対応はいかがでしょう？

徳丸氏：　AIは以前から活用してきました。 イー・ガーディアンでは生成AI登場以前から、例えばSNSや投稿の監視の文脈でAIを使うサービスを提供してきました。セキュリティにおいても、最終的には人が確認しますが、AIでの一次チェックは前からやっています。

　一方でセキュリティの運用におけるAI活用は、まだ物足りないのが実感です。例えば、プログラムの脆弱性検知ソリューションでは、過検知・誤検知が多く、対象100に対してアラートが300出るようなケースもあります。正しい指摘も混じるけれど違うものも多いので、結局は人の手間が増える、という現実があります。

―― “バイブコーディング（Vibe Coding：細かい仕様を決めずに雰囲気の指示でAIに作成させるコーディング）”が話題です。開発品質をどう見ていますか。

徳丸氏：　最近では同じような指示を繰り返して「ガチャ」のように動くものが出てくるのを待つ手法まで見かけます。表面だけ動作するプロトタイプを素早く作る用途なら有効ですが、要件の充足や品質管理、特に例外処理は十分に検討されていないことが多いです。結果、脆弱性が残るリスクは小さくありません。

　そして品質保証に劇的なショートカットはありません。プロトタイピングは速くなっても、品質を守る作業はむしろ増えているというのが今の感覚です。生成AIは“銀の弾丸”ではないし、人による脆弱性診断は当面必要だと考えています。

　もしAIだけで脆弱性を大量発見できるなら、CVEの発行などで、その成果が世の中にもっと現れているはずです。ハイパースケーラー（GoogleやMicrosoft）のレベルでも、生成AIがオートマチックに脆弱性を見つけて修正という状況にはなっていない、少なくとも公知の成果としては極めて稀に見えます。現状は人の補助として活用する段階という理解です。

Photo by 山田井ユウキ

―― 脆弱性の傾向は、高度化していますか？

徳丸氏：　脆弱性を共有する仕組みは進んだ一方で、その内容が年々高度化しているとは言えません。むしろ古典的な脆弱性が増えている印象があります。

　背景として、フレームワークやAIの普及で、開発の基礎がおろそかになりやすいことを懸念しています。若いエンジニアは優秀で新しい道具を使いこなす一方、学習時間の制約から昔ながらの基礎が十分に伝わっていない場合があります。

現代のエンジニアにあった教材を準備

―― 今のエンジニアに基礎を伝えるにはどうすればよいのでしょうか？

徳丸氏：　今の現場に近い教材で説明して、実感を持ってもらうことでしょうね。

　例えば、最近流行りのSPA（Single Page Application）では、JavaScriptを使ってWebブラウザ側でコンテンツをコントロールしますが、APIの権限チェック設計が落とし穴になりがちです。

　具体的には、認可と実行を別APIで呼ぶようなフローにしてはいけません。一度目の認可用APIでNGが返されたとしても、それをクライアント側で書き換えて認証OKをもらったかのように見せかけて実行APIをリクエストすると通ってしまうことがあるためです。

　フローチャートでは正常系ばかりを考えがちですが、「クライアントは信用できない」という原則をAPI設計で徹底する必要があります。

　これは一例ですが、このような考慮漏れのアプリケーションを見かけることがよくあります。とはいえ、従来の古いWebアプリケーションの実装例だけでは実感が湧きにくいのも事実です。そういった声を受け、私が担当する大手企業の研修でも、先ほどのようなSPA版教材を作り直し、今の実装様式に合わせて教えるようにしています。

―― そもそも生成AIが出力するコードの品質は上がっていないのでしょうか？

徳丸氏：　公開されているWebアプリケーションに脆弱性が多い現実があり、生成AIはそうした資産を参照して学習しています。結果として、生成されるコードにも脆弱性が含まれやすいわけです。

　私がサンプルコードを作る際も、まず普通のプログラムをAIに作らせて、そこに意図的に脆弱性を埋める想定で進めますが、最初から脆弱性入りのコードが出力されることがよくあります。手間が省けて助かっていますが（笑）。

　プロンプトを工夫すれば安全になるという意見もありますが、不自然な実装になることが多いです。そうなるとまた確認が複雑になります。私は過度にプロンプトで縛らずに生成し、後で人がチェックして直すというのが、職人的ですが現在のところは確実で効率的なやり方だと思っています。とはいえ、進化がすごいので、もしかしたら数カ月も経てば、こうした状況も変わっているかもしれません。

―― 最後に、読者（開発・運用・経営）へのひと言を。

徳丸氏：　プログラムを作る立場の皆さんは「動けば良い」で終わらせないでほしいですね。やはり基礎は大事です。教える側も歩み寄る対応が必要でしょう。AIは活かすが、任せきらないという意識も必要ではないでしょうか。

　セキュリティは地道な作業の積み上げですが、新たな発見や理解することの面白さに溢れています。ぜひ楽しんでほしいですね。