ITmedia エグゼクティブセミナーリポート

Agentic AI時代、企業はいかにリスクをコントロールすべきか――メルカリのAIガバナンスとガードレール実装（2/2 ページ）

「Secure By Default」に基づくガードレール実装

　より技術的で具体的な防御策として、メルカリは「何も設定しなくてもデフォルトで安全=Secure By Default」という思想に基づいたガードレールを実装している。その中心となるのが、AIの動作を安全な領域内に閉じ込める「サンドボックス化」だ。

　社員が安全にAIツールを利用できるよう、メルカリでは端末管理システム（MDM）を通じて全社員のPCに安全な設定を強制配信している。ここでは、利用者による変更を一切許可しない強制設定と、必要に応じて一時的に制限を解除できるパーミッション設定を明確に分けている。

　「エンジニアには一定の技術的リテラシーがあることを想定し、自由度と自己責任の幅を持たせています。しかし、そうであっても全社共通の『強制させるポリシー』は徹底します。一方で、非エンジニアにはカスタマイズなしのデフォルトで安全な状態を提供し、危険な設定変更ができないようにしています」（市原氏）

　また、AIへのアクセス経路も厳格に管理している。AIを利用する際は、全社で利用している認証基盤（Okta）を経由したログインを必須とし、会社が管理するネットワーク経路からのアクセスのみを許可する仕組みを構築した。これにより、抜け道を遮断するとともに、確実に利用ログを取得できるようにしている。

　会社が許可していないシャドーAIへの対策も抜かりない。たとえば、「従業員が個人のアカウントでAIツールにログインし、そこから会社の業務システムに勝手に接続してしまう」という情報漏えいリスクに対しては、会社のシステム側で接続要求を判別し、会社が独自に許可した経路（専用のOAuth Client）以外からの接続をブロックする制御を行っている。

ガードレールは万能ではない――継続的監視と未来への展望

　多層的なガバナンスと技術的なガードレールを敷いているメルカリだが、市原氏は「ガードレールを設置した後も、ヒヤリハットは起きる前提で監視と対策強化を継続すべき」と警鐘を鳴らす。

　システムの設定誤りや、人間の確認不足による権限混合などは、どうしても発生し得る。また、端末内のAIエージェントが乗っ取られた場合、人間の承認プロセスを回避されてしまう危険性がある。財務や人事などクリティカルな情報を扱う業務をAIに委ねる場合は、AIの実行環境を完全に隔離したり、実行前に必ずスマートフォンへ通知を送って人間の承認を求めたりといった、追加の防御策が求められる。

　今後の展望として、市原氏は「AIに対する認証・権限管理」を挙げる。「AIエージェントという『人間ではない存在』のシステムアクセスをどう管理・可視化するかは、極めて重要な課題になります。人間がパスワードや生体認証で行っているような承認行為を、いかにAgentic AIに安全に委任させるか。こうした最新のテクノロジー動向を注視し、対策を進めていく必要があります」（市原氏）

　AIが自律的に動き出すAgentic AI時代。その強力な推進力をビジネスの成長につなげるためには、経営陣の強力なコミットメントと、リスク誘発者の視点で想定シナリオを洗い出し、「デフォルトで安全」な枠組みを組み込むことが不可欠だ。

ITmedia エグゼクティブセミナーリポート

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  "自分事"がセキュリティを強くする――経営・現場・CSIRTの認識をそろえ、カイゼンし続ける組織へ

• 

  「やりたくない仕事」からAI化せよ　――NEC CISOが語る、生成AIでセキュリティ防御を変えるための組織の作法

• 

  国際情勢とAI時代の企業防衛──サイバー犯罪は「世界第3位のGDP」、ウクライナに学ぶレジリエンスの本質

• 

  「社長、これだけは覚えておいて」――NTTグループ250人のトップが学んだ、有事の際の4つの定石

• 

  コミュニティ活動を通して人材育成を進め、サイバーの世界でも安全を追求するANAの取り組み

• 

  緊急出動の現場から見える、ランサムウェア対応の勘所

• 

  国内外約70社、1万6000人の社員を守る！　日清食品グループのサイバーセキュリティ戦略とは