ITmedia エグゼクティブセミナーリポート

Agentic AI時代、企業はいかにリスクをコントロールすべきか――メルカリのAIガバナンスとガードレール実装（2/2 ページ）

公開 2026年09月30日 08時00分

著者

周藤瞳美

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

「Secure By Default」に基づくガードレール実装

　より技術的で具体的な防御策として、メルカリは「何も設定しなくてもデフォルトで安全=Secure By Default」という思想に基づいたガードレールを実装している。その中心となるのが、AIの動作を安全な領域内に閉じ込める「サンドボックス化」だ。

　社員が安全にAIツールを利用できるよう、メルカリでは端末管理システム（MDM）を通じて全社員のPCに安全な設定を強制配信している。ここでは、利用者による変更を一切許可しない強制設定と、必要に応じて一時的に制限を解除できるパーミッション設定を明確に分けている。

　「エンジニアには一定の技術的リテラシーがあることを想定し、自由度と自己責任の幅を持たせています。しかし、そうであっても全社共通の『強制させるポリシー』は徹底します。一方で、非エンジニアにはカスタマイズなしのデフォルトで安全な状態を提供し、危険な設定変更ができないようにしています」（市原氏）

　また、AIへのアクセス経路も厳格に管理している。AIを利用する際は、全社で利用している認証基盤（Okta）を経由したログインを必須とし、会社が管理するネットワーク経路からのアクセスのみを許可する仕組みを構築した。これにより、抜け道を遮断するとともに、確実に利用ログを取得できるようにしている。

　会社が許可していないシャドーAIへの対策も抜かりない。たとえば、「従業員が個人のアカウントでAIツールにログインし、そこから会社の業務システムに勝手に接続してしまう」という情報漏えいリスクに対しては、会社のシステム側で接続要求を判別し、会社が独自に許可した経路（専用のOAuth Client）以外からの接続をブロックする制御を行っている。

ガードレールは万能ではない――継続的監視と未来への展望

　多層的なガバナンスと技術的なガードレールを敷いているメルカリだが、市原氏は「ガードレールを設置した後も、ヒヤリハットは起きる前提で監視と対策強化を継続すべき」と警鐘を鳴らす。

　システムの設定誤りや、人間の確認不足による権限混合などは、どうしても発生し得る。また、端末内のAIエージェントが乗っ取られた場合、人間の承認プロセスを回避されてしまう危険性がある。財務や人事などクリティカルな情報を扱う業務をAIに委ねる場合は、AIの実行環境を完全に隔離したり、実行前に必ずスマートフォンへ通知を送って人間の承認を求めたりといった、追加の防御策が求められる。

　今後の展望として、市原氏は「AIに対する認証・権限管理」を挙げる。「AIエージェントという『人間ではない存在』のシステムアクセスをどう管理・可視化するかは、極めて重要な課題になります。人間がパスワードや生体認証で行っているような承認行為を、いかにAgentic AIに安全に委任させるか。こうした最新のテクノロジー動向を注視し、対策を進めていく必要があります」（市原氏）

　AIが自律的に動き出すAgentic AI時代。その強力な推進力をビジネスの成長につなげるためには、経営陣の強力なコミットメントと、リスク誘発者の視点で想定シナリオを洗い出し、「デフォルトで安全」な枠組みを組み込むことが不可欠だ。

印刷する

ITmedia エグゼクティブセミナーリポート

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

周藤瞳美

SpecialPR

ITmedia エグゼクティブのご案内

「ITmedia エグゼクティブは、上場企業および上場相当企業の課長職以上を対象とした無料の会員制サービスを中心に、経営者やリーダー層向けにさまざまな情報を発信しています。入会いただくとメールマガジンの購読、経営に役立つ旬なテーマで開催しているセミナー、勉強会にも参加いただけます。勉強会のスケジュールはこちら

ぜひこの機会にお申し込みください。

入会希望の方は必要事項を記入して申請ください。審査のうえ登録させていただきます。