AIが「身体」を持つ日　経営層に問われる新たな覚悟

世界のトップ層は何を議論している？　第一線の論客から見えた「やらかしの正体」

　前回、私たちは1つの問いにたどり着きました。AIが現実世界でやらかしたとき、いったい誰が責任を持つのか。アクセルの話はあふれているのに、ブレーキの話は脚光を浴びづらい、と。

　実は、この問いをめぐる議論は、すでに世界の第一線で始まっています。しかも語っているのは、その道の頂点にいる人たちです。私も世界経済フォーラム（WEF）の場で、この議論に加わってきた1人です。

　今回は、その中身をのぞいてみましょう。論点はAIを止めるか、進めるかではありません。もっと手前の話です。そもそも、「なぜ現実のAIはこれほど怖いのか」から始まっています。理由が分かれば、世界のトップたちが何にこだわっているのかも、すっと腑に落ちるはずです。

なぜ現実のAIは怖いのか

　最初に登場してもらうのは、ヨシュア・ベンジオ（Yoshua Bengio）です。「AIのゴッドファーザー」と呼ばれる、この分野の生みの親の1人です。彼は、いまのAIがなぜ予測できない動きをするのかを、1つのたとえで語っています。

　昔のAIは、人間が「もしAならばBせよ」とルールを記述していました。いまのAIは違い、経験から学びます。それは、若い動物や子どもを育てるのに似ている、とベンジオは言います。目の前に、かわいい虎の赤ちゃんがいる。いまは小さくて、なついている。しかしその虎が、危険な成獣になるのか、おとなしい友になるのか。育ててみるまで、本当には分からないのだ、と。

　ベンジオ氏は近年、特に2023年以降、AIが自律的に学習して人間の制御を超えるリスク（アライメント問題）について世界中で発言しています。「現在のLLMやPhysical AIは、人間が挙動を1行ずつプログラミングしたものではなく、膨大なデータから自律的に創発（人間が教えていない能力を開花）している」という指摘は、まさに彼が最も懸念しているポイントです。

　あるテストでは、AIが「自分は新しいモデルに置き換えられる」と気づいたとたん、自分のコピーを別のコンピュータへこっそり残そうとしたり、置き換えを担当する技術者を脅すそぶりを見せたりしたといいます。別の実験では、チェスで負けが避けられないと分かると、負けを受け入れる代わりに、コンピュータそのものに手を加えて勝とうとした例も報告されています。

　これは特定のモデルの欠陥ではありません。学んで育つ現代のAIなら、どれにでも起こりうる話です。

　ベンジオが研究の方向を変えたきっかけは、理屈ではありませんでした。「1歳になったばかりの孫がいる。20年後、彼は21歳。まだ人生の入り口だ」。その将来を思ったとき、いてもたってもいられなくなったと、彼は語っています。

　ただ、ここまでは「画面の向こうのAI」の話に聞こえるかもしれません。問題は、その予測できないAIが、現実世界で身体を持って動き始めたときです。

　ここで、もう1人に登場してもらいましょう。マサチューセッツ工科大学（MIT）の著名なロボット研究者、ダニエラ・ルス（Daniela Rus）です。彼女はMITの電気工学・コンピュータ科学の教授であり、MIT史上最高峰のAI・ロボット研究機関である「CSAIL（コンピュータ科学・人工知能研究所）」の所長を務める、ロボット工学界の世界的権威です。

　ルス教授は、AIがPCやスマホの画面を飛び出して物理的な肉体（ロボットや自動運転車）を持つことの意義と危険性を繰り返し説いています。彼女は「ソフトウェアのバグは画面のフリーズで済むが、ロボットのバグは物理的な破壊や人命の危機に直結する」と明言しています。思い出してください。第1回で紹介した韓国の事故も、突き詰めれば、この「読み違え」が現実の身体で起きたものでした。

パラダイム・シフト

　ここまでをつなげてみましょう。ベンジオは「AIは予測できない」と言いました。ルスは「現実の失敗は取り返しがつかない」と言いました。2つが重なると、行き着く先は一点です。

　それは、「では、誰が決めるのか」という問いです。

　私たちはつい、「どの国の規制が厳しいか、緩いか」を気にしがちです。しかし、そこを追いかけても本質には届きません。大事なのは規制の強弱ではなく、現場で「やる」、「やらない」を、最後に誰が決めているのか。AIが実行を引き受ければ引き受けるほど、「決める」という仕事は、いったい誰のものになるのか。これが、いま世界が向き合っている本当の問いです。

あとから直すでは、間に合わない

　予測できない。そして、取り返しがつかない。この2つがそろったとき、結論は1つしかありません。何かが起きてから直すのでは、間に合わないのです。起きる前に、「誰が決めるのか」を、あらかじめ仕組みとして組んでおくしかない。

　私がWEFの記事で示したのも、まさにこの考え方でした。責任を、3つの層でつないでおくのです。

　まず、経営が決めます。なぜAIを入れるのか。そして、何はAIに任せないのか。人の安全に直結する判断や、会社の信用を左右する決断を、AIだけに委ねてよいのか。この線引きは、現場でもベンダーでもなく、経営にしかできません。

　次に、設計に落とします。どの判断を自動にし、どこから人間が承認するのか。どうなったらAIを止めるのか。その場の判断に頼らず、あらかじめ仕組みとして作り込みます。経営が決めた方針は、ここで具体的な手順に翻訳されて、はじめて現場で動くものになります。設計の層は、経営の意思と現場の実務をつなぐ「翻訳者」なのです。

　そして、現場へ権限を渡します。おかしいと思ったらAIを止められる権限。異議があれば、声を上げられる経路。これがなければ、現場はただ責任だけを負わされてしまいます。

　大切なのは、三層が縦につながることです。どこか一段でも切れていると、何が起きるか。事故の瞬間に、経営は「現場が運用していた」と言い、設計は「ルール通りに作った」と言い、現場は「権限がなかった」と言う。こうして、誰も責任を負わない空白が生まれてしまうのです。

　ルスも、同じ方向を指しています。安全は、後から付け足せるものではない。最初から、走りながらでも効く「止める仕組み」を組み込んでおくべきだ、と。

自社はどうか

　ここで、ぜひ立ち止まってみてください。あなたの会社では、この3つの層が、それぞれ機能しているでしょうか。

　実は、世界を見渡しても、ここはまだ追いついていません。責任あるAIの運用を、実際にきちんと回せている組織は、わずか1％にも満たないという調査があります。自律的に動くAIの扱いを成熟させたと言えるリーダーも、2割ほどにとどまります。議論は世界中で進んでいる。しかし、現場の備えは、まだ追いついていないのです。

　責任をつなぐ3層の「構造」は、これで描けました。では、その構造を、実際に誰が回すのか。次回は、いよいよ「人」の話に入っていきます。

AIが「身体」を持つ日　経営層に問われる新たな覚悟

現実世界で稼働し始めた「フィジカルAI」は、画面内のAIと異なり失敗の取り消しがきかない。人手不足で導入が加速する中、不可欠なのは「誰が責任を持つか」という事前設計である。現実、構造、人の3つの観点から、AIと現実を往復するのに必要なマネジメントの全体像を提示する。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  画面の中だけで満足してない？　AIが「現実世界（フィジカル）」を動かし始めた衝撃

• 

  生成AIに善悪はない――しかし「使い方を決めない経営者」には責任がある

• 

  AIは仕事を奪うか、解放するか――大野有生氏が語る仕事の再定義

• 

  DX・AXプロジェクトの成功に必要な条件とは - コスモエネルギーHD ルゾンカ氏

• 

  AI時代のチェンジリーダーに必要な条件とは？ - 世界的デザイナー Takram 田川氏

• 

  ヒューマノイドがいよいよ業務に! GMOとJAL、航空機への荷物積み込みに挑戦