自律型AIエージェントは、世界中に1,000人の部下がいる状態に似ている——マネジメントできない部下を増やしても、組織は強くならない

AIはすごい。それは本当です。僕も毎日使っていますし、コレドウはAIが伴走するシステムを作っている会社です。

でも、実際に使っていると、そこまで万能ではない。この話をすると、だいたい怪訝そうな顔をされます。AIの会社の人が、何を言っているんだと。

だから一度、ちゃんと書いておこうと思います。AIのどこがすごくて、どこがそうでもなくて、だから僕らはAIをどこに置いたのか。

コンテキストを増やせば、賢くなるのか？

なりません。少なくとも、僕らが期待するほどには。

AIに仕事を任せようとすると、まず「必要な情報を全部渡そう」と考えます。社内の資料、過去のやりとり、判断の基準。渡せば渡すほど賢くなるはずだ、と。

渡してみると分かりますが、僕らが「こんなに渡した」と思う量は、その仕事に本当に必要な情報群から見れば、まだ少ないんです。人が1つの判断をするとき、背景には何年分もの経験と、言葉にしていない前提と、その場の空気があります。それを全部文章にして渡すことはできないし、渡せたとしても、AIはそれを人と同じ重みで扱いません。

結果として、AIは「渡された範囲では正しい」けれど「現実には外れている」答えを、自信を持って返してきます。これが万能に見えて万能ではない、の正体だと思っています。

自律型エージェントは、なぜ作っては、やめるのか？

僕は、自律型のAIエージェントを何度か作ろうとしています。何かを任せて、勝手に判断して、勝手に動いてくれる存在です。そして、毎回やめています。

直近で作ろうとしたのは、マーケティングからインサイドセールスまでを担うAIです。見込み客を見つけて、相手に合わせて文面を書いて、送って、反応を見て、次の一手を打ち、商談の手前まで温める。問い合わせを増やすための一連を、人の手を離れて回し続ける存在を、本気で作ろうとしました。

やめる理由は、だいたい2つのどちらかです。

一つは、作り始めてみると「これは自律型エージェントでやるより、システム化して仕組みの中でやったほうがいい」と分かること。判断の分岐を書き出していくと、ほとんどがルールで書けてしまう。ルールで書けるものをAIに判断させる理由はありません。遅いし、ぶれるし、説明できない。

もう一つは、本当に判断が要る領域に絞ったとき、コスパが合わなくなること。使い物になる範囲まで渡す権限を減らしていくと、対応できる範囲も狭くなる。狭い範囲のために設計と監視の手間をかけるなら、人がやったほうが早くて安い。

このAIも、この2つに割れました。リストを作る、送る、反応を記録する、期限が来たら追う。ここは全部ルールで書けるので、仕組みにしました。残ったのは「この相手に、いま、何を書くか」という判断だけで、そこをAIに任せると、結局は人が送る前に全部読むことになる。読むなら、最初から人が書いたほうが早い。いまは、AIが下書きと仕分けをして、送るかどうかは人が決める形に落ち着いています。自律型ではありません。

つまり、「仕組みにできるならAIは要らない」か、「AIでしかできない領域は、AIに任せると高くつく」か。自律型エージェントが本当に効く場所は、この2つの隙間にしかなくて、その隙間は思ったより狭い。これが、作っては、やめてきた僕の実感です。

「スーパーなAIがあれば何でも作れる」は、どこかで聞いた話

この話をしていて、既視感がありました。

「スーパーなエンジニアを雇えば、何でも作れる」。

10年ほど前、多くの会社がそう考えました。そして、自前でエンジニア組織を作ろうとして失敗し、結局は外注で回している会社が、いまも山ほどあります。優秀なエンジニアは確かにいた。でも、その人に何を作らせるかを決め、進み具合を見て、できたものを判断する側の組織がなかった。能力は買えても、能力を使う側の設計は買えなかった。

「スーパーなAIを使えば、何でも作れる」は、同じ話だと思っています。AIの能力は本物です。でも、何をさせるかを決め、出てきたものを見て、良し悪しを判断するのは人です。その側の設計がないまま能力だけ手に入れても、何も起きないか、起きたことを誰も把握できないかのどちらかになります。

自律型エージェントを増やすと、何が起きるのか？

それでも、エージェントを増やせば増やすほど成果が出る、という話はよく聞きます。僕はこう考えています。

自律型エージェントのアウトプットは、いまのところ、人がチェックしないと使えません。だとすると、エージェントを増やすというのは、こういう状態です。

世界中に、直属の部下が1,000人いる。時差があるので、24時間アウトプットが出続ける。

マネージャーとして、これをマネジメントできるでしょうか。できません。1,000人の部下のアウトプットを、1人で見ることはできない。見ないまま通せば、どこかで不具合が起きる。見ようとすれば、自分がボトルネックになって止まる。人の組織でも、AIの組織でも、同じです。

問題は、部下の能力ではありません。チェックする側のマネジメントのほうにあります。

「中間管理職AIを作ればいい」は、解決になるのか？

ここで、こう思う人がいると思います。それなら、中間管理職のAIを作って、そこにチェックさせればいい。

そうすると、次の問いが出ます。その中間管理職AIの教育は、どうするのか。何を良しとして、何を差し戻すのか、その基準は誰が決めて、誰が渡すのか。そして、中間管理職AIがチェックした内容を、誰がチェックするのか。

人の組織で考えれば分かります。新任のマネージャーに、いきなり全部の権限は渡しません。目標を決めて、やってもらって、途中で確認して、結果を見て、少しずつ任せる範囲を広げる。権限委譲は、信頼の蓄積でしか進みません。

AIには、この蓄積の仕組みがありません。昨日うまくやったエージェントが、今日もうまくやる保証がない。だから「完全に権限委譲できるか」と聞かれたら、いまの僕の答えは「できない」です。できない前提で設計するしかない。

では、AIはどこに置くのが正しいのか？

AIが本当に得意なことは、僕の見立てでは、かなりはっきりしています。

ロジカルであること。足りない情報を見つけて、それを埋める質問を作ること。そして、集まった情報をまとめて、読める文章にすること。この3つは、人より速く、人より安定してやります。

逆に言うと、それ以外は、そこまでではない。判断も、責任も、文脈の重みづけも、まだ人のほうが上です。

だからコレドウでは、AIをコーチ役に置きました。目標を立てる人に、足りない観点を質問する。「それは何のためにやるんですか」「どうなったら達成ですか」「本当にできますか」。答えが出そろったら、それを目標の文章にまとめる。評価のときには、期中に残った行動の記録を整理して、評価者が判断するための材料にする。

決めるのは人です。AIは、決める人の手前で、穴を見つけて、質問して、まとめる。これが、AIの得意なことと、組織が本当に必要としていることが重なる、いちばん広い場所だと思っています。

AIに部下を任せるなら、人の部下と同じ設計が要る

AIの話を長く書きましたが、言いたいことは、マネジメントの話と同じです。

能力のある部下を増やしても、目標がなく、途中で確認せず、評価の基準がなければ、組織は強くなりません。それは人でもAIでも変わらない。自律型エージェントを本気で組織に入れるなら、目標を決め、確認の頻度を決め、何を良しとするかを決め、任せる範囲を段階的に広げる。つまり、パフォーマンスマネジメントが要ります。

「AIはすごい」で止まっている間は、この設計は始まりません。「AIはすごいけれど、万能ではない」と認めたところから、どこに置くかの設計が始まる。僕が怪訝そうな顔をされながら、それでも言い続けているのは、そういう理由です。