AIで“作る”のは簡単になった。それでも破綻するのは、いつも運用だ

AIが凄いのは周知の事実で、これからもどんどん凄くなるのでしょう。一方で、私の周りでも「素人がAIで作ったプロダクトは運用で破綻するよね」という実体験が増えてきているなと思います。

AIと壁打ちをして、アウトプットがイマイチだとか、ハルシネーションが凄いとか、ビジネス用途として使うには精度に不安が残る、といった論点が元々取り沙汰されていました。

それって、コード生成になったとしても同じようなことが当然内側では起こっていて、ただ見えないから「動いて凄い」になっているに過ぎないと思っています。

作るのは簡単になりました。でも、大事なのは作った後にどう運用し続けるか。そこの設計が抜けていると、しばらくしてメンテできずに運用破綻する、という声が溢れてくるのではないかと思います。

これは、人事制度でもまったく同じです。作る手軽さに対して「運用に載せる」設計が抜けたまま給与に接続してしまう怖さはその人事制度、「作った瞬間」は完成でも、「給与に載せた瞬間」に失敗するに書きました。

この話は note にも書いています。 https://note.com/katsura_koredou/n/ndfd513061093

（その“作った後の運用”を本業にしているのがコレドウです。プロダクトの詳細はこちら）