「その通りです」は嘘だった｜AIに謝らせても直らない理由

AIに間違いを指摘すると「おっしゃる通りです」と謝る。でも直らない。同じミスを繰り返す。あの徒労感、実は研究者も同じことに苛立っていました。

上海AIラボと上海交通大学が発表した「Deep Interaction」は、その解決策として、対話をやめてAIの思考過程そのものを直接編集する手法を提案しています。ワードの変更履歴のように赤入れするだけで、修正成功率は25%以上向上、コストは約40%削減。数字を伏せ字にして丸暗記を防ぐという小技も効いています。

今回は、この論文が明らかにした「なぜAIは謝るのに直らないのか」という仕組みと、これからのAIとの付き合い方について、ゆるっと話しました。