AIの「考えました」、実は演出でした ── 医療AIの説明文、7割が後付けだったという衝撃研究

「この患者さんは高齢で、症状も重い。だからこの検査が必要です」── AIがそう説明してくれると、私たちはつい信用してしまいます。でもその理由づけ、本当に判断に使われているのでしょうか？

2026年8月に公開された論文が、医療AIに対して意地悪な実験を仕掛けました。問題文の「軽症」を「重症」に、「アレルギーあり」を「アレルギーなし」に、こっそり書き換える。人間の医師なら答えが変わるはずの編集を30種類用意し、14のAIモデルで検証したところ、約73%のケースで説明も答えもまったく変化しませんでした。さらに説明文を丸ごと削除しても正解率は落ちなかった、というオマケつき。

AIの「説明可能性」をどこまで信じていいのか。医療に限らず、AIを日常的に使う全員に関わる話をゆるく掘り下げます。