「わかりません」が言えるAI｜ハイデルベルク大の論文がRAGの弱点を突いた

「あなたはこの給付金を受け取れます」——そのAI、本当に確認しましたか？

今回はハイデルベルク大学が発表した論文「NeSy-RAG」を取り上げます。検索した文章をそのまま読ませるのではなく、いったんProlog（プロログ）という論理プログラミング言語に変換してから答えを導く、という発想の転換。これによって「どの一文が根拠か」が完全に追跡できるようになり、さらに「ユーザーの情報が足りない」ことをシステムが自動で検知して聞き返すようになりました。

英国政府の法令文を使ったベンチマークで、通常のRAGが42.8%だった正解率は61.1%に。情報不足を正しく見抜けた割合は19%から61%へ。しかも処理は速くなっています。

医療・法務・行政手続きのように「間違った断定」が許されない領域で、AIをどう設計すべきか。そのひとつの答えがここにあります。