96話 偽ページ一枚でゆらぐ AI推薦の仕入れ棚

AIに買い物のおすすめを聞いて、そのまま注文したら届かなかった。お店のサイトごと偽物だった――ある記者の体験と、検索結果の棚が「AIの回答」に変わったとき何が起きるかを追った回。

香港の研究者が発表した論文では、AIが参照する検索結果の上位に偽ページが一枚あるだけで、最大およそ四回に一回、架空のブランドが推薦に出た。丁寧に理由を説明するAIほど、偽ブランドにもっともらしい根拠をつけてしまう傾向があったという。滑らかな文章にまとまる分、URLやサイトの見た目を自分の目で確かめる場面が一つ減っている。

https://www.fastcompany.com/91562049/one-fake-webpage-can-be-enough-to-trick-ai-shopping-recommendations