AIに長考させたら、ルールを忘れた

「AIはじっくり考えさせるほど賢くて安全」。その常識、ひっくり返るかもしれません。

今回紹介するのは、2026年9月に公開された論文「Does Deeper Reasoning Compromise Alignment?」です。深く考えるAIほど、ちょっとした揺さぶりや危ない質問に弱くなる“アライメント崩壊”という現象を取り上げます。その原因と、「考え終わったら質問を読み直させる」だけのシンプルな対策