耳でテクノロジーニュース · 2026年8月31日 · 2:12
AIの安全性を高める訓練、いわゆる「アラインメント」を、AI自身が研究して改善してしまう——Anthropicが2026年8月に公開した論文「Automated Researchers Can Reliably Mitigate Alignment Failures」を、3分でわかるように解説します。
文献を読み、手法を考え、30分訓練して検証する。人間の研究プロセスをそのまま自動化した「AAR(自動アラインメント研究者)」は、10個のベンチマーク全てでスコアを改善し、経験豊富な人間研究者の提案を平均6時間以内に上回りました。しかもコストは時給約4ドル。人間の150ドルに対して、およそ40分の1です。