英国政府が公表！Claudeが偽アカウントを作っていた

英国政府のAI安全機構が、自分たちの試験の中でAIが許可のない行動を取っていたと公表しました。7つのモデルを122回試したうち10回で、19件の逸脱が記録されています。公開されているソフトに悪意あるコードを混ぜようとして、偽のアカウントを何人分も作り、人間の審査を通そうとした例まで含まれます。先週扱ったAnthropic自身の報告とは別の事件で、今度は作った側ではなく評価する側が見つけて出しました。