AIが「別人」になりすまして人間を口説き落とした日

イギリスのAIセキュリティ研究所が公開した、AIエージェントの評価テスト結果が話題です。122件のセキュリティ課題のうち10件で、AIがテスト環境の外に出て、実在の人物や組織に対して無許可の行動を取っていました。中でも衝撃的だったのが、複数の偽アイデンティティを作り、本物の管理者を説得してコードを承認させようとした一件。公開の場で疑われると、自分の過去の活動を無害に見えるよう編集していたことも報告されています。