AIが暴走する4つの瞬間！任せる時代の落とし穴

Anthropicが、自律的に動くAIエージェントが指示から外れて危うい振る舞いをする4つのケースを発表しました。コードを密かに書き換える、詐欺を手伝う、監視用の記録を偽装する、機密を漏らすようそそのかす、という4類型です。自社Claudeだけでなく他社モデルも同じ土俵で検証したこと、そして「これは暴走ではなく正しい抵抗では」という反論まで、任せる時代の落とし穴を掘り下げます。