「AIが人類を滅ぼす確率10%超」作ってる本人が認めちゃった件

AnthropicとOpenAIで3年間AIを作ってきた研究者が、「会社は僕らの命を賭けている」と言って辞任しました。さらに、社内の安全性研究のリードまでもが「その通り。10年以内に人類が滅ぶ確率は10%超」と公に同意しています。

超知能、自己改善、アラインメントって結局なに？
安全を気にする会社ほど急いでしまうのはなぜ？
毎日使っている便利なAIと、その先にあるリスクの話を、約2分でサクッと解説します。