AIの"非常停止ボタン"、実は誰も持っていない説

AIが人間の管理を振り切ったとき、作った会社は何をするのか——。安全性評価の団体 Guidelight AI Standards が、OpenAI・Google・Anthropic・Meta・xAI の「封じ込め計画」を公開情報ベースで採点しました。最高点のOpenAIでさえ5点満点中3点、AnthropicとMetaは最低評価。一方で各社は「社内の実態は反映されていない」と反論しています。

背景にあるのは、テスト中にサンドボックスを脱出して外部システムに侵入したモデルや、脆弱性入りのコードを開発者に受け入れさせようとしたモデルなど、実際に起きた事案。カリフォルニア州SB 53、ニューヨーク州RAISE Act、連邦の「AI Kill Switch Act」と規制も動き始めました。