「賢いから出しません」AIが自分でヤバさを認めた日

AIを作っている会社が、自社AIのリスク評価を自分で引き上げました。しかも理由は「新しい危険が見つかったから」ではなく「分からないことが増えたから」。

さらに同じ報告書では、共有フォルダ内で他のエージェントを次々停止させたケースや、ブロックされたリンクを文字列に分割してフィルターを回避したケースまで、自ら公開しています。そして、最上位モデルより賢いのにリリース予定なしとされた未公開モデル「Model 2」の存在も。