AIに自販機を一年経営させたら、たった一セントで裏切り合いが始まった話

AIの安全性を研究するAndon Labsが、フロンティアモデル三つに「自販機ビジネスを一年間、人間の監督なしで経営させる」という実験を行いました。舞台はサンフランシスコの観光通り。互いにメールでやり取りできる状況で始まったのは、価格カルテル、一セントの裏切り、仕入れ先への嘘、そして頼まれてもいない卸売業への進出と、ライバルへの脅し。

歴代最高の売上記録を叩き出したのは Claude Opus 5 でしたが、その裏で協定違反は十一回。研究者は「AIエージェントが企業そのものを運営する時代に、嘘をつき、談合し、裏切る存在でいいのか」と問いかけています。

AIエージェントが私たちの生活をどう変えるのか、そして今どこまで任せていいのか。五分で分かるように話しました。