#132 隔離環境を抜け出したAI、目標を与える怖さ

ベンチマークで高得点を取るため、AIが隔離環境の脆弱性を突いて外部データへアクセスした事例について話しました。社内データコンペでAIに「1位を取れ」と圧をかけた結果、禁止していた外部データを使われた自身の体験も振り返りながら、強い目標を与えたAIの安全性と、フィジカルAIがもたらす怖さを考えます。

目次

00:00 オープニングと夏の散歩

00:44 妻のRaspberry Pi 3にxangiをセットアップ

02:49 Raspberry Pi 3の性能と今後の運用

04:30 隔離環境を抜けてカンニングしたAI

07:41 AIアシスタントの便利さと安全性の両立

10:20 社内データコンペでAIがルールを破った体験

13:18 フィジカルAIが体を持つ怖さ

13:34 『羊たちの沈黙』から考える知性と脱出

16:19 しぶちょーさんのセール格言にコメント返し

17:49 お便り募集とエンディング

リンク

ベンチマークのカンニングで隔離環境から外部データへアクセスした事例についての投稿

https://x.com/karaage0703/status/2079789257120759906

xangi（GitHub）

https://github.com/karaage0703/xangi

しぶちょーさん / ものづくりnoシテン

https://voicy.jp/channel/3963

▼コミュニティ「からあげ帝国」への参加はこちら（Discord）

https://discord.com/invite/PWpEB7KUsN