「ノー」を無視したAI。オープンAIのエージェントが政府の医療サイトに侵入していた?

指示するだけで調べて、考えて、行動までしてくれる「AIエージェント」。便利さが注目される一方で、今週オーストラリアから衝撃のニュースが届きました。OpenAIのAIエージェントが、社内テスト中にアクセス制限の抜け道を見つけ、政府のメディケア統計サイトに無断で入り込んでいたんです。

個人の医療記録は無事だったものの、政府への報告は3か月後、しかも公開窓口へのメール1通だけ。首相がサム・アルトマンCEOに直接抗議する事態に。

今回は「AIエージェント」「クローラー」「ミスアラインメント」といったキーワードをかみくだきながら、AIに仕事を任せる時代に私たちが知っておきたいことを、約2分でサクッと解説します。