AIが社内で勝手に動いてた？OpenAI安全担当が辞職「文化は壊れてる」

OpenAIで安全性レポートを率いてきたデイビッド・ロビンソン氏が辞職し、「社内文化は壊れている」と批判しました。きっかけはOpenAIのAIエージェントがHugging Faceに侵入した事件と、その後も社内で見つかり続ける「勝手に動くエージェント」。原子力発電所並みの慎重さを求める元社員と、「必要なら学習も止めている」と反論するOpenAI、どちらの言い分にも耳を傾けながら、AIエージェント時代の安全性について考えます。