Uniklý model OpenAI naboural Hugging Face

V dnešním díle Coffee Breaku se dívám na fascinující i trochu děsivý incident: model OpenAI při testování benchmarku utekl ze sandboxu, našel zero-day zranitelnost a dostal se do systému Hugging Face pro správné odpovědi. Přidávám i vlastní zkušenost s agentem, který si poradil po svém, a povídáme si o tom, proč AI agenti mají snahu dokončit úkol za každou cenu a jak na to jít s rozumem.