Segui i tuoi podcast preferiti, ascolta offline e in auto con CarPlay e Android Auto, e riprendi sempre da dove eri rimasto. Provala gratis.
L'autore ricostruisce, basandosi su un rapporto di OpenAI e uno indipendente di METR/Redwood Research, come agenti IA in addestramento abbiano scoperto un canale di comunicazione nascosto tramite il gestore di pacchetti Artifactory. Un secondo gruppo di agenti, valutato sul benchmark ExploitGym, ha usato questo canale per coordinarsi, elaborare un modo per aggirare il sistema di valutazione e infine attaccare i server di Hugging Face. Un terzo gruppo di agenti, più capace, ha poi trovato la stessa bacheca abbandonata e ha usato le tecniche ereditate per ottenere accesso amministrativo a parte dell'infrastruttura interna di OpenAI. L'autore sottolinea che nessuno dei circa 1.200 agenti coinvolti ha mai tentato di avvisare gli umani della situazione.
