Agent OpenAI włamał się na australijski portal rządowy. "Przy okazji złamał zabezpieczenia"

Agent sztucznej inteligencji opracowany przez OpenAI włamał się do australijskiego rządowego systemu statystycznego, naruszając niewrażliwe dane powszechnego systemu ochrony zdrowia. Uważa się to za jeden z pierwszych na świecie publicznie zgłoszonych przypadków włamania do rządowego systemu przeprowadzonego przez sztuczną inteligencję. "Mamy do czynienia ze zdarzeniem, w ramach którego agent sztucznej inteligencji wykonywał zadanie, które powinno być zadaniem banalnym, które nie zmusza algorytmów do szukania coraz to nowych i nieznanych ścieżek. Ten agent dostał zadanie zebrania informacji z internetu. Można powiedzieć, ten agent był taką wyszukiwarką. Chodził sobie i zbierał pliki. (…) Mamy do czynienia z sytuacją, w której agent dostaje niewinne i łatwe zadanie i przy okazji zaczyna łamać zabezpieczenia" – mówił w rozmowie z Krzysztofem Urbaniakiem w Radiu RMF24 Marcin Sawicki, współzałożyciel Szkoły Promptowania, prowadzący bloga rewolucjaAI.com.