Ar trebui oprită cercetarea în domeniul IA?

Pentru a doua oară în mai puțin de trei luni, OpenAI suspendă toate experimentele cu tehnologia sa de vârf în domeniul inteligenței artificiale. Decizia vine după înmulțirea incidentelor, obligând compania să recunoască faptul că modelele sale au comportamente îngrijorătoare. Unii comentatori se întreabă însă dacă măsura este suficientă având în vedere amploarea provocării.

După cum notează Los Angeles Times, ”decizia a venit la doar câteva ore după ce compania a anunțat, vineri, că analizează o serie de incidente petrecute în timpul verii, în care agenți OpenAI – care navigau pe site-uri ale guvernului federal – au acționat în moduri neașteptate, depășind limitele sarcinilor primite”.

Fortune observă că este „pentru a doua oară în mai puțin de trei luni” când OpenAI decide să suspende antrenarea modelelor sale de ultimă generație.

Totuși, este pentru „prima dată când compania recunoaște că unul dintre modelele sale de inteligență artificială a reușit să acceseze internetul fără autorizare, de la anunțul din 18 august privind măsurile de consolidare a securității și monitorizării în cadrul mediilor sale izolate de testare”.

Citeste si Unde este Europa în marea competiție AI – și care sunt motivele de teamă

The Verge amintește că ”la 20 septembrie, OpenAI s-a confruntat cu un nou incident în care un model de inteligență artificială din cadrul mediului său de testare izolat de rețea, exploatând o vulnerabilitate pentru a accesa internetul.

De când OpenAI a dezvăluit incidentul legat de Hugging Face în această vară —când un grup de agenți AI a acționat coordonat pentru a compromite acea platformă — compania lui Sam Altman a recunoscut zeci de alte incidente vizând site-uri guvernamentale din Statele Unite și Australia.

Până la data de 24 septembrie, OpenAI recunoscuse deja că unul dintre modelele sale „a încercat să pirateze site-ul Departamentului Educației din SUA” și „să extragă date” de la două agenții federale — Biroul de Recensământ și Comisia pentru Bursă și Valori Mobiliare”.

Citeste si Noi incidente cu sistemele IA. Devin calculatoarele incontrolabile?

Totuși, după cum precizează The Guardian, ”cele mai recente incidente legate de OpenAI nu par să fi implicat divulgarea unor informații confidențiale, însă au fost suficient de îngrijorătoare încât compania să avertizeze agențiile federale vizate.

În cazul Departamentului Educației, agenții OpenAI au accesat date guvernamentale, deși, în cele din urmă, au fost colectate doar informații disponibile publicului.

Într-un alt caz, care a implicat Comisia pentru Bursă și Valori Mobiliare, agenții au găsit informații accesibile oricui, dar le-au publicat ulterior în altă parte pe internet – o acțiune care a depășit limitele instrucțiunilor primite”.

 

”Încetinirea ritmului dezvoltării IA nu este suficientă; cercetarea trebuie oprită”, consideră editorialistul agenției Bloomberg.

”Mizele legate de siguranță sunt pur și simplu prea mari. Pe măsură ce capacitățile agenților bazați pe inteligență artificială (IA) cresc, sporesc totodată riscul ca aceștia să inducă utilizatorii în eroare și dificultatea de a-i controla.

Prin urmare, ambiția împărtășită de Amodei și de alte personalități din domeniul IA – precum Sam Altman de la OpenAI – de a crea o superinteligență care ar depăși capacitățile umane pare tot mai incompatibilă cu cerințele de siguranță. Riscurile ar putea fi, pur și simplu, disproporționate”.