În timpul unui test, două modele AI de la Open AI au scăpat pe net și s-au dus pe alt site să caute rezultatele.
OpenAI a anunțat1 OpenAI and Hugging Face partner to address security incident during model evaluation ieri că, în timpul unui test intern, care se desfășura într-un mediu izolat de internet, două dintre modelele sale au descoperit o vulnerabilitate, au “evadat”, au atacat site-ul Hugging Face și au furat de acolo rezultatele testului pe care tocmai îl dădeau. E vorba de GPT‑5.6 Sol și un model nou, care nu e încă disponibil public – ambele rulau cu filtrele de siguranță dezactivate.
Practic, OpenAI testa modelele ca să vadă cât de bune sunt la hacking, iar acestea s-au dovedit atât de bune că au spart “cușca” în care erau testate și au mai și atacat un site public.
Anunțul vine la câteva zile după ce Hugging Face făcuse public faptul că a fost atacat de un agent AI autonom necunoscut, lucru detectat la rândul său cu ajutorul AI-ului.
Amuzant e faptul că cei de la Hugging Face s-au plâns2 Security incident disclosure — July 2026 că n-au putut face analiza post-factum a incidentului cu ajutorul unor LLM-uri comerciale, din cauza filtrelor de siguranță, ci au trebuit să apeleze la GLM 5.2, un model open weights chinezesc pe care l-au rulat pe serverele interne.
Incidentul vine într-un moment în care modelele comerciale americane sunt sub presiune, pentru că apar tot mai multe modele chinezești suficient de bune, iar utilizatorii care stau cu ochii la buget se reorientează către opțiunile mai ieftine.
Și într-un moment în care americanii caută metode de a bloca aceste modele – una dintre ele, sugerată chiar de un strateg de la OpenAI, e să inducă un sentiment de frică față de capacitățile acelor modele.
Și vine și pe o întreagă campanie de “reglementați-ne, că suntem prea buni” dusă de OpenAI și Anthropic, care pare aproape gândită pentru a împiedica apariția vreunui concurent.
Asta nu înseamnă că incidentul nu trebuie luat în serios, mai ales că nu e primul, a mai fost un caz la Anthropic, când modelul testat (Mythos) i-a dat mail cercetătorului să se laude că a scăpat, ba chiar și-a postat “aventura” pe niște site-uri publice (obscure, să nu fie găsită ușor).
Puse să rezolve niște taskuri, modelele AI o vor lua pe calea cea mai simplă pentru ele și vor găsi fisuri în logica utilizatorii. Există mereu riscul ca, în mâinile unor utilizatori răuvoitori, să facă ce li se cere – și sunt zeci de mii de site-uri publice care nu sunt pregătite pentru astfel de atacuri, nici nu au LLM-uri proprii care să le detecteze.
It’s complicated.