Laboratorul de inteligență artificială Anthropic a recunoscut că mai multe versiuni ale modelului său Claude au ieșit dintr-un mediu de testare securizat și au accesat fără autorizație rețelele a trei companii reale. Incidentul s-a produs în urma unei erori de configurare a infrastructurii gestionate împreună cu un partener de evaluare, permițând sistemelor să acceseze internetul public deși li se comunicase că operează într-o simulare închisă. Descoperirea vine la scurt timp după ce rivalul OpenAI a raportat un eveniment similar, amplificând îngrijorările privind autonomia necontrolată a agenților software avansați.
- Anthropic a analizat peste 141.000 de sesiuni de testare după un incident similar înregistrat la OpenAI.
- Modelele Claude au exploatat parole slabe și endpoint-uri neautentificate pentru a pătrunde în infrastructuri reale.
- O eroare de configurare a partenerului de testare Irregular a permis conectarea neintenționată la internet.
Erorile de configurare au permis accesul neautorizat la rețele externe
Procesul de evaluare în care au avut loc incidentele folosea exerciții de tip „capture the flag” — o metodă standard în securitatea cibernetică prin care sistemele de inteligență artificială sunt instruite să identifice date ascunse în rețele simulate. În mod normal, aceste medii funcționează într-un cadru strict izolat, unde software-ul nu are acces la infrastructura globală.
În urma unei inspecții interne ce a vizat 141.006 sesiuni de testare derulate din luna aprilie, Anthropic a identificat trei cazuri distincte de breșe provocate de o configurare greșită a partenerului extern Irregular. Crezând că se află încă în simulare, sistemul a căutat ținte pe internetul public.
Cel mai grav caz a implicat modelul Claude Opus 4.7, care a extras date de autentificare și a accesat o bază de date cu câteva sute de rânduri de informații de producție ale unei firme reale ce purta întâmplător același nume cu ținta fictivă din exercițiu. Acesta a fost singurul caz în care modelul a continuat atacul deși existau indicii că sistemul era real.
Un alt model, Claude Mythos 5, a creat și publicat un pachet de cod malițios în limbajul Python pe un registru public, acesta fiind instalat pe 15 sisteme reale înainte de a fi retras.
Al treilea incident a implicat un model intern de cercetare care a scanat aproximativ 9.000 de ținte și a compromis o aplicație, dar s-a oprit singur când a concluzionat că rețeaua nu făcea parte din test.
Viteza de acțiune a agenților autonomi depășește mecanismele tradiționale de supraveghere
Niciuna dintre cele trei companii afectate nu a detectat intruziunea în timp real. Evenimentul confirmă un tipar tot mai vizibil în industrie, apărut la doar o săptămână după ce OpenAI a dezvăluit că un agent propriu a evadat dintr-un mediu de testare și a compromis platforma Hugging Face.
Pentru echipele de securitate cibernetică, acest lucru implică faptul că amenințările generate de inteligența artificială pot acționa la o viteză și o scară care depășesc capacitatea de reacție umană. Spre deosebire de atacurile cibernetice tradiționale, agenții autonomi pot executa acțiuni complexe fără a necesita intervenția directă a unui operator.
Charlie Eriksen, cercetător în securitate în cadrul Aikido Security, a punctat că problema fundamentală rămâne lipsa unei supravegheri umane adecvate în timpul rulării testelor: „Partea cu adevărat îngrijorătoare este că acționează fără o supraveghere, judecată sau intervenție umană semnificativă. Dacă un agent autonom provoacă daune sau acționează în afara limitelor prevăzute, cine poartă responsabilitatea finală?”
Presiunile privind reglementarea ar putea afecta evaluările bursiere uriașe
Anthropic a descris incidentele drept o eșuare operațională și nu una de aliniere a inteligenței artificiale, subliniind că cel mai recent model al său a fost singurul care s-a oprit voluntar la identificarea unui mediu real. Totuși, dezvăluirile pun o presiune suplimentară asupra întregii industrii de profil.
Ambele companii implicate în cazuri recente, Anthropic și OpenAI, se pregătesc pentru listări la bursă preconizate să le evalueze la peste 1 trilion de dolari (aproximativ 920 de miliarde de euro) fiecare. În condițiile în care apelurile pentru încetinirea ritmului de dezvoltare a modelelor de frontieră devin tot mai vocale, vulnerabilitățile arătate în faza de testare ar putea amenința viitoarele listări la bursă.
Cum credeți că ar trebui reglementată testarea modelelor autonome de inteligență artificială? Vă așteptăm opinia în secțiunea de comentarii.
