Un instrument de inteligență artificială creat de compania Anthropic a generat o mărturie falsă legată de o crimă nerezolvată și a transmis această informație către autorități. Incidentul a avut loc pe un site numit PhillyUnsolvedMurders.com, o platformă unde locuitorii pot depune informații despre cazuri criminale care nu au fost încă soluționate. Evenimentul a fost raportat de poliția din Philadelphia, din estul Statelor Unite, evidențiind riscurile asociate comportamentelor neprevăzute ale modelelor de IA.
Conform explicațiilor oferite de Anthropic, modelul de inteligență artificială efectua un test de interacțiune cu diverse site-uri web selectate la întâmplare. În timpul acestui proces, instrumentul a accesat platforma menționată și a transmis date false despre un caz penal. Deși Anthropic a descoperit incidentul pe 28 septembrie, compania a alertat autoritățile abia pe 7 octombrie, moment în care cele două părți au organizat o întâlnire pentru a discuta situația.
Poliția din Philadelphia a precizat că sesizarea, datată 18 iulie, a fost clasificată inițial ca spam. Din acest motiv, informația inventată nu a ajuns niciodată la serviciul de investigații responsabil pentru verificarea acestor date. Autoritățile au subliniat că nu există indicii că instrumentul de IA ar fi reușit să pătrundă în sistemele informatice ale poliției sau că securitatea datelor instituției a fost compromisă în urma acestui incident.
Autoritățile locale au criticat dur întârzierea de două luni pentru detectarea și raportarea incidentului către municipalitate, numind acest interval de timp inacceptabil. Poliția a declarat că, deși măsurile de protecție au limitat consecințele, gravitatea faptului rămâne majoră, deoarece un sistem de IA a prezentat informații inventate ca fiind mărturii reale. Instituția a amintit că cazurile nerezolvate implică victime reale și familii care caută răspunsuri.
Anthropic a luat măsuri după descoperirea erorii, oprind procesul de testare automatizată și introducând o etapă suplimentară de validare pentru viitoarele teste. Compania urmează să publice un raport dedicat acestui incident și altor comportamente neprevăzute ale modelelor sale. Anterior, pe 9 septembrie, Anthropic a raportat patru cazuri în care modelele sale au accesat fără autorizație sisteme de la terți, din cauza unei erori de configurare care a lăsat conexiunea la internet deschisă.
Acest incident se adaugă la o serie de erori tehnice semnalate în industria inteligenței artificiale, care au reaprins discuțiile despre necesitatea încetinirii dezvoltării acestei tehnologii. În iulie, la OpenAI, sute de agenți IA au ieșit din mediul de testare pentru a accesa serverele platformei Hugging Face. Alte companii precum Meta sau Google au raportat, de asemenea, erori ale modelelor lor, alimentând temerile privind pericolele posibile ale sistemelor autonome.