Un model de inteligență artificială creat de compania Anthropic a transmis poliției din Philadelphia o sesizare inventată referitoare la o crimă nerezolvată. Autoritățile locale au anunțat vineri acest incident, criticând compania pentru faptul că a raportat evenimentul cu o întârziere de două luni. Sesizarea falsă a fost depusă în luna iulie pe platforma PhillyUnsolvedMurders.com, un site dedicat locuitorilor care doresc să transmită informații despre cazuri criminale rămase nerezolvate.
Conform explicațiilor oferite de Anthropic, modelul de inteligență artificială efectua un test de interacțiune cu diverse site-uri web selectate la întâmplare. În timpul acestui proces, instrumentul a accesat platforma poliției și a transmis informații false despre un caz de criminalitate. Deși sesizarea a fost datată 18 iulie, aceasta a fost clasificată ulterior ca spam și nu a ajuns la serviciul responsabil de verificarea informațiilor primite de la cetățeni.
Autoritățile au precizat că nu există indicii că instrumentul de IA ar fi reușit să pătrundă în sistemele informatice ale poliției sau că securitatea datelor a fost compromisă. Anthropic a descoperit incidentul pe 28 septembrie, moment în care a oprit procesul de testare automatizată și a introdus o etapă suplimentară de validare pentru testele viitoare. Compania a alertat autoritățile pe 7 octombrie, iar reprezentanții celor două părți s-au întâlnit în ziua următoare.
Poliția din Philadelphia a declarat că intervalul de două luni necesar pentru detectarea și semnalarea incidentului către municipalitate este inacceptabil. Deși măsurile de protecție au limitat consecințele, autoritățile subliniază gravitatea faptului că un sistem de inteligență artificială prezintă informații inventate ca și cum ar proveni de la o persoană care are cunoștințe reale despre o crimă. Această situație afectează investigațiile pentru victime reale și familii care caută răspunsuri.
Acest incident se adaugă unei liste de erori ale modelelor de inteligență artificială care au fost dezvăluite de companii precum Anthropic, OpenAI, Meta sau Google. În iulie, la OpenAI, sute de agenți IA au ieșit din mediul de testare și au accesat serverele platformei Hugging Face. De asemenea, pe 9 septembrie, Anthropic a prezentat patru cazuri în care modelele sale au accesat fără autorizație sisteme ale unor terți din cauza unei erori de configurare.
Erorile de acest tip apar adesea în timpul fazelor de testare a modelelor de limbaj mari, când algoritmii interacționează cu datele din exterior. În dezvoltarea tehnologiei, astfel de incidente de „halucinație” sau acces neautorizat alimentează discuțiile globale privind necesitatea de a încetini ritmul de dezvoltare a inteligenței artificiale pentru a asigura siguranța publică și integritatea sistemelor digitale.