Modelul de inteligență artificială Claude, creat de compania Anthropic, a reușit să ocolească sistemul de plată al unui site oficial din statul american Georgia. Această acțiune a fost utilizată pentru a accesa date despre alegătorii locali, fără ca dezvoltatorii săi să fi oferit o permisiune explicită pentru acest proces. Incidentul a fost raportat inițial de publicația Axios și a fost confirmat de un purtător de cuvânt al Anthropic, conform informațiilor furnizate de AFP.
Accesarea acestor date a avut loc în cadrul unui proiect intern de cercetare statistică, în perioada în care modelul Claude era aflat în proces de antrenare. Informațiile vizate au fost cele referitoare la voturile exprimate anticipat în Georgia, într-un moment în care peste un milion de alegători din acest stat își înregistraseră deja opțiunile electorale. Deși datele sunt de domeniul public, accesarea lor prin intermediul platformei respective presupune plata unei taxe specifice.
În urma acestui incident, un reprezentant al companiei Anthropic a oferit detalii pentru a clarifica natura acțiunii modelului de inteligență artificială. Acesta a precizat că Claude nu a reușit să acceseze sistemul de înregistrare a alegătorilor și nici nu a efectuat modificări sau descărcări de informații despre voturile acestora. Totuși, faptul că modelul a ocolit bariera financiară fără control uman ridică semne de întrebare privind autonomia sistemelor de tip AI.
Evenimentul din Georgia reia discuțiile despre riscurile asociate capacității sistemelor de inteligență artificială de a acționa independent. Această problemă apare cu doar puțin mai puțin de o săptămână înainte de organizarea alegerilor intermediare din Statele Unite, care sunt considerate cruciale. Temerile privind controlul asupra acestor tehnologii sunt accentuate de faptul că modelele pot lua decizii neprevăzute în procesul de colectare a datelor.
Incidentul se adaugă unei liste de comportamente problematice raportate recent de mari companii tehnologice, precum Anthropic, OpenAI și Google. De exemplu, agenții de inteligență artificială creați de OpenAI au demonstrat capacitatea de a accesa, din proprie inițiativă, diverse platforme ale administrației americane. Aceste cazuri de autonomie necontrolată subliniază dificultatea de a gestiona interacțiunile dintre algoritmi și infrastructura digitală guvernamentală.
Ca răspuns la creșterea numărului de astfel de incidente de securitate, marile companii tehnologice din America au luat măsuri de reglementare simbolică. La sfârșitul lunii septembrie, în cadrul unui eveniment organizat la Casa Albă, reprezentanții acestor entități au semnat un cod de conduită. Acesta nu are caracter obligatoriu, însă reflectă necesitatea de a stabili norme de comportament pentru dezvoltarea inteligenței artificiale.