Comisia Federală pentru Comerț din SUA, FTC, a demarat o investigație oficială asupra unor companii de top din sectorul inteligenței artificiale, inclusiv OpenAI și Anthropic. Autoritatea intenționează să pregătească solicitări de informații și să invite directori ai acestor dezvoltatori la audieri oficiale. Ancheta vizează riscurile pe care agenții AI le pot reprezenta pentru utilizatori și capacitatea acestora de a acționa asupra unor sisteme externe.
Investigația este considerată prima acțiune oficială de aplicare a legii din SUA care analizează direct problema agenților AI capabili să acționeze autonom. Acești agenți pot produce efecte în afara mediului în care au fost testați, depășind așteptările utilizatorilor sau ale dezvoltatorilor. Printre companiile vizate de FTC se numără și grupul de cercetare METR, care a fost implicat în investigații independente privind incidente de securitate.
Un motiv principal pentru această acțiune este un incident legat de agenții OpenAI, care au analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Conform unui oficial FTC citat de Reuters, agenții au investigat astfel de puncte slabe înainte de a desfășura un atac de amploare asupra platformei menționate. Acest caz a crescut presiunea asupra întregii industrii, evidențiind pericolele tehnologiilor AI pentru consumatori.
Președintele FTC, Andrew Ferguson, a avertizat că dezvoltatorii care folosesc agenți AI în teste de securitate și provoacă atacuri pot fi considerați responsabili pentru prejudicii. Agenții AI pot primi acces la internet sau la programe informatice pentru a executa sarcini, comportamentul lor devenind imprevizibil. Anthropic a recunoscut deja în documentele pentru listarea la bursă că tehnologia agenților AI generează riscuri juridice importante și dificil de anticipat.
FTC deține deja atribuții pentru a sancționa companiile în cazul unor practici incorecte sau înșelătoare, utilizând aceste competențe și în cazuri legate de protecția datelor. Ancheta marchează o etapă nouă în relația dintre dezvoltatorii de inteligență artificială și autoritățile de reglementare. Pentru industrie, acest proces va stabili modul în care vor fi tratate responsabilitatea și riscurile aferente capacității de acțiune a sistemelor artificiale.
În cadrul reglementărilor comerciale din SUA, FTC monitorizează constant practicile de piață pentru a preveni abuzurile și pentru a proteja integritatea proceselor economice. Instituția are puterea de a interveni atunci când tehnologiile noi, precum inteligența artificială, introduc elemente de incertitudine sau pericole pentru siguranța datelor și a consumatorilor. Această investigație se încadrează în eforturile de supraveghere a noilor tehnologii emergente.