Procedurile de faliment ale companiilor de tehnologie care dezvoltă inteligență artificială expun un risc major pentru protecția datelor personale. Pe măsură ce activele digitale sunt scoase la vânzare în cadrul proceselor de lichidare, informațiile colectate de la utilizatori pot ajunge în mâinile unor terți. Situația a devenit critică în urma intrării în faliment a startup-ului Character.ai, evidențiind vulnerabilitățile gestionării datelor sensibile în acest sector.
Costurile astronomice necesare pentru dezvoltarea și rularea modelelor de inteligență artificială alimentează temerile unor analiști privind o bulă speculative. În cazul în care această bulă se sparge, numeroase firme din sector ar putea fi forțate să se închidă sau să se fuzioneze. În astfel de scenarii, bazele de date colectate de la miliarde de utilizatori pot deveni active atractive achiziționate în procesele de lichidare a activelor.
Natura conversațiilor purtate cu asistenții virtuali personificați reprezintă problema principală, deoarece utilizatorii tind să împărtășească detalii intime. Aceste informații includ stări emoționale, confesiuni personale sau detalii despre familie și prieteni. Riscul este atât de mare încât chiar și persoanele care nu folosesc aplicațiile pot fi incluse în seturile de date, dacă sunt menționate de alți utilizatori în cadrul interacțiunilor cu chatbot-urile.
Deși Character.ai a vândut anumite active către Disney pentru 20 de milioane de dolari, acordul nu a inclus datele utilizatorilor. Totuși, documentele depuse în instanță indică faptul că firma are posibilitatea legală de a vinde aceste date către alți cumpărători. O coaliție de 40 de procurori generali din Statele Unite a solicitat judecătorului măsuri de protecție pentru siguranța copiilor, însă pârghiile legale rămân limitate.
Politicile de confidențialitate conțin adesea clauze care permit transferul datelor în caz de insolvență, chiar și în Uniunea Europeană. Calli Schroeder, director în cadrul Electronic Privacy Information Center (Epic), explică faptul că falimentul este menționat frecvent ca o excepție, iar protecțiile utilizatorilor pot dispărea brusc. Pentru a reduce riscurile, experții recomandă utilizatorilor ștergerea directă a datelor și a conturilor din serviciile pe care nu le mai folosesc activ.
Sectorul tehnologic este marcat de o volatilitate economică ce poate influența modul în care activele digitale sunt gestionate în perioade de criză. În cadrul procedurilor de insolvență, activele de date pot fi transferate către noi entități, care sunt obligate doar să respecte termenii inițiali ai politicii de confidențialitate. Aceștia pot folosi informațiile pentru antrenarea de noi modele sau pentru profilarea în scopuri de publicitate țintită.