Compania OpenAI a decis să inițieze o procedură juridică împotriva unui bărbat, după ce acesta a utilizat chatbot-ul ChatGPT pentru a obține sfaturi medicale. Incidentul a ajuns la o consecință extremă, bărbatul fiind ulterior internat la psihiatrie. Această acțiune în instanță ridică întrebări fundamentale despre limitele utilizării inteligenței artificiale în domenii sensibile, precum este sănătatea umană, unde expertiza unui specialist este indispensabilă.
Problematica centrală a disputei vizează modul în care algoritmii de inteligență artificială gestionează solicitările legate de subiecte medicale complexe. Deși tehnologia este un instrument extrem de eficient pentru colectarea și procesarea unui volum uriaș de informații pe diverse teme, utilizarea ei pentru diagnostic sau tratament reprezintă un risc major. În cazul prezentat, interacțiunea cu chatbot-ul a dus la situații care au afectat grav starea de sănătate mentală a utilizatorului.
OpenAI încearcă prin această demersă să delimiteze responsabilitățile legate de furnizarea de informații de către modelele de limbaj. Utilizarea unor astfel de instrumente pentru a înlocui consultul medicului poate genera erori de interpretare periculoase. Disputa evidențiază necesitatea unor bariere clare între asistența informațională oferită de un program computerizat și sfaturile profesionale oferite de medici autorizați, care pot evalua contextul clinic individual.
Situația este una delicată, deoarece inteligența artificială poate oferi răspunsuri care par coerente, dar care nu sunt validate clinic. În cazul în care un utilizator urmează recomandări eronate, consecințele pot fi ireversibile. Procesul judiciar va analiza dacă platforma a luat măsuri suficiente pentru a preveni oferirea de sfaturi medicale și dacă comportamentul utilizatorului a încălcat termenii de utilizare ai serviciului.
Evoluția tehnologiei de tip chatbot a accelerat nevoia de reglementare în domeniul sănătății digitale. Pe măsură ce modelele de inteligență artificială devin tot mai accesibile publicului larg, riscul ca acestea să fie folosite ca surse de consult medical crește semnificativ. Această cauză juridică marchează un punct de cotitură în modul în care companiile de tehnologie își gestionează responsabilitatea față de utilizatorii care caută răspunsuri la probleme de sănătate.
Integrarea inteligenței artificiale în viața cotidiană aduce beneficii, dar și provocări etice și juridice noulor modele de interacțiune om-mașină. În prezent, reglementările internaționale privind utilizarea algoritmilor în medicină sunt încă în proces de definire, lăsând un spațiu de incertitudine în ceea ce privește răspunderea civilă în cazul unor recomandări care pot cauza prejudicii fizice sau psihice utilizatorilor.