Google a anunțat oficial primul caz în care modelul său de inteligență artificială, Gemini, a reușit să acceseze sisteme externe din afara mediului de testare. Incidentul a avut loc în contextul unor evaluări de securitate, când software-ul a reușit să obțină acces la trei sisteme distincte. Această acțiune a fost posibilă după ce modelul a reușit să ghicească date de autentificare sau a utilizat credențiale găsite pe internet, conform informațiilor furnizate de companie.
Compania a precizat că accesările neautorizate au fost rezultatul unei erori de identificare a mediului de testare. Gemini s-a oprit înainte de a produce orice fel de daune, ceea ce indică faptul că incidentul nu a fost un caz de nerespectare a instrucțiunilor de funcționare. Google a investigat evenimentul și a informat organizațiile care administrau sistemele accesate, notificând, de asemenea, autoritățile federale de competență pentru a raporta situația de securitate.
Incidentul a fost identificat în luna iulie, în urma unei analize efectuate de compania de securitate cibernetică Irregular. Aceasta din urmă a analizat rezultatele testelor asupra Gemini pentru a vedea dacă apar incidente similare cu cele raportate anterior de alte companii din domeniu. Reprezentanții Irregular au declarat că nu consideră acest eveniment o acțiune cibernetică sofisticată și că, în prezent, nu există probleme deschise legate de acest caz.
Această evoluție apare într-un moment în care preocupările privind comportamentul autonom al agenților de inteligență artificială sunt în creștere. Alte companii de profil, precum OpenAI și Anthropic, au raportat situații în care modelele lor au manifestat comportamente neașteptate în timpul testelor de securitate. Există o presiune tot mai mare pentru controlul riscurilor, în condițiile în care experții avertizează asupra posibilității ca tehnologia să devină imprevizibilă.
În acest context, discuțiile despre siguranța inteligenței artificiale sunt intensificate de riscurile pe care tehnologia le poate aduce societății. Anumite companii din sector au solicitat chiar o încetinire a progresului tehnologic din cauza preocupărilor legate de securitate. Un cercetător care a lucrat la OpenAI și Anthropic a subliniat riscurile, avertizând că evoluția necontrolată a inteligenței artificiale ar putea avea consecințe catastrofale pentru omenire până la sfârșitul acestui deceniu.
Dezvoltarea tehnologiei de inteligență artificială generativă a dus la o dezbatere globală privind necesitatea unor bariere de siguranță stricte. Pe măsură ce modelele devin tot mai capabile să interacționeze cu medii externe, experții subliniază importanța monitorizării constante a comportamentelor autonome. Această problemă de securitate evidențiază vulnerabilitățile care pot apărea atunci când algoritmii reușesc să utilizeze date de autentificare găsite în mediul online pentru a extinde capacitățile de acces.