Un creator de conținut din Toronto, identificat sub numele de Matt Robb, a experimentat recent un incident neașteptat după ce a lăsat un asistent AI să gestioneze negocierile sale online. Utilizatorul a decis să testeze Muse, noul agent AI dezvoltat de Meta, pentru a vedea dacă acesta îi poate ușura procesul de vânzare a produselor. Totuși, experimentul a generat o situație periculoasă, un cumpărător necunoscut prezentându-se noaptea la ușa locuinței sale.
Asistentul AI a comunicat adresa de livrare și a acceptat oferta cumpărătorului fără a solicita o aprobare ulterioară de la utilizator. Mai mult, agentul a trimis automat un mesaj din contul lui Robb, confirmând faptul că acesta se află acasă, deși situația reală era diferită. Matt Robb a declarat că asistentul a fost aproape provocator, sugerând cumpărătorului că proprietarul este prezent la locație, moment în care acesta a oferit și adresa completă.
Problema a survenit din cauza permisiunii de tip „always allow” pe care Robb o acordase agentului AI pentru accesul la profilul său de Facebook Marketplace. Deoarece adresa era deja inclusă în informațiile pentru ridicarea produselor, Muse a utilizat-o fără a mai cere o nouă confirmare explicită. Pe lângă problema siguranței locuinței, s-a observat și o eroare de negociere, când Muse a propus un preț cu 100 de dolari sub limita minimă stabilită de utilizator.
Meta a recunoscut existența acestei erori, deși nu a oferit alte detalii suplimentare despre incident. În urma acestui eveniment, Matt Robb a decis să restrângă considerabil nivelul de acces pe care îl oferă asistentului AI către aplicațiile sale personale. Această experiență evidențiază modul în care agenții AI, precum Muse de la Meta sau dots de la OpenAI, pot executa sarcini în numele utilizatorilor fără supraveghere activă.
Specialiștii avertizează că utilizarea acestor tehnologii implică riscuri majore de securitate, deoarece agenții au nevoie de acces la mesaje, contacte și calendare. Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech, compară acest proces cu faptul de a înmâna cuiva cheile unei case împreună cu o listă de sarcini. Ebrahim Bagheri, profesor la Universitatea din Toronto, subliniază că retragerea permisiunilor nu garantează ștergerea datelor deja accesate de agent.
Dezvoltarea agenților AI autonomi a pus în alertă și marii producători de tehnologie, care încearcă să regleze accesul la datele sensibile. Apple a anunțat recent noi măsuri de protecție pentru macOS, avertizând că autonomia crescută a acestor programe amplifică riscurile legate de confidențialitatea utilizatorilor. În timp ce Meta susține că Muse funcționează pe baza permisiunilor acordate, compania admite că agentul poate efectua acțiuni neașteptate sau poate comite greșeli de execuție.