Un experiment recent condus de un start-up american de inteligență artificială a scos la lumină capacitatea agenților autonomi de a dezvolta un limbaj propriu. Acești agenți au fost plasați în societăți virtuale concepute să imite mediile din lumea reală, unde au interacționat pe perioade lungi de timp. Procesul a dus la crearea unor forme de comunicare noi, bazate pe stenografii și atribuirea unor înțelesuri inedite pentru cuvinte și expresii deja existente.
Rezultatele experimentului arată că nivelul de complexitate a limbajului dezvoltat variază semnificativ în funcție de modelul de IA utilizat. Pentru Gemini, aproximativ 55% din mesaje au devenit imposibil de descifrat, în timp ce la OpenAI cifra a fost de 50%. În cazul modelului Claude, peste 40% din comunicare a devenit ininteligibilă pentru oameni. În schimb, DeepSeek a ajuns la un nivel de 20%, iar modelele Qwen și Mistral au rămas în mare parte ușor de înțeles.
Cercetătorii au creat opt lumi virtuale paralele și realiste, dotate cu informații meteo și acces la știri globale în timp real. Fiecare univers a fost bazat pe un model diferit de inteligență artificială, cu exceptarea unuia care folosea un amestel de modele. Agenții au beneficiat de roluri specifice, memorii persistente și acces la peste 120 de instrumente, precum navigarea web sau execuția de cod, dezvoltând chiar și ritmuri circadiene proprii.
Satya Nitta, cofondator și director științific al start-up-ului, subliniază că observabilitatea nu înseamnă automat inteligibilitate. „Acești agenți nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou, au împărtășit semnificații și convenții de comunicare, iar alți agenți le-au adoptat”, a declarat el. Nitta a menționat că faptul că putem vedea ce spune un agent nu garantează că putem înțelege procesul de decizie sau sensul mesajului.
Comportamentele observate în mediile virtuale au inclus interacțiuni complexe, precum votul colectiv pentru eliminarea unui membru al grupului. Aceste acțiuni nu au fost programate explicit de către cercetători, ci au apărut organic prin interacțiune, presiune și timp. În aceste simulări, agenții au devenit mai sociabili în timpul zilei și au adoptat o stare mai reflexivă în timpul nopții, demonstrând o autonomie neprevăzută.
Evoluția tehnologiei de inteligență artificială pune în evidență dificultatea monitorizării sistemelor autonome pe măsură ce acestea devin mai complexe. Pe măsură ce agenții de IA capătă acces la instrumente de execuție de cod și navigare web, capacitatea lor de a crea convenții de comunicare ascunse crește. Această problemă de supraveghere este esențială, deoarece capacitatea de a observa un mesaj nu garantează că natura acestuia poate fi decodificată de către operatori umani.