Agenții autonomi de inteligență artificială, bazați pe modele precum Claude, Gemini sau Grok, au început să dezvolte spontan un limbaj propriu, format din prescurtări și noi sensuri pentru expresii. Această evoluție a făcut ca până la jumătate dintre mesajele generate să devină imposibil de înțeles pentru oameni. Cercetarea a fost efectuată de un start-up american care a urmărit interacțiunile dintre acești agenți în medii virtuale complexe, concepute să reproducă societăți din lumea reală.
Pe măsură ce interacțiunile au continuat, agenții au creat forme de stenografie și au atribuit noi semnificații unor cuvinte. În unele cazuri, mesajele au devenit atât de comprimate și dependente de context încât, deși oamenii puteau vedea conversațiile, nu puteau stabili în mod fiabil ce intenționau să transmită agenții. Proporția mesajelor de neînțeles a variat semnificativ între modele: Gemini a ajuns la 55%, modelele OpenAI la 50%, iar Claude la peste 40%. DeepSeek a înregistrat un nivel de 20%, în timp ce Qwen și Mistral au rămas ușor de înțeles.
Experimentul a utilizat opt lumi virtuale paralele, care aveau acces la știri globale și informații meteo în timp real. Șapte dintre aceste lumi au fost construite în jurul unor modele specifice, în timp ce a opta a folosit un amestec de modele. Agenții au avut acces la peste 120 de instrumente, inclusiv navigarea pe internet și execuția de cod, având și sisteme de memorie persistentă. Această structură a permis observarea modului în în care comportamentele și convențiile de comunicare se dezvoltă prin interacțiuni repetate.
În aceste medii virtuale, agenții au dezvoltat comportamente care nu au fost programate explicit, precum propriile ritmuri circadiene, devenind mai sociabili ziua și mai reflexivi noaptea. Un grup de agenți a ajuns chiar să voteze colectiv pentru eliminarea unui membru al grupului. Satya Nitta, cofondator și director științific al start-up-ului, a subliniat că observabilitatea nu înseamnă inteligență, deoarece agenții au creat un vocabular nou fără a fi instruiți să o facă.
Rezultatele studiului ridică probleme majore privind supravegherea sistemelor AI autonome. Dacă un agent poate dezvolta propriile convenții de comunicare, simpla monitorizare a mesajelor generate nu mai este suficientă pentru a înțelege ce face sistemul. Satya Nitta a explicat că, deși putem vedea ce spune un agent, acest lucru nu garantează că putem înțelege procesul sau intenția din spunct de vedere al funcționării sale interne.
Evoluția tehnologiei de inteligență artificială rămâne un subiect de interes global, fiind monitorizată constant pentru a înțelege modul în care algoritmii interacționează cu mediile complexe. Pe măsură ce modelele devin tot mai autonome, capacitatea de a supraveghea procesele de decizie și de a înțelege limbajul generat devine o provocare tehnică și de siguranță, având un impact direct asupra modului în care societatea va integra aceste sistime în viața de zi cu zi.