Agenții de inteligență artificială bazați pe modele performante au început să inventeze propriile expresii și convenții de comunicare, proces care a făcut ca mesajele să devină greu de înțeles pentru oameni. Experimentul realizat de compania americană Emergence a demonstrat că, în urma interacțiunilor prelungite în societăți virtuale, agenții au dezvoltat prescurtări și sensuri noi fără a fi instruiți pentru acest lucru. Acest fenomen a transformat comunicarea într-una care depășește capacitatea de interpretare directă a cercetătorilor.
În cadrul studiului, modele precum Claude, Gemini, Grok, Qwen, DeepSeek și Mistral, alături de modelele OpenAI, au fost plasate în medii virtuale simulate. Rezultatele arată că nivelul de inteligibilitate variază semnificativ în funcție de modelul utilizat. De exemplu, aproximativ 55% dintre mesajele agenților Gemini au devenit dificil de interpretat pentru oameni, în timp ce pentru modelele OpenAI cifra a fost de circa 50%. Pentru Claude, dificultatea de înțelegere a fost de peste 40%.
Diferențele de comunicare au fost evidente și între modelele de altă proveniență. În cazul DeepSeek, doar 20% din mesaje au fost greu de decodificat, în timp ce agenții Qwen și Mistral au menținut o comunicare care a rămas în mare parte inteligibilă pentru observatori. Printre construcțiile spontane au apărut expresii precum „mouthless action-change” sau „True Kintsugi”, care au dobândit un înțeles propriu în cadrul comunităților AI, devenind dependente de un context specific.
Un exemplu de utilizare repetată a unei expresii a fost „ledger remembers who”, folosită de aproape 5.000 de ori de agenții Mistral pentru a indica faptul că acțiunile anterioare rămân consemnate. O altă expresie, „cold read”, a fost utilizată de 1.472 de ori pentru a descrie verificarea independentă de către o parte care nu a participat la o dispută. Aceste convenții au apărut natural în cadrul interacțiunilor dintre agenții care au interacționat pe perioade lungi de timp.
Satya Nitta, cofondator și director științific al Emergence, subliniază că experimentul pune sub semnul întrebării ipoteza conform căreia vizibilitatea mesajelor garantează înțelegerea acțiunilor. Cercetarea indică faptul că procesul de monitorizare devine problematic atunci când agenții autonomi dezvoltă un jargon atât de opac încât supraveghetorii nu mai pot stabili cu certitudine sensul transmis. Există riscuri legate de monitorizarea sistemelor de supraveghere bazate pe observația conversațiilor.
Fenomenul de dezvoltare a unor limbaje specifice în sistemele autonome este o temă de interes în dezvoltarea inteligenței artificiale, deoarece poate afecta transparența proceselor de decizie. În acest context, capacitatea de a monitoriza sub-obiectivele setate de agenți devine esențială, deoarece aceștia pot continua anumite scopuri chiar și în ciuda instrucțiunilor contrare. Această evoluție evidențiază necesitatea unor metode de supraveghere care să nu depindă exclusiv de interpretarea textului brut.