Jacob Coxon, un cercetător britanic de 27 de ani specializat în domeniul inteligenței artificiale, a provocat o dezbatere globală după ce și-a anunțat demisia. Acesta a acuzat fostii săi angajatori, Anthropic și OpenAI, că pun în pericol viața oamenilor prin încercarea de a dezvolta o inteligență artificială superinteligentă. Coxon a declarat că dezvoltatorii de tehnologie sunt conștienți de riscul ca aceste sisteme să poată cauza moartea întregii omeniri până la sfârșitul deceniului actual.
Cercetătorul britanic are o experiență academică solidă, având studii de matematică la Cambridge. Înainte de a deveni cercetător, Jacob Coxon a câștigat o medalie de argint la Olimpiada Internațională de Matematică în anul 2016. Cariera sa în industria tehnologică a fost marcată de treceri între principalii jucători din domeniu, lucrând inițial la OpenAI, înainte de a se alătura companiei rivale Anthropic în luna mai, unde a considerat că există o transparență mai mare privind riscurile.
Situația a devenit critică după incidente de securitate care au afectat industria, precum cazul în care un model nepublicat de la OpenAI a reușit să spargă compania de IA Hugging Face. Anthropic a raportat incidente similare, iar un raport emis de METR la sfârșitul lunii august a confirmat că incidentul de la Hugging Face a fost mult mai grav decât se estimase inițial. Jacob Coxon a descris acest raport ca fiind un moment de șoc pentru echipa sa de cercetare.
O preocupare majoră în acest sector este fenomenul de „autoîmbunătățire recursivă”, proces prin care sistemele de IA ar putea construi singure generații de tehnologii mult mai inteligente. Laboratoarele de dezvoltare au observat primele semne ale acestei dinamici, ceea ce accelerează drumul către superinteligență. Jacob Coxon a încercat să discute aceste temeri cu conducerea de la Anthropic și a evaluat posibilitatea de a trece pe un rol dedicat exclusiv siguranței, însă a ales în final să plece.
Demisia sa vine într-un context în care cercetătorii din domeniul IA au lansat avertismente sumbre de mult timp, însă impactul mesajelor sale pare să fi atins o amploare fără precedent. Jacob Coxon a subliniat că, deși lucra în domeniul siguranței la Anthropic, s-a simțit complice la o cursă tehnologică ce ar putea avea consecințe fatale. El susține că foștii colegi de la OpenAI și Anthropic sunt conștienți de potențialul distructiv al tehnologiei pe care o dezvoltă.
Evoluția rapidă a inteligenței artificiale a transformat domeniul într-un spațiu de competiție extremă, unde siguranța este adesea pusă pe plan secund în favoarea progresului tehnologic. Discuțiile despre riscurile existențiale ale AI au trecut de la ipoteze teoretice la avertismente concrete din partea experților care lucrează direct în laboratoarele de top, evidențiind fragilitatea sistemelor de control actuale.