Bill Gates a emis un avertisment alarmant cu privire la evoluția inteligenței artificiale, afirmând că tehnologia a atins un punct critic. Potrivit miliardarului, dezvoltarea AI reprezintă acum un pericol existențial pentru întreaga omenire, având capacitatea de a provoca pierderi de vieți omenești la o scară fără precedent. Această schimbare radicală de perspectivă vine de la un susținător istoric al progresului tehnologic, care vede acum riscuri majore în utilizarea acestor instrumente.
Riscul principal identificat de Gates nu este pierderea controlului asupra sistemelor în viitor, ci utilizarea imediată a AI în scopuri criminale de către actori statali sau grupări ostile. El susține că inteligența artificială este suficient de puternică pentru a provoca evenimente care ar putea duce la moartea unui miliard de oameni. Această combinație între intenții malițioase și instrumente de ultimă generație este considerată de Gates o amenințare mai mare decât orice armă existentă.
Un aspect extrem de îngrijorător vizează domeniul armelor biologice, unde AI poate reduce barierele tehnologice pentru teroriști sau grupări mici. Progresele actuale permit proiectarea de noi molecule și, în anumite condiții, crearea unor agenți patogeni mai periculoși decât variola. În trecut, o astfel de capacitate era rezervată doar statelor cu resurse masive, însă inteligența artificială oferă acum posibilitatea ca actori cu resurse limitate să ucidă sute de milioane de oameni.
Bill Gates subliniază că armamentele nucleare par nesemnificative, sau „niște jucării”, în comparație cu potențialul distructiv al inteligenței artificiale. El critică faptul că guvernele nu dețin expertiza tehnică necesară pentru a gestiona această tehnologie, spre deosebire de cazul armelor nucleare. Deoarece dezvoltarea AI are loc predominant în sectorul privat, autoritățile se află într-o poziție de vulnerabilitate în fața rapidității progresului tehnologic.
Pentru a contracara aceste riscuri, Gates propune impunerea unor sisteme de monitorizare și măsuri de siguranță stricte de către guverne asupra dezvoltatorilor. El consideră că simpla reglementare sau existența unor mecanisme de oprire de urgență nu sunt suficiente pentru a preveni tragediile. Este necesară păstrarea unor înregistrări detaliate care să permită autorităților să verifice modul în care sunt utilizate modelele de inteligență artificială, deoarece autocontrolul industriei nu poate fi garantat.
Discuțiile despre siguranța AI au devenit centrale și în cadrul marilor laboratoare de tehnologie, precum OpenAI și Anthropic. Aceste companii au ales deja să oprească sau să încetinească temporar antrenarea unor modele noi din cauza problemelor de siguranță identificate. Deși directorii acestor companii susțin că dezvoltarea capabilităților trebuie să fie însoțită de progrese în monitorizare, Gates insistă că responsabilitatea nu poate rămâne exclusiv în mâinile companiilor private.