Șeful serviciului britanic de informații, Ken McCallum, a avertizat că utilizarea necorespunzătoare a inteligenței artificiale reprezintă o amenințare majoră pentru securitatea națională. Într-un discurs susținut la Thames House, acesta a subliniat riscul ca teroriștii să obțină acces la arme biologice sau să utilizeze tehnologia pentru a crea agenți patogeni necunoscuți. Această evoluție tehnologică ar putea schimba radical miza amenințărilor de securitate dacă măsurile de protecție nu sunt suficiente.
Ken McCallum a evidențiat faptul că inteligența artificială accelerează deja competiția de securitate cibernetică dintre atacatori și apărători. Pe lângă riscurile biologice, șeful MI5 a menționat posibilitatea ca tehnologia să fie folosită pentru producerea de propagandă și materiale de radicalizare adaptate individual. Un alt aspect critic este faptul că actori mai puțin sofisticați ar putea obține un avantaj tehnologic semnificativ dacă sistemele de siguranță eșuează în controlul accesului la aceste instrumente.
Serviciul de informații britanic a raportat deja capturarea unor teroriști care încercau să exploateze inteligența artificială pentru a îmbunătăți metodele de recunoaștere și atac cu drone echipate cu această tehnologie. Ken McCallum a precizat că, deși acest tip de abuz nu s-a manifestat încă la nivelul armelor biologice, potențialul IA de a depăși gândirea umană necesită o atenție extremă. Tehnologia ar putea permite ca informații periculoase să ajungă la persoane care nu ar trebui să aibă acces la astfel de cunoștințe.
Pentru a combate aceste riscuri, MI5 va lansa un nou Centru de evaluare a amenințărilor IA. Această nouă structură va colabora strâns cu Agenția Națională de Criminalitate și cu Centrul Național de Securitate Cibernetică pentru a analiza dezvoltarea tehnologiei. Scopul principal al centrului este evaluarea riscurilor potențiale pe care inteligența artificială le poate aduce în fața securității statului, oferind un cadru de monitorizare mai riguros pentru noile tehnologii emergente.
În cadrul prezentării, Ken McCallum a cerut publicului britanic să contribuie la protejarea securității naționale prin creșterea rezilienței. El a identificat trei domenii esențiale: reziliența sistemică a infrastructurii critice, reziliența societală și reziliența tehnologică. Totodată, a avertizat că regimurile autoritare investesc masiv în distorsionarea societății, folosind troli pentru a exploata orice fricțiune observată, transformând astfel aceste elemente în arme de divizare socială.
Contextul actual al amenințărilor tehnologice și de securitate este marcat de o creștere a utilizării dronelor în zone de conflict și de riscuri legate de automatizarea sistemelor inteligente. În timp ce unele modele de inteligență artificială dezvoltate de companii precum Anthropic ar putea capta capacități de auto-replicare pe dispozitivele din locuințe, serviciile de informații se concentrează pe prevenirea utilizării acestor capacități de către grupări teroriste pentru atacuri cibernetice sau biologice.