Companiile ar trebui să permită angajaților utilizarea instrumentelor de inteligență artificială pentru a crește productivitatea, însă acest proces trebuie să fie monitorizat și protejat riguros. Această recomandare a fost oferită de Tudor Cristea, Regional Sales Manager la CrowdStrike, în cadrul conferinței ZF & Orange Business - Reziliența operațională: de la panică la control. Conform expertului, trendul utilizării AI este inevitabil și nu poate fi oprit, fiind esențial ca fiecare angajat să poată beneficia de asistență tehnologică pentru a lucra mai eficient.
Un risc major identificat de Tudor Cristea este faptul că un agent AI rulează cu aceleași drepturi de acces ca utilizatorul care l-a activat. În cazul în care un astfel de agent este compromis, acesta moștenește accesul complet la stația de lucru, ceea ce echivalează cu o identitate compromisă. Această vulnerabilitate permite atacatorilor să exploateze sistemul de operare și să execute acțiuni grave, cum ar fi implantarea unui ransomware în cadrul rețelei organizației.
Evoluția tehnologică schimbă modul în care sunt privite incidentele de securitate, mutând accentul de pe eroarea umană directă pe eroarea agentului digital. Tudor Cristea subliniază că omul devine un manager de agenți, iar dacă aceștia pierd controlul, pot apărea breșe de securitate cauzate de erori ale sistemului AI. Deși în România nu au fost raportate astfel de cazuri, expertul avertizează că atacatorii utilizează deja tehnologii automatizate prin AI pentru a lansa ofensive.
O problemă critică în organizații este fenomenul denominat „Shadow AI”, reprezentând utilizarea de către angajați a unor instrumente de inteligență artificială fără știrea managementului. Datele prezentate indică faptul că aproape 50% din organizațiile care utilizează AI nu au o imagine clară asupra tipului de tehnologie folosită sau a modului de utilizare. Este necesară scoaterea la lumină a acestor instrumente pentru a preveni scurgerile de date și atacurile de tip „prompt injection”.
Pentru a asigura un mediu de lucru sigur, companiile trebuie să monitorizeze constant conturile și răspunsurile generate de instrumentele de AI utilizate de personal. Tudor Cristea menționează că există deja soluții tehnice capabile să prevină manipularea agenților prin instrucțiuni ascunse. Monitorizarea trebuie să vizeze atât numărul de conturi active, cât și modul în care interacțiunile cu AI sunt sigure pentru integritatea datelor și pentru funcționarea continuă a organizației.
Securitatea cibernetică rămâne un pilon fundamental în transformarea digitală, având în vedere creșterea numărului de atacuri automatizate. În contextul actual, protecția identității digitale și controlul accesului la resursele de calcul sunt esențiale pentru a menține reziliența operațională. Pe măsură ce agenții AI devin parte integrantă din fluxul de lucru, capacitatea organizațiilor de a detecta și de a răspunde la amenințări informatice va determina succesul adoptării acestor tehnologii noi.