Companiile de inteligență artificială implicate în dezvoltarea modelelor de frontieră au semnat Acordul Casei Albe privind Superinteligența. Prin acest document, entitățile s-au angajat să implementeze patru niveluri distincte de control și audit pentru a gestiona riscurile tehnologice. Obiectivul principal declarat este construirea unui viitor pozitiv pentru poporul american și pentru restul lumii, prin dezvoltarea unor tehnologii sigure care să genereze încredere atât în clienți, cât și în publicul larg.
Primul nivel de control vizează implementarea unor procese interne robuste pentru monitorizarea capacităților și alinierea modelelor în timpul instruirii și implementării. Accentul este pus pe prevenirea riscurilor în domenii critice, precum securitatea cibernetică, biosecuritatea și amenințările chimice. Companiile trebuie să se asigure că modelele lor nu pot fi utilizate pentru hacking și nu accesează sistemele tehnice în moduri neintenționate, asigurând astfel un comportament conform intențiilor inițiale.
Al doilea nivel de siguranță presupune întărirea capacităților unei echipe interne dedicate. Această echipă are rolul de a verifica constant dacă toate mecanismele de monitorizare și detectare funcționează corect și de a interveni pentru remedierea oricăror probleme identificate. Ulterior, al treilea nivel introduce parteneriate cu auditori sau evaluatori externi independenți. Aceștia vor efectua evaluări externe pentru a valida dacă procesele de control și detectare sunt operate conform standardelor stabilite.
Ultimul nivel de supraveghere implică desemnarea unui comitet independent în cadrul consiliului de administrație al fiecărei companii. Acest comitet are sarcina de a primi rapoarte directe de la echipele care operează controalele, precum și de la auditorii interni și externi. Rolul acestui organism este de a supraveghea întregul proces și de a garanta că orice deficiențe sau probleme tehnice descoperite sunt tratate și remediate prompt de către organizație.
Companiile participante au menționat că se vor întâlni periodic pentru a stabili standarde și bune practici menite să îmbunătățească siguranța sistemelor de inteligență artificială. Documentul subliniază că, pe termen lung, ar putea deveni necesară codificarea acestor măsuri în reglementări sau legi oficiale. Indiferent de obligația legală viitoare, dezvoltatorii consideră implementarea acestor audituri ca fiind un pas critic pentru asigurarea unui viitor sigur pentru întreaga societate.
Evoluția reglementărilor în domeniul tehnologiei de frontieră reflectă o preocupare globală crescută pentru gestionarea riscurilor sistemice. În contextul accelerării dezvoltării modelelor de limbaj și de calcul, autoritățile de reglementare și companiile private caută un echilibru între inovație și siguranță. Această mișcare de adoptare a unor standarde de auditare voluntare marchează o etapă importantă în stabilirea unui cadru de responsabilitate pentru dezvoltatorii de inteligență artificială.