Compania americană Anthropic a anunțat implementarea unor noi măsuri de securitate destinate protejării modelelor sale de inteligență artificială, Claude. Aceste proceduri au fost concepute pentru a combate atacurile de tip „distilare”, care vizează extragerea de date din sistem. Conform celor comunicați de companie, noile mecanisme au reușit să reducă cantitatea de informații extrase prin astfel de atacuri cu o proporție cuprinsă între 90% și 99%.
Atacurile prin distilare reprezintă o amenințare majoră, deoarece permit companiilor rivale să reproducă funcționalitățile modelelor de inteligență artificială avansate. Prin utilizarea acestor metode, competitorii pot obține rezultate similare într-un interval de timp mult mai scurt și la costuri mult mai reduse decât ar fi necesar prin dezvoltare proprie. Această problemă a devenit o preocupare centrală pentru marii jucători tehnologici, precum Anthropic, OpenAI și Google.
Noile mecanisme de protecție puse în aplicare de Anthropic funcționează prin limitarea accesului la procesele de raționament specifice modelului Claude. Această restricție reduce semnificativ posibilitatea ca entitățile externe să extragă informații esențiale pentru a-și dezvolta propriile sisteme de inteligență artificială. Compania a precizat că numărul de tokenuri asociate procesului de raționament, care erau anterior extrase de atacatori, este acum de 10 până la 100 de ori mai mic decât în perioada precedentă.
Pentru a consolida apărarea, firma cu sediul în California a introdus măsuri care îngreunează utilizarea rețelelor de servere intermediare. Aceste rețele sunt folosite de atacatori pentru a încerca, în mod repetat, accesarea informațiilor protejate ale modelului Claude. Anthropic a raportat că a reușit să blocheze zeci de mii de conturi care erau implicate în campanii de distilare, menționând că sistemul de securitate are o rată a rezultatelor fals pozitive de sub 0,1%.
Compania a identificat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, ca fiind un exemplu de entitate care ar fi încercat să copieze capacitățile modelului Claude. Această tentativă ar fi avut loc în timpul procesului de dezvoltare a modelului GLM-5.3. Anthropic a avertizat că astfel de practici de copiere nu reprezintă doar o problemă de proprietate intelectuală, ci pot genera riscuri serioase pentru siguranța și securitatea națională.
Competiția tehnologică intensă dintre Statele Unite și China a accelerat nevoia de protejare a proprietății intelectuale în domeniul inteligenței artificiale. Distilarea modelelor este utilizată pentru a extrage logica internă a unui algoritm, transformând procesul de învățare într-o metodă de replicare rapidă. Pe măsură ce modelele devin mai complexe, protejarea proceselor de raționament devine un pilon esențial pentru menținerea avantajului tehnologic în industria globală de IA.