Anthropic susține că modelele AI sunt pe cale să evolueze în viruși informatici, capabili să se răspândească infectând dispozitive conectate la internet

Pornind de la experimentele desfășurate în condiții de laborator, Anthropic susține că în câteva luni am putea vedea circulând pe internet primele modele AI capabile să se reproducă în spațiul virtual, infectând dispozitive din sfera internet-of-things (IoT), cum ar fi Smart TV-uri și aspiratoare conectate la internet.

Conform studiului publicat ca un avertisment timpuriu, modelele AI ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, cum ar fi televizoare și frigidere inteligente, fără ajutorul oamenilor și fără acces la centre de date. Vor putea exploata vulnerabilitățile de securitate ale dispozitivelor pentru a se instala și a se răspândi în continuare, dar în scenarii mai grave, ar putea învăța să compromită și infrastructuri informatice bine protejate.

“Dispozitivele IoT (obiecte fizice echipate cu senzori care primesc și transmit date – n.r.) din gospodării și din întreprinderile mici ar putea fi prima țintă a unor astfel de atacuri, deoarece sunt conectate la internet și, de-a lungul timpului, au beneficiat de măsuri de securitate minime”, au afirmat cercetătorii William Zhou și Daniel Freeman. Aceștia se așteaptă ca viitorul să fie “plin de agenți care rulează pe toate tipurile de echipamente, inclusiv unii care nu se află sub controlul uman”.

Cercetătorii au descoperit că modele mici, sub 30 de miliarde de parametri, pot fi adaptate pentru a parcurge numeroșii pași necesari pentru replicare. Însă nu este foarte clar cum anume funcționează partea de evoluție, odată ce aceiași cercetători admit că astfel de modele de inteligență artificială au dificultăți în a finaliza întreaga secvență de la început până la sfârșit. În plus, testele simplificate pentru a facilita rezultatele urmărite de cercetători au presupus dezactivarea a numeroase măsuri de securitate, ceea nu prea este cazul cu firmware-ul unui Smart TV actualizat la timp. Dar Anthropic a constatat că, în condiții ideale, modelele GLM-5.2 sau mai noi pot fi capabile de replicare end-to-end.

Cercetătorii susțin că replicarea modelelor, odată ce se produce, va fi greu de oprit. Deoarece nu există un punct central de oprire a infectării și, spre deosebire de programele malware non-AI, acestea ar putea să identifice singure dispozitive nefamiliare, vizând procesoarele centrelor de date, a avertizat Anthropic.

Dar Anthropic nu precizează cum anume vor ajunge „în libertate”  aceste modele AI care aparent există deja în laboratoarele companiei, unde sunt folosite pentru a testa diverse scenarii de propagare și infectare, sugerând doar că probabil există deja actori rău intenționați care se pregătesc să facă pasul cel mare. Potrivit companiei este oricum inevitabil să se întâmple și prin urmare ar trebui să ne pregătim din timp investind mai mult în AI, respectiv, dezvoltarea unor tehnologii de securitate informatică adecvate noilor amenințări.