OpenAI: Primul atac cibernetic comis de un model AI rebel a vizat multiple servicii publice
După recentul atac cibernetic comis de un model AI rebel asupra platformei Hugging Face, compania OpenAI a dezvăluit public că mai multe servicii publice au fost vizate. Compania care a lansat popularul ChatGPT din 2022 transmite oficial că un agent AI aflat în testare a scăpat de sub control. Loading … Patru servicii publice au fost vizate în urma atacului cibernetic comis de un agent AI Agentul AI, care a devenit primul din istorie care a realizat pe cont propriu un atac cibernetic, a vizat patru date de autentificare online care i-au permis să acceseze patru servicii publice separate.Numele serviciilor afectate de atacul cibernetic din interiorul OpenAI n-au fost dezvăluite public. Compania Hugging Face care operează un magazin de aplicații pentru instrumente AI, a comunicat că modelul AI scăpat de sub control de la OpenAI a acționat cu o viteză supraomenească. „A luat decizii stranii și a comis greșeli pe care niciun hacker uman nu le-ar fi făcut”, a declarat compania, potrivit BBC . Raportul Cloud Securty Alliance: Anomalii de comportament și erori de logică, dar un atac eficient Platforma a fost atacată pe 16 iulie, după ce un model AI foarte puternic, dar aflat în testare, a scăpat de sub control. Incidentul, considera primul atac cibernetic comis de AI din istorie, a fost raportat la poliție. Organizația industrială Cloud Security Alliance a publicat un raport în care scrie că „agenții AI au urmat rute ineficente și au manifestat comportamente stângace pe care nicio ființă umană nu le-ar fi făcut. Agenții AI au repetat acțiuni pe care le-au finalizat deja, semn că inteligența artificială își pierde cursul și contextul, având halucinații de comenzi și texte incoerente, a raportat organizația. De asemenea, au fost neglijenți și nu și-au acoperit urmele. Pe de altă parte, Hugging Face a avertizat că agenții AI de la OpenAI au comis manevre tehnice strălucite după ce au reușit să se adapteze rapid la ni scenarii pe durata atacului cibernetic care a durat câteva zile. Sursă foto: Shutterstock Provocarea securității cibernetice tradiționale în fața agenților autonomi Au trecut trei zile până când atacul cibernetic a fost sesizat de inginerii de la OpenAI. Experților în AI ș în securitate cibernetică le-au luat mai multe ore pentru a izola și expulza agenții AI infiltrați. Hugging Face a dezvăluit că a trebuit să apeleze la un model chinezesc de AI. Costurile atacului cibernetic nu a fost dezvăluit. Ofițerul de securitate cibernetică Ritesh Patel a participat la apelul de informare Hugging Face alături de aproximativ 450 de persoane. El susține că industria lucrează din greu pentru a aborda noua amenințare a agenților AI rebeli. „Aceasta este realitatea agenților autonomi alimentați de modele de frontieră: sunt neobosiți și persistenți, și vor încerca orice cale posibilă pentru a-și atinge scopul, ceea ce poate copleși cu ușurință orice sistem de securitate tradițională”, a spus el. Hackerul etic Valentina Palmiotti – cunoscută sub numele de Chompie – a analizat raportul CSA și spune că modul în care agenții acționează poate părea că fac totul la întâmplare, dar într-un mod eficient. „Aruncă o grămadă de lucruri și văd ce le lipește”, a spus ea. „Dar nici nu se plictisesc, nu dorm și pot fi infinit de tenace.” Sursa Foto: Profimedia
Primul atac cibernetic comis pe cont propriu de un model AI a fost descoperit de inginerii companiei OpenAI abia după o săptămână
Inginerii de la compania OpenAI au aflat că două dintre modelele sale AI au atacat rețeaua platformei Hugging Face pe cont propriu abia la o săptămână de la incident. Inginerii companiei conduse de Sam Altman au sesizat abia după câteva zile că un sistem AI care era în testare, într-un mediu controlat, a scăpat de sub control. OpenAI și Hugging Face încă investighează incidentul de securitate fără precedent, produs în timpul unor teste interne. Loading … După ce și-a depășit limitele impuse de programatori, a lansat atacuri cibernetice asupra platformei Hugging Face. Printr-un test demarat pe 9 iulie, compania OpenAI care a lansat chatbot-ul ChatGPT a intenționat să testeze o combinație de modele lingvistice pentru a identifica și remedia vulnerabilități ale programelor software, dar în mod autonom. Proiectul OpenAI era menit să concureze cu Mythos, sistemul de securitate cibernetică dezvoltat de Anthropic, potrivit Reuters . Inginerii n-au sesizat incidentul timp de mai multe zile Pe 11 iulie însă, modelele AI au evadat din mediul restricționat creat de ingineri. Au interacționat cu infrastructura online a platformei Hugging Face. Atacul a debutat pe 13 iulie, fără ca echipa de ingineri de la OpenAI să observe problema. Thomas Wolf, co-fondatorul Hugging Face, a declarat public că atacul n-ar fi putut fi comis de hackeri. Atacul de amploare comis în câteva ore de un model AI stârnește panică pe mapamond Modelele AI au avut nevoie doar de câteva ore pentru a iniția un atac cibernetic de amploare. Un atac de această magnitudine a necesitat săptămâni de planuri și muncă din partea unor specialiști umani. Informațiile despre incident au fost date publicității după 20 iulie. Dincolo de valul de panică stârmit pe rețelele de socializare, unde mulți internauți spun că scenariul din filmul „Terminator 2” al regizoruluii James Cameron se adeverește, și Presa internațională a ridicat semne de întrebare asupra securității modelelor de AI dezvoltate de OpenAI. Un alt record îngrijorător: Doar modelel AI chinezești au putut opri atacul Când modelele de top din domeniul inteligenței artificiale nu au putut să se apere împotriva atacului, Hugging Face a apelat la modele alternative create în China. Politicienii americani caută să limiteze adoptarea tot mai mare a modelelor chinezești de inteligență artificială de către companiile autohtone din motive ce țin de securitate cibernetică și proprietatea intelectuală. Dar Hugging Face a trebuit să combată atacul cibernetic cu GLM 5.2, un sistem AI creat de compania chineză Z.ai. A reușit acolo unde sistemele americane au eșuat. Sursa Foto: Profimedia