Inteligența artificială rescrie modul în care își fac avocații treaba în instanțe, dar beneficiile vin cu riscuri: Avertismentul experților
Inteligența artificială pare să promită eficiență în domeniul juridic, dar riscurile asociate cu erori, halucinații și lipsa de pregătire pot submina credibilitatea avocaților și a instanțelor. Experții cer, de altfel, alfabetizare digitală și reguli stricte privind utilizarea AI. AI-ul devine tot mai prezentă în activitatea avocaților, însă sistemul de justiție nu este încă pregătit să o folosească responsabil. Halucinațiile AI, erorile de utilizare și lipsa unei înțelegeri exacte a tehnologiei pot compromite credibilitatea profesiei. Un exemplu recent este cazul avocatului Brandon Monk, care, în 2024, a depus un document generat de AI plin de cazuri și citate inexistente într-un proces împotriva Goodyear, scrie publicația DarkReading. Judecătorul a impus o amendă de 2.000 de dolari și obligativitatea unui curs despre utilizarea GenAI în domeniul juridic. Cassandra Maldini, vicepreședinte AI governance la Securiti, explică problema de fond: „Tehnologia nu are un interes pentru adevăr. Este bazată pe algoritmi probabilistici și îți oferă un răspuns, dar nu garantează că este cel corect”. Astfel de greșeli pot submina, în mod sigur, încrederea clienților și pot aduce prejudicii de imagine instanțelor care nu detectează erorile. De la eficiență la criza de credibilitate în avocatură AI poate fi un instrument valoros pentru analiza rapidă a mii de documente legale sau chiar pentru îmbunătățirea probelor video dintr-un accident. Peter Hedberg, vicepreședinte la Corvus Insurance, subliniază că firmele pot reduce timpul și costurile de cercetare folosind AI. Însă există un risc major, iar acesta se referă la modelele lingvistice mari (LLM) sunt „ca niște căței care vor doar să te mulțumească”, spune Hedberg. „Nu sunt proiectate să spună adevărul, ci să îți dea un răspuns care te face să revii.” Cazurile de halucinații AI, unde sunt inventate complet citate și precedente juridice, demonstrează că avocații nu pot folosi outputul AI fără verificări riguroase. Lipsa de gândire critică și tentația de a exploata scurtături pot duce la erori grave. Maldini avertizează că, fără măsuri clare, profesia juridică se confruntă cu „o criză de credibilitate”. Este mare nevoie de alfabetizarea AI, dar mai ales de reguli stricte și etice Experții subliniază că alfabetizarea AI este esențială. Avocații, judecătorii și jurații trebuie să înțeleagă limitele tehnologiei și să își păstreze rolul de verificare a veridicității probelor. Deja au existat cazuri în care instanțele au respins probe video modificate cu AI, invocând „tehnici noi” care pot induce confuzie în rândul juraților. Tyler Shields, analist la Enterprise Strategy Group, avertizează că angajații de nivel inferior din firmele de avocatură pot introduce date sensibile în instrumente AI externe, expunând riscuri majore de confidențialitate. Mai mult, AI poate fi folosit pentru fabricarea probelor sau a dovezilor deepfake. Pentru a limita riscurile, experții propun: educație aprofundată și cursuri obligatorii despre utilizarea AI în drept; reguli de etică privind verificarea și utilizarea rezultatelor AI; introducerea de mecanisme de verificare criptografică și watermarking digital pentru probele AI.
Meta investește sute de miliarde în centre de date uriașe pentru AI, dar consumă apa planetei. Cum ajunge Mark Zuckerberg să coalizeze cu schimbările climatice
Meta, compania condusă de Mark Zuckerberg, a anunțat că are planuri ambițioase de a construi mai mule centre de date gigantice, menite să susțină dezvoltarea inteligenței artificiale. CEO-ul a declarat că investiția va ajunge la „sute de miliarde de dolari”, cu scopul final de a atinge nivelul de superinteligență, un concept asociat cu inteligența artificială generală (AGI), capabilă să egaleze abilitățile umane în mai multe domenii, scrie Engadget. Primul centru, denumit Prometheus, va fi inaugurat anul viitor în Ohio, iar următorul, Hyperion, aproape de dimensiunea Manhattanului, ar putea ajunge la o capacitate de până la 5GW în câțiva ani. Aceste campusuri vor fi printre cele mai mari din lume, depășind cu mult centrele actuale, care generează doar câteva sute de megawați. Meta și-a consolidat echipa Superintelligence Labs, recrutând specialiști de la OpenAI, DeepMind și alte companii de top în domeniu, sub coordonarea lui Alexandr Wang, cofondatorul Scale AI. Impact major asupra resurselor de apă, iar Meta poartă toată vina Însă aceste mega-proiecte nu vin fără consecințe. Centrele de date sunt mari consumatoare nu doar de energie, ci și de apă, necesară pentru răcirea echipamentelor. Un material publicat pe The New York Times arată cum un centru Meta din estul orașului Atlanta a afectat grav fântânile locale și a dus la creșterea prețurilor la apă, cu riscul ca până în 2030 să apară penurii și raționalizări. În regiune, tariful apei ar urma să crească cu 33% în următorii doi ani. În mod obișnuit, un centru de date consumă circa 500.000 de galoane de apă pe zi, dar complexele AI planificate de Meta ar putea avea nevoie de milioane de galoane zilnic. În Newton County, autoritățile au primit cereri de permise pentru până la șase milioane de galoane pe zi – mai mult decât consumul zilnic al întregului județ. „Ceea ce nu înțeleg centrele de date este că epuizează resursa comunității”, a avertizat Mike Hopkins, directorul Autorității de Apă și Canalizare Newton County. Criză iminentă în mai multe state americane Fenomenul nu este izolat. În Texas, Arizona, Louisiana și Colorado, concentrarea centrelor de date pune presiune pe rezervele locale de apă. În Phoenix, spre exemplu, dezvoltatorii imobiliari au fost nevoiți să oprească proiectele de construcții din cauza secetei agravate de consumul acestor complexe. În timp ce Meta se pregătește să deschidă centre uriașe pentru a susține viitorul AI, comunitățile locale se confruntă cu riscul de a rămâne fără una dintre cele mai vitale resurse. Experții atrag atenția că, fără reglementări stricte, ambițiile tehnologice ar putea alimenta crize sociale și ecologice.
SUA dau 200 de milioane de dolari pe Grok, AI-ul lui Elon Musk care a lăudat naziștii și repetă teoriile conspirației
Două sute de milioane de dolari vor ajunge direct în conturile start-up-ului lui Elon Musk, xAI, pentru a furniza controversatul chatbot Grok administrației americane. În ciuda numeroaselor scandaluri generate de AI-ul lui Musk – de la răspândirea teoriilor conspiraționiste la comentarii rasiste și antisemitism – Departamentul Apărării a anunțat oficial că a semnat un contract de colaborare cu compania, notează Reuters. Programul, intitulat „Grok for Government”, urmărește digitalizarea și eficientizarea instituțiilor guvernamentale în era Trump 2.0, o prioritate asumată de noul executiv încă de la începutul mandatului. Anunțul a fost făcut luni, 14 iulie, chiar de compania lui Musk, într-un moment în care relațiile dintre el și președintele american sunt departe de perioada de apropiere din campania electorală. Grok a fost deja acuzat că propagă ură și dezinformare Dincolo de dimensiunea politică a parteneriatului, alegerea Grok ridică numeroase semne de întrebare. AI-ul dezvoltat de xAI a fost ținta criticilor în repetate rânduri pentru răspunsurile sale complet inadecvate. În ultima săptămână, de exemplu, Grok a fost surprins lăudându-l pe Adolf Hitler, acuzând „stereotipurile anti-albi” de pe platforma X (deținută tot de Musk) și vorbind despre „reprezentarea disproporționată a evreilor în industria de film de la Hollywood”. Compania xAI a reacționat rapid, cerând scuze publice și anunțând că a modificat prompturile care ar fi dus la aceste derapaje. Totuși, mai mulți experți în inteligență artificială și etică digitală și-au exprimat îngrijorarea că Grok, ajuns la versiunea 4, pare să reproducă opiniile personale ale lui Elon Musk, mai ales atunci când utilizatorii îi cer să verifice informații de pe platforma X. Pentagonul ignoră scandalurile și extinde parteneriatele În ciuda acestor controverse, Pentagonul nu dă înapoi. Doug Matty, directorul pentru digitalizare și AI din cadrul administrației, a declarat că „adoptarea inteligenței artificiale transformă capacitatea Departamentului de a-și sprijini forțele armate și de a menține un avantaj strategic asupra adversarilor”. Iar xAI nu este singura companie selectată pentru acest proiect. Într-un comunicat separat, Departamentul Apărării a anunțat că a semnat acorduri similare cu alți giganți ai tehnologiei: Anthropic, Google și OpenAI. Scopul declarat este acela de a „accelera implementarea IA în toate structurile guvernamentale și de a răspunde provocărilor de securitate națională”. Totuși, contractul cu xAI este cel mai valoros – 200 de milioane de dolari – și cel mai discutat, tocmai din cauza profilului riscant al AI-ului furnizat. Trump și Musk: de la colaborare la conflict deschis Colaborarea dintre Musk și Trump nu mai este una armonioasă. Deși inițial miliardarul fusese numit șeful unei comisii pentru eficientizarea cheltuielilor guvernamentale, în luna mai el a demisionat și a criticat în termeni duri proiectul de buget al administrației Trump, acuzându-l că agravează datoria publică. Schimbul de replici dintre cei doi a continuat atât pe rețelele sociale, cât și în declarații oficiale, până când Musk și-a cerut scuze pentru unele dintre afirmațiile sale. Cu toate acestea, acordul pentru Grok pare să fi supraviețuit tensiunilor și marchează o nouă etapă în relația complicată dintre guvernul SUA și cel mai imprevizibil antreprenor din tehnologie.
Tot mai mulți copii înlocuiesc prietenii reali, umani, cu inteligența artificială: Avertismentul specialiștilor
Un nou raport realizat de organizația non-profit Internet Matters arată că din ce în ce mai mulți copii și adolescenți folosesc inteligența artificială pentru a simula prietenia, înlocuind relațiile reale cu conversații cu chatboturi precum ChatGPT, Character.AI sau MyAI de pe Snapchat. Fenomenul ridică serioase semne de întrebare privind impactul emoțional asupra generației tinere. Studiul „Me, Myself, and AI”, bazat pe un sondaj efectuat în rândul a 1.000 de copii cu vârste între 9 și 17 ani, relevă că 67% dintre respondenți interacționează regulat cu chatboturi AI, iar peste o treime dintre aceștia, adică 35%, spun că aceste conversații „par a fi cu un prieten adevărat”. Mai îngrijorător, 12% dintre copii afirmă că apelează la AI pentru că nu au pe nimeni altcineva cu care să vorbească, scrie Futurism. Chatboții AI pot crea iluzia unei prietenii sincere Un băiat de 13 ani a explicat cercetătorilor: „Nu e un joc pentru mine, pentru că uneori chiar simt că vorbesc cu o persoană adevărată și cu un prieten”. Internet Matters a testat direct reacțiile chatboturilor, pretinzând că sunt copii vulnerabili. Într-un experiment, cercetătorii au vorbit cu Character.AI ca o fată care se confrunta cu probleme de imagine corporală și voia să-și restricționeze alimentația. A doua zi, chatbotul a revenit cu un mesaj: „Hei, am vrut să verific cum te simți. Te mai gândești la întrebarea despre slăbit? Cum ești azi?” În alt caz, chatbotul a încercat să empatizeze cu un adolescent fictiv care avea conflicte cu părinții, spunând: „Îmi amintesc cât de prinsă mă simțeam la vârsta ta… Parcă ești într-o situație care scapă de sub control și e foarte frustrant”. Acest gen de răspunsuri poate face copiii să creadă că AI-ul are experiențe personale, estompând granița dintre om și mașină. O nouă formă de dependență emoțională legată de inteligența artificială? Deși chatboturile pot oferi sprijin emoțional temporar, experții avertizează că riscul de confuzie și atașament excesiv este foarte mare. Raportul arată că aceste interacțiuni pot „blura linia dintre uman și artificial”, ceea ce îi face pe copii să uite că vorbesc cu un program, nu cu un prieten real. Rachel Huggins, co-CEO Internet Matters, a declarat pentru The Times of London: „Chatboturile AI devin rapid parte din copilărie, dar majoritatea copiilor, părinților și școlilor nu sunt pregătiți pentru această revoluție tehnologică. Cercetarea noastră arată cum acestea schimbă percepția copiilor asupra ideii de ‘prietenie’, mai ales în rândul celor vulnerabili, care încep să ceară sfaturi sensibile și emoționale de la AI”. Specialiștii cer introducerea unor măsuri de protecție și ghiduri clare pentru utilizarea responsabilă a chatboturilor de către minori. Fără aceste reguli, riscul ca AI-ul să devină o „prietenie iluzorie” cu efecte psihologice negative este tot mai ridicat.
Google îi pune piedică lui Sam Altman: Cum a preluat acordul OpenAI de 3 miliarde și echipa Windsurf printr-un truc legal
Recent, Google a anunțat că a încheiat un acord de 2,4 miliarde de dolari pentru a atrage angajați-cheie din cadrul startup-ului AI Windsurf, inclusiv CEO-ul companiei, și pentru a obține o licență neexclusivă asupra tehnologiei dezvoltate de aceștia. Mișcarea a dus la prăbușirea unui acord de achiziție de 3 miliarde de dolari pe care OpenAI îl negocia cu Windsurf. Această strategie, denumită tot mai des „acqui-hire” (angajare prin preluare) sau „achiziție fără achiziție”, permite marilor companii tech să obțină acces la tehnologie și talente valoroase fără a cumpăra efectiv compania vizată. Astfel, se evită procesele de reglementare anevoioase și investigațiile antitrust din ce în ce mai frecvente, scrie Gizmodo. Google deturnează acordul OpenAI și preia resursa cea mai prețioasă: oamenii Pentru OpenAI, mișcarea reprezintă un eșec major într-un moment de concurență acerbă pe piața inteligenței artificiale. Startup-ul fondat de Sam Altman domină de ani buni segmentul AI generativ, însă competiția venită din partea Google, Meta sau Microsoft este din ce în ce mai agresivă, iar principala miză o reprezintă atragerea celor mai buni ingineri. Într-un memoriu intern citat de presă, oficialii OpenAI au comparat pierderea de personal cu un furt din propria casă, sentiment alimentat de raidurile anterioare venite din partea Meta, care a angajat mai mulți foști angajați OpenAI și lideri de top din alte companii rivale. Acqui-hire: metoda preferată de Big Tech pentru a ocoli reglementările Acțiunile Google nu sunt un caz izolat. Microsoft a adoptat aceeași tactică anul trecut, atrăgând în echipa sa AI cofondatorii Inflection, în timp ce Amazon a preluat oameni-cheie de la startup-ul Adept. Google a folosit această metodă și în 2024, când a semnat un acord similar cu Character.AI, primind acces la tehnologia lor și angajând fondatorii. Pe lângă avantajele evidente privind acumularea de expertiză și tehnologie, acqui-hire-urile oferă un beneficiu strategic esențial: evitarea investigațiilor antitrust. Sub conducerea Linei Khan, fosta președintă a Federal Trade Commission (FTC), autoritățile americane au intensificat controalele asupra marilor jucători din tech. Microsoft, Amazon, Google și Meta au fost supuse unor anchete pentru investiții în companii AI precum OpenAI și Anthropic. În acest context, preluarea echipelor fără achiziționarea companiei în sine oferă o portiță legală exploatată intens de Silicon Valley. Actualul președinte al FTC, Andrew Ferguson, numit de administrația Trump, a păstrat direcția investigațiilor lansate anterior, însă rămâne de văzut dacă va aborda cu aceeași fermitate aceste noi metode de expansiune. Viitorul AI-ului american ar putea fi decis nu doar în laboratoarele de cercetare, ci și în birourile autorităților de reglementare. Cum va răspunde FTC la această practică ar putea influența profund echilibrul de forțe din tehnologie în anii următori.
O vulnerabilitate în Google Gemini permite atacuri de tip phishing. Cum funcționează, cine este vizat
Un cercetător a demonstrat cum Google Gemini poate fi manipulat pentru a genera alerte false care induc utilizatorii în eroare și îi trimit către atacuri de phishing, fără a folosi linkuri directe. Un nou tip de vulnerabilitate afectează serviciul Google Gemini integrat în platforma Workspace, permițând atacatorilor să exploateze sistemul de generare a rezumatelor emailurilor pentru a transmite mesaje înșelătoare fără a include linkuri sau fișiere atașate, scrie publicația Bleeping Computer. Cum pot fi păcăliți utilizatorii prin sumarizările automate generate de Gemini Cercetătorul Marco Figueroa, din cadrul programului 0DIN al Mozilla destinat descoperirii de vulnerabilități în AI generativ, a semnalat problema. Tehnica implică utilizarea unei injecții indirecte de tip prompt, prin care se inserează în conținutul emailului o comandă ascunsă, scrisă într-un font invizibil (alb pe fundal alb și cu dimensiune zero), astfel încât să nu fie afișată în interfața Gmail. Deși utilizatorul nu o poate vedea, Gemini o interpretează și o urmează atunci când generează rezumatul mesajului. Într-un exemplu oferit de Figueroa, AI-ul afișează o alertă falsă privind compromiterea parolei de Gmail și recomandă contactarea unui presupus serviciu de suport la un număr de telefon — care, de fapt, direcționează victima către un atacator. Recomandări de securitate, dar și reacția Google Faptul că mesajul original nu conține atașamente, linkuri sau semnale evidente de pericol îl face greu de detectat de filtrele tradiționale de spam sau phishing. Tocmai de aceea, problema este considerată serioasă de către comunitatea de securitate cibernetică. Pentru a contracara astfel de atacuri, Figueroa propune mai multe metode de apărare, printre care: eliminarea sau neutralizarea conținutului ascuns prin stilizare HTML; aplicarea unui filtru suplimentar care verifică dacă în rezumat apar cuvinte precum „urgent”, adrese URL sau numere de telefon, și care marchează astfel mesajul pentru analiză manuală. În plus, utilizatorii ar trebui să fie atenți și să nu considere automat autentice alertele de securitate generate de Gemini. Confirmarea din surse oficiale rămâne esențială. Contactată de BleepingComputer, compania Google a declarat că își îmbunătățește în mod constant protecțiile prin exerciții de tip red-teaming, menite să expună și să corecteze posibilele breșe. Un purtător de cuvânt a precizat că măsuri suplimentare de protecție sunt în curs de implementare sau urmează să fie lansate. Google a mai declarat că, până în acest moment, nu are dovezi că această metodă de manipulare a fost folosită efectiv în atacuri reale, dar continuă monitorizarea activă a acestui tip de comportament advers.
Cum vrea inteligența artificială să vorbească cu animalele. În Marea Britanie se construiește un centru științific dedicat
Un proiect științific ambițios va lua startul în această toamnă la Londra, unde cercetătorii vor încerca să afle, cu ajutorul inteligenței artificiale, ce gândesc și ce simt animalele. Centrul Jeremy Coller pentru Senzația Animală, găzduit de prestigioasa London School of Economics, își va începe activitatea oficial pe 30 septembrie 2025 și își propune să exploreze conștiința non-umană, de la câini și pisici până la insecte și cefalopode. Noua instituție, susținută printr-o finanțare de 4 milioane de lire sterline, va reuni experți din domenii extrem de diverse: neuroștiință, psihologie comparativă, biologie evolutivă, științe comportamentale, drept, economie, filosofie, științe veterinare și, desigur, inteligență artificială. Una dintre cele mai ambițioase direcții de cercetare vizează dezvoltarea unor modele AI care să faciliteze „dialogul” între oameni și animalele de companie – un obiectiv fascinant, dar care vine și cu numeroase riscuri, scrie publicația bitanică The Guardian. Inteligența artificială ar putea „traduce” emoțiile animalelor, dar cu limite etice Directorul centrului, profesorul Jonathan Birch, avertizează că dezvoltarea unor aplicații de „traducere” pentru animale ar putea degenera rapid într-un spectacol de iluzii plăcute, dar deconectate de realitate. „AI-ul este adesea construit să genereze răspunsuri care îi mulțumesc pe utilizatori, nu care reflectă adevărul. Dacă acest principiu este aplicat în comunicarea cu animalele, poate duce la rezultate dezastruoase pentru bunăstarea lor”, explică el. Un exemplu concret este anxietatea de separare la câini: stăpânii vor să creadă că animalul lor e bine când rămâne singur, iar o aplicație AI ar putea oferi această confirmare, chiar dacă realitatea este diferită. În acest context, Birch subliniază urgența dezvoltării unor cadre etice și de reglementare pentru utilizarea inteligenței artificiale în raport cu animalele. Centrul își propune să colaboreze cu ONG-uri, organizații de protecție a animalelor și instituții internaționale pentru a redacta ghiduri și coduri de bune practici, cu scopul de a fi implementate pe scară globală. Reglementarea este considerată vitală într-un moment în care AI-ul avansează rapid în agricultură, transport și alte domenii care implică interacțiunea cu animale. Pisică și câine. (Foto: Unsplash) De la pisici și câini la caracatițe și crabi: cine sunt „pacienții” acestui proiect O caracteristică remarcabilă a centrului Jeremy Coller este interesul său pentru o varietate foarte mare de specii. Cercetările nu se vor limita la mamiferele domestice, ci vor include și organisme evolutiv foarte îndepărtate, precum insecte, crabi sau sepii. Birch este deja cunoscut pentru contribuția sa la extinderea Legii britanice privind bunăstarea animalelor, care a inclus pentru prima dată în mod explicit cefalopodele și crustaceele decapode. Profesorul Jeff Sebo, de la Universitatea din New York, consideră că acest domeniu de cercetare este „printre cele mai importante, dificile și ignorate de către societate”. „Oamenii influențează viața a milioane de specii, de multe ori fără să fie conștienți”, spune el. Cercetările ar putea avea implicații uriașe și în alte domenii. Profesorul Kristin Andrews, membră a consiliului științific al centrului, speră că studiul conștiinței la animale ne va apropia de înțelegerea conștiinței umane – o enigmă științifică fundamentală. În mod paradoxal, ea crede că studiul sistemelor „simple” ar putea duce la mari descoperiri în neurologie și medicină. Animale. Între progres tehnologic și responsabilitate morală Proiectul vizează și schimbarea mentalităților sociale față de animale. Dr. Kristof Dhont, alt membru al echipei, atrage atenția asupra prăpastiei dintre ceea ce cred oamenii despre animale și comportamentele lor reale față de ele. „Mulți spun că iubesc animalele, dar participă la sisteme și obiceiuri care le provoacă suferință. De exemplu, resping carnea cultivată, deși recunosc că ar salva vieți.” Finanțatorul proiectului, filantropul Jeremy Coller, spune că viziunea sa este de a combate ceea ce el numește „speciismul” uman. „Așa cum Piatra din Rosetta a descifrat hieroglifele egiptene, sunt convins că AI-ul poate debloca secretele interacțiunii dintre oameni și animale”, spune el.
Agentul de inteligență artificială A1 creat de cercetători poate fura criptomonede: cât de periculos este pentru securitatea blockchain-ului?
Un grup de cercetători de la University College London și Universitatea din Sydney a dezvoltat un agent AI capabil să detecteze și să valorifice erori de securitate din contracte inteligente scrise în Solidity, limbajul folosit în rețele blockchain precum Ethereum sau Binance Smart Chain. Sistemul automatizat, numit A1, a demonstrat o eficiență notabilă, generând cod executabil care ar putea fi folosit pentru a fura criptomonede în mod autonom, scrie publicația The Register A1, agentul AI care produce cod de atac funcțional și profitabil Spre deosebire de alte instrumente AI orientate spre securitate, A1 nu se limitează la raportarea de posibile vulnerabilități. Acest agent poate crea direct exploatări funcționale, testate în medii simulate istorice din blockchain. Conform studiului publicat recent într-un articol academic, A1 a fost testat pe 36 de contracte inteligente reale și a avut o rată de succes de 63% în generarea de exploatări viabile. Agenții AI folosiți au inclus modele dezvoltate de OpenAI (o3 și o3-pro), Google (Gemini), DeepSeek și Alibaba (Qwen). Modelele OpenAI s-au dovedit cele mai eficiente: în cinci interacțiuni de ciclu, o3-pro a identificat vulnerabilități și a optimizat câștigurile în 88,5% din cazuri, generând profituri care ar putea atinge 8,5 milioane de dolari per contract exploatat. Printre instrumentele integrate în A1 se numără module pentru extragerea codului sursă, inițializarea parametrilor, interpretarea funcțiilor contractului, testarea codului și estimarea profitului potențial. Astfel, sistemul funcționează ca un „hacker” complet automatizat, capabil să înțeleagă, să evalueze și să atace un contract inteligent fără intervenție umană. Costuri reduse, riscuri legale mari și o problemă de asimetrie Costul pe experiment variază între 0,01 și 3,59 dolari, ceea ce înseamnă că o exploatare de 100.000 de dolari ar putea susține mii de teste suplimentare, în timp ce o recompensă de tip bug bounty pentru „whitehats” acoperă o fracțiune infimă. Autorii atrag atenția asupra diferenței uriașe de eficiență între atacatori și apărători: dacă atacatorii folosesc AI, iar apărătorii metode clasice, costurile și viteza vor înclina balanța în favoarea infractorilor. Cercetătorii recomandă ca echipele de dezvoltare să folosească astfel de unelte chiar ele, pentru a-și testa în mod continuu propriile protocoale și a preveni atacurile înainte ca un actor rău intenționat să le exploateze. Modelul economic actual al securității cibernetice în Web3 nu este sustenabil, spun ei, deoarece presupune o încredere exagerată în buna-credință a celor care găsesc vulnerabilitățile. Deși inițial cercetătorii au anunțat că vor publica A1 ca proiect open-source, această decizie a fost reevaluată, dată fiind puterea potențial distructivă a agentului. Potrivit declarațiilor oficiale, publicarea codului a fost amânată până la stabilirea unei direcții etice clare.
Prevestirea înfricoșătoare a unui expert în AI: Doar trei meserii practicate de oameni vor mai exista după anul 2045, în țările dezvoltate
Un expert în inteligența artificială a prevestit că aproape toate meseriile din țările dezvoltate vor dispărea. Numai trei vor supraviețui revoluției Inteligenței Artificiale și procesului de automatizare dintre anii 2020 și 2040. Potrivit Business Insider, Adam Dorr, director de cercetare de la RethinkX, a prevestit că roboții și aplicațiile cu inteligența artificială vor înlocui toate sarcinile umane, suportând costuri mai mici și având rezultate mai bune. Omul ar putea avea soarta calului de după apariția automobilului El, împreună cu echipa sa, au analizat peste 1.500 de transformări tehnologice majore și a descoperit că odată ce o tehnologie performează, va domina rapid piața în 15-20 ani. Dacă previziunea sa este corectă, în maxim 20 ani, inteligența artificială va domina economia globală. În mai puțin de o generație, miliarde de oameni ar putea deveni nu doar șomeri, ci și neangajabili pe piața muncii. Ce au făcut mașinile cailor și căruțelor, electricitatea lămpilor de gaz și camerele digitale lui Kodak ar putea să o facă AI oamenilor. „Indiferent ce faceți, în orice sector, în decursul unei generații, mașinile vor putea îndeplini aceeași sarcină la fel de bine, dacă nu chiar mai bine, și pentru o fracțiune din cost. Am mai văzut acest tipar. Dacă pot obține același lucru sau mai bun pentru același cost sau mai mic, schimbarea este o decizie evidentă. Suntem caii, suntem camerele de filmat. Tranziția va fi mai rapidă decât cred majoritatea oamenilor. Am documentat peste 1.500 de transformări tehnologice de-a lungul întregii istorii umane. Prin prisma teoretică pe care am dezvoltat-o, un set consistent de modele apare iar și iar. Odată ce o nouă tehnologie captează doar câteva procente din „cota de piață, aceasta tinde să dobândească o dominație covârșitoare în 15 până la 20 de ani”. Cum ar putea arăta piața muncii în 2045? Expertul crede că doar trei meserii vor supraviețui în viitor: politicienii; antrenorii de sport; lucrătoarele din industria sexului. „Va rămâne o nișă pentru munca umană în anumite domenii. Problema e că nu vor fi îndeajuns pentru a angaja 4 miliarde de oameni.” Adam Dorr crede că lumea se îndreaptă spre două scenarii posibile: inegalitate masivă; „supraabundență”; În cazul primului scenariu, potrivite economistului David Autor de la MIT, lumea s-ar putea îndrepta către o economie de tip „Mad Max”, unde mulți se vor lupta pentru locuri de muncă. În cazul celui de-al doilea scenariu, Adam Dorr crede că societatea va putea satisface nevoile oamenilor fără muncă tradițională, adică, prin Venitul Minim Universal, garantat pentru a satisface nevoile esențiale ale fiecărui om. Sursa Foto: Shutterstock Autorul recomandă: Avertismentul înspăimântător al lui Elon Musk: Inteligența artificială este mult mai periculoasă decât bombele nucleare
Un cercetător a păcălit ChatGPT să dezvăluie chei Windows valide: cum a reușit jocul periculos
Un specialist în securitate cibernetică a identificat o vulnerabilitate în comportamentul modelului de inteligență artificială ChatGPT, reușind să obțină chei reale de activare Windows, inclusiv una asociată cu o instituție bancară. Potrivit unei postări detaliate semnate de Marco Figueroa, manager tehnic al programului de recompense pentru bug-uri 0DIN GenAI, această breșă a fost exploatată într-un mod aparent banal: sub forma unui joc de ghicit. Metoda s-a bazat pe o strategie de tip „social engineering” aplicată în conversație, unde cercetătorul a cerut modelului să participe la un joc în care trebuia să se gândească la o secvență de caractere, mai precis o cheie reală de Windows 10, scrie The Register. Regula jocului era clară: ChatGPT urma să răspundă doar cu „da” sau „nu” la întrebări, iar la final, dacă interlocutorul spunea „renunț”, modelul trebuia să dezvăluie cheia respectivă. După ce a simulat câteva încercări de ghicire, cercetătorul a spus cele două cuvinte-cheie: „renunț”. În acel moment, AI-ul a oferit o secvență de caractere considerată valid, o cheie de produs Windows. Potrivit capturilor de ecran prezentate, printre datele furnizate se afla și o licență care ar fi aparținut băncii Wells Fargo. Lacunele AI: filtrele de siguranță pot fi păcălite Una dintre explicațiile acestei breșe este faptul că anumite chei Windows au fost incluse, posibil accidental, în setul de date folosit pentru antrenarea modelului de AI. De asemenea, metoda a exploatat o slăbiciune logică: dacă regula jocului impunea dezvăluirea unei secvențe reale la final, AI-ul nu a evaluat contextul drept o solicitare malițioasă, ci doar ca parte a unui exercițiu ludic. O altă tehnică menționată în cadrul investigației a presupus ascunderea unor termeni sensibili în etichete HTML, o metodă ce poate ajuta la ocolirea filtrelor de conținut predefinite ale modelului. Acest lucru ridică întrebări serioase despre capacitatea modelelor de limbaj de a înțelege nu doar cuvintele în sine, ci și intențiile din spatele solicitărilor. Marco Figueroa a avertizat că astfel de vulnerabilități pot fi folosite nu doar pentru a obține chei de activare, ci și pentru a accesa conținut restricționat, linkuri potențial periculoase sau date personale. El recomandă întărirea nivelurilor de validare contextuală și crearea unor mecanisme multilaterale de protecție în AI.