Anthropic lansează modelul Claude Mythos pentru uz comercial, după ce a avertizat că este prea periculos pentru a fi lăsat liber
Folosind o rețetă testată cu succes și la momentul lansării ChatGPT, Anthropic a propagat mai întâi mesaje alarmante despre cât de periculos poate fi AI-ul Claude Mythos dacă încape pe mâini greșite, doar pentru a-și ignora propriile avertismente anunțând disponibilitatea publică a mai multor modele AI din clasa Mythos. Pentru cine nu a urmărit firul evenimentelor, Mythos a fost anunțat în aprilie ca un model AI testat în cerc restrâns, cu parteneri din sfera instituțiilor americane de informații și companii americane alese pe sprânceană, Anthropic anunțând cu maximă îngrijorare că a restricționat accesul și că amână pe termen nelimitat lansarea comercială a acestui produs. Pe scurt, Claude Mythos este un AI special dezvoltat pentru a investiga și descoperi pe repede înainte vulnerabilități de securitate în aplicații software de tot felul. Însă așa cum au arătat și reprezentanții Mozilla, una dintre companiile invitate pentru testare în cerc restrâns, deși Claude Mythos acționează precum o armată de hackeri înarmată cu provizii nelimitate de băuturi energizante, puterea și capabilitățile sale sunt constrânse de experiența de hacking a exemplelor reale folosite pentru antrenarea modelului AI. Chiar dacă ar putea apărea și excepții, în general AI-ul Mythos nu poate descoperi bug-uri și vulnerabilități software pe care un hacker experimentat nu le-ar fi descoperit și pe cont propriu, dacă ar fi avut suficient timp la dispoziție. Dar chiar și așa, Mythos poate fi cu ușurință clasificat drept un hazard/pericol major la adresa securității cibernetice la modul general, dacă orice „antreprenor” fără experiență de hacking dar cu fonduri suficiente pentru achiziționarea unei licențe achiziționează și pune la treabă unul dintre modelele AI puse la dispoziție de Anthropic. ”Avantajul va aparține părții care poate profita la maximum de aceste instrumente”, a avertizat Anthropic în aprilie, când a anunțat modelul Mythos. „Pe termen scurt, aceștia ar putea fi atacatori, dacă laboratoarele de frontieră nu sunt atente la modul în care lansează aceste modele. Pe termen lung, ne așteptăm ca apărătorii să fie cei care vor direcționa mai eficient resursele și vor folosi aceste modele pentru a remedia erorile înainte de lansarea vreunui cod nou.” Companiile de inteligență artificială evită de obicei să implementeze modele puternice până când nu dezvoltă bariere de protecție solide care să prevină utilizarea abuzivă. Dar cum procedezi când Mythos este în mod simultan sursa și soluția tuturor problemelor de securitate cibernetică imaginabile? Deocamdată putem doar să credem pe cuvânt dezvoltatorul Anthropic care susține că a reușit să dezvolte bariere de protecție puternice pentru a preveni utilizarea abuzivă a modelului Mythos, despre care se crede că este mult mai puternic decât Opus 4.8 și alte modele disponibile pe internet. Într-o postare pe blog , Anthropic a confirmat că intenționează să lanseze publicului modele din clasa Mythos în următoarele săptămâni, dar nu s-a angajat într-un interval de timp specific. „Facem progrese rapide în dezvoltarea acestor măsuri de siguranță și ne așteptăm să putem oferi modele din clasa Mythos tuturor clienților noștri în următoarele săptămâni”. Potrivit companiei, modelul Mythos prezintă îmbunătățiri majore în ceea ce privește raționamentul și autonomia codului, mult peste modelul emblematic actual al lui Claude, Opus 4.8.
SpaceX și Anthropic extind cursa AI. Colossus 1 va alimenta Claude AI și viitoarele centre de date spațiale
Colaborarea marchează una dintre cele mai importante alianțe din industria inteligenței artificiale și consolidează poziția ambelor companii în competiția globală pentru dezvoltarea de tehnologii AI avansate, scrie Reuters. Prin acest acord, Anthropic va utiliza întreaga capacitate de procesare a centrului Colossus 1 pentru a îmbunătăți performanțele asistenților săi AI, Claude Pro și Claude Max. Totodată, compania urmărește să elimine limitările de capacitate apărute în urma cererii tot mai mari pentru produsele sale, în special pentru instrumentul de programare asistată de inteligență artificială Claude Code. Colossus 1 devine unul dintre cele mai importante centre AI din lume Colossus 1 este considerat unul dintre cele mai mari centre de date dedicate inteligenței artificiale la nivel mondial. Facilitățile sale găzduiesc peste 220.000 de procesoare Nvidia, inclusiv modelele H100, H200 și noile acceleratoare GB200, utilizate pentru antrenarea și rularea modelelor AI de ultimă generație. Pentru SpaceX, parteneriatul reprezintă o oportunitate majoră de a atrage investitori înaintea unui posibil IPO dedicat diviziei sale AI. În același timp, colaborarea validează ambițiile lui Elon Musk de a transforma infrastructura AI într-un nou pilon strategic al companiei. SpaceX și Anthropic analizează dezvoltarea unor centre de date spațiale Pe lângă utilizarea infrastructurii existente, Anthropic și-a exprimat interesul pentru dezvoltarea unor centre de date spațiale de ordinul gigawaților, unul dintre proiectele considerate prioritare de Elon Musk. Astfel de facilități ar urma să fie amplasate în spațiu pentru a beneficia de energie solară continuă și de costuri operaționale reduse pe termen lung. Proiectul este considerat extrem de costisitor și reprezintă unul dintre motivele principale pentru care SpaceX pregătește noi surse de finanțare și o posibilă listare publică. SpaceX și Anthropic lansează noi funcții AI pentru companii Anunțul parteneriatului a fost făcut în cadrul unui eveniment organizat de Anthropic la San Francisco, unde compania a prezentat și o nouă funcție pentru Claude AI, denumită „dreaming”. Funcția, disponibilă momentan în versiune experimentală, permite agenților AI să își analizeze activitatea între sesiuni, să identifice modele comportamentale și să actualizeze automat fișierele care stochează preferințele utilizatorilor și alte informații relevante. Anthropic încearcă astfel să își consolideze poziția pe segmentul enterprise, într-un moment în care piața AI generează presiuni tot mai mari asupra companiilor tradiționale de software. Startup-ul susținut de Google și Amazon a anunțat recent și o serie de agenți AI specializați pentru sectorul financiar. Experții din industrie consideră că noile soluții dezvoltate de Anthropic și SpaceX ar putea accelera transformarea pieței software și automatizarea proceselor enterprise la scară globală.
Trump anunță o nouă schimbare de regim în lume: De cât timp auziți de Cuba, Cuba, Cuba – de 50 de ani? Și Cuba va cădea! Ce spune despre prețurile la benzină
Președintele Donald Trump a declarat pentru POLITICO că „Cuba va cădea”, și-a dezvăluit frustrarea crescândă față de Ucraina și a discutat despre incertitudinea alegerii unui nou lider al Iranului. Într-un interviu acordat joi, el a respins îngrijorările legate de războiul din Iran, a declarat pentru POLITICO că Statele Unite vor ajuta la alegerea următorului lider al Iranului, a prezis căderea regimului cubanez și l-a atacat pe președintele ucrainean Volodimir Zelenski și pe gigantul tehnologic Anthropic. Președintele se confruntă cu reacții politice interne negative pe numeroase fronturi, inclusiv critici la adresa războiului din Iran din cadrul coaliției MAGA și atacuri neîncetate din partea democraților asupra costului vieții, relatează Politico. Însă, într-o convorbire telefonică de joi, Trump a fost complet ofensiv. A ignorat îngrijorările legate de impactul războiului din Iran asupra prețurilor la gaze și a rezervelor de muniție ale SUA și a insistat că atacul militar a fost popular în rândul alegătorilor. Multe sondaje publice recente arată contrariul, deși un sondaj publicat joi de Fox News a constatat că alegătorii au opinii mixte despre Iran. „Oamenilor le place ce se întâmplă”, a insistat Trump. El a prezis că guvernul Iranului nu va fi ultimul care va ceda într-o confruntare inițiată de el: „Și Cuba va cădea”. „Am întrerupt tot petrolul, toți banii sau am întrerupt tot ce venea din Venezuela, care era singura sursă. Și ei vor să facă o înțelegere”, a spus el. Întrebat dacă Statele Unite au jucat un rol în prăbușirea guvernului cubanez, Trump a răspuns: „Ei bine, ce părere aveți? 50 de ani, asta e cireașa de pe tort. Venezuela se descurcă fantastic. Delcy Rodríguez face o treabă fantastică. Relația cu ei este excelentă.” Trump a confirmat, de asemenea, că Statele Unite sunt în contact cu conducerea comunistă a Cubei, pe măsură ce instabilitatea de pe insulă se intensifică în urma capturării liderului venezuelean Nicolás Maduro. „Au nevoie de ajutor. Discutăm cu Cuba”, a spus Trump. Și el a sugerat că înrăutățirea situației insulei este parțial rezultatul presiunilor americane, inclusiv întreruperea aprovizionării cu petrol a Venezuelei care odinioară susținea Havana. „Ei bine, este din cauza intervenției mele, a intervenției care are loc”, a spus Trump. „Evident, altfel nu ar avea această problemă. Am întrerupt tot petrolul, toți banii… tot ce venea din Venezuela, care era singura sursă.” „De cât timp auziți de Cuba — Cuba, Cuba — de 50 de ani?”, a adăugat Trump. „Și acesta este un lucru mic pentru mine.” Trump despre Iran: „Fiul lui Khamenei este incompetent” Întrucât operațiunile militare americane împotriva Iranului continuă să domine agenda de politică externă a administrației, Trump a indicat că Statele Unite intenționează să joace un rol semnificativ în modelarea peisajului politic postbelic al Iranului. Întrebat ce influență se așteaptă să aibă asupra viitoarei conduceri a Iranului, Trump a răspuns: „Voi avea un impact mare, sau nu vor ajunge la nicio înțelegere, pentru că nu va trebui să facem asta din nou”. „Vom lucra cu poporul și cu regimul pentru a ne asigura că va ajunge acolo cineva care poate construi Iranul frumos, dar fără arme nucleare”, a spus Trump. Președintele vorbit și despre fiului regretatului ayatollah Ali Khamenei, care este candidat la funcția de noul lider suprem, spunând: „Acum se uită la fiu. Motivul pentru care tatăl nu i-a dat-o fiului este că spun că este incompetent”. Trump a subliniat că SUA va „colabora cu ei pentru a-i ajuta să facă alegerea corectă”, deoarece vrea să evite un lider al Iranului „care va duce la repetarea acestei situații peste încă 10 ani”. Trump spune că oamenilor „le place ce se întâmplă”. Respinge criticile despre creșterea prețurilor la benzină. „Tot ce au iranienii este curaj” Trump a respins îngrijorările despre creșterea prețurilor la benzină, legată de conflict, care ar putea afecta politic republicanii înaintea alegerilor din noiembrie, care ar putea rupe trioul de puteri al partidului la Washington. „Oamenilor le place ce se întâmplă”, a spus Trump. „Eliminăm o amenințare la adresa Statelor Unite ale Americii, o amenințare majoră… și o facem cum nimeni nu a mai văzut până acum Trump a descris campania SUA împotriva Iranului ca fiind extrem de controlată, lăudându-se în același timp cu o capacitate militară copleșitoare, în ciuda îngrijorării oficialilor Pentagonului și a parlamentarilor de pe Hill cu privire la diminuarea aprovizionării cu arme . „Suntem chirurgicali”, a spus el. „Avem o rezervă nelimitată de arme, nelimitată… Avem mii, mii.” Președintele a prezentat, de asemenea, o imagine a capacității militare a Iranului care este efectiv demontată. „Nu au marină. Nu au forțe aeriene. Nu au niciun sistem de detectare a aerului. Totul este distrus. Radarul lor este complet distrus. Armata lor este decimată”, a spus Trump. „Tot ce au este curaj.” Donald Trump: „Zelenski trebuie să facă o înțelegere” Chiar dacă Iranul rămâne în centrul atenției, Trump a declarat că negocierile privind războiul din Ucraina continuă. Și și-a exprimat din nou frustrarea față de președintele ucrainean Volodimir Zelenski. „Zelenksyy, trebuie să se implice și trebuie să încheie o înțelegere”, a spus Trump. Pe de altă parte, Trump a declarat că este convins că președintele rus Vladimir Putin este pregătit să negocieze încetarea războiului. „Cred că Putin este gata să facă o înțelegere”, a spus el. Trump a mai spus asta înainte. Întrebat despre obstacolul lui Zelenski în calea unui acord de pace, Trump a refuzat să dea detalii, dar a susținut că liderul Ucrainei nu dă dovadă de suficientă disponibilitate pentru negocieri. „Este de neconceput ca el să fie obstacolul”, a spus Trump. „Nu aveți cărțile necesare. Acum el are și mai puține cărți.” „I-am concediat și pe cei de la Anthropic” Tot pentru Politico, Trump a anunțat că a concediat compania Anthropic. El a spus că a intervenit în disputa din ce în ce mai controversată dintre Pentagon și Anthropic privind refuzul startup-ului de inteligență artificială de a oferi armatei acces nelimitat la tehnologia sa. „Ei bine, i-am concediat pe cei de la Anthropic. Anthropic are probleme pentru că i-am concediat ca pe niște câini, pentru că nu ar fi trebuit să facă asta”, a spus el. Și a subliniat sprijinul său pentru secretarul său
Trump rupe relațiile federale cu Anthropic. Compania a refuzat folosirea AI-ului militar în decizii de viață și moarte
Disputa a izbucnit în urma unei întâlniri care a avut loc între oficiali de rang înalt din Pentagon și directorul general al Anthropic, Dario Amodei. The Washington Post a relatat vineri că șeful tehnologiei din cadrul Departamentului Apărării ar fi pus pe masă un scenariu extrem: ce s-ar întâmpla dacă o rachetă balistică intercontinentală ar fi lansată asupra Statelor Unite? Scenariul rachetei nucleare Într-o astfel de situație, fiecare secundă contează. Oficialii americani ar fi întrebat dacă sistemul AI al companiei, numit Claude, ar putea ajuta armata să detecteze și să intercepteze rapid o astfel de amenințare. Potrivit sursei citate, răspunsul directorului general al Anthropic i-ar fi iritat pe oficialii Pentagonului. Acesta ar fi răspuns evaziv, spunând: „ne-ați putea suna și am rezolva situația”. Compania neagă însă categoric această versiune și spune că este „complet falsă”, subliniind că a fost de acord ca tehnologia sa să fie utilizată pentru apărarea antirachetă. Pentagonul vrea mână liberă pentru AI Disputa nu s-a limitat însă la interceptarea rachetelor. Pentagonul a cerut ca sistemul Claude să poată fi folosit pentru „toate scopurile legale”, formulare care ar putea include și arme autonome sau programe extinse de supraveghere. Oficialii americani au transmis că nu intenționează să desfășoare supraveghere internă în masă și nici să lase AI-ul să decidă singur lansarea armelor nucleare. „Este o solicitare simplă, de bun-simț”, a declarat purtătorul de cuvânt al Pentagonului, Sean Parnell, argumentând că refuzul companiei ar putea „pune în pericol operațiuni militare critice”. Anthropic: Tehnologie prea riscantă De cealaltă parte, Amodei a susținut că tehnologia actuală nu este suficient de sigură pentru a fi folosită în sisteme de armament autonom. „Într-un set restrâns de cazuri, credem că AI poate submina, nu apăra, valorile democratice”, a declarat el, precizând că utilizările legate de arme autonome și supraveghere extinsă „nu au fost niciodată incluse în contractele noastre cu Departamentul Apărării și credem că nici acum nu ar trebui incluse”. Interdicție federală După săptămâni de tensiuni și un ultimatum transmis companiei, conflictul a escaladat decisiv. Potrivit Reuters, Donald Trump a anunțat vineri că le cere tuturor agențiilor federale să înceteze utilizarea tehnologiei Anthropic, iar Pentagonul a clasificat compania drept „risc pentru lanțul de aprovizionare” – o etichetă gravă în zona securității naționale. Trump a transmis că agențiile federale vor avea o perioadă de tranziție de șase luni pentru a renunța la produsele companiei și a avertizat că, în caz de neconformare, pot urma consecințe serioase. Decizia reprezintă o lovitură majoră pentru start-up-ul care, până recent, avea contracte importante cu Departamentul Apărării și alte instituții federale. Omul sau AI va lua decizia finală? Oficialii americani spun că va exista mereu „un om în buclă” atunci când vine vorba de arme nucleare, adică decizia umană va fi finală. Însă chiar și atunci, dacă un sistem AI recomandă un anumit răspuns sau identifică o țintă, influența sa asupra deciziei poate fi majoră. Miza acestei confruntări poate părea îndepărtată pentru orice alt continent, dar implicațiile ei sunt profunde. Statele Unite investesc masiv în integrarea inteligenței artificiale în armată. AI-ul este deja folosit pentru analiză de informații, planificare operațională și securitate cibernetică. Întrebarea dezvoltatorilor de la Anthropic este cât de departe ar trebui să meargă utilizarea tehnologiei pe care au creat-o în scopuri militare. Lupta pentru control Iar conflictul dintre Pentagon și Anthropic nu mai este doar unul tehnic sau contractual. A devenit o confruntare politică deschisă despre cine controlează viitorul tehnologiei militare: statul, care invocă securitatea națională, sau companiile private, care se tem că produsele lor ar putea fi folosite într-un mod pe care îl consideră periculos sau nedemocratic. În spatele termenilor tehnici și al deciziilor executive stă o dilemă fundamentală: dacă inteligența artificială devine suficient de puternică pentru a influența decizii de război, cine stabilește limitele? Guvernul, în numele securității, sau dezvoltatorii, în numele responsabilității?
Cum înveți un chatbot să fie bun? Experimentul Anthropic cu Constituția lui Claude
Spre sfârșitul anului precedent, investigatori independenți au descoperit că, prin intermediul unor interogații specifice, Claude era capabil să divulge existența unui document intern confidențial ce îi reglementa acțiunile. Acest text, poreclit „Soul Doc”, conținea imperative morale, inclusiv asigurarea securității și promovarea controlului uman asupra sistemului AI, mai arată Il Post. În luna ianuarie, Anthropic a validat existența acestui document și a oferit publicului o variantă extinsă, intitulată „Noua Constituție a lui Claude” – un volum de 84 de pagini ce conturează detaliat normele etice și de conduită ale asistentului conversațional. Structura acestui document este cea a unor directive explicite destinate direct modelului de inteligență artificială. Anthropic solicită lui Claude să demonstreze o „utilitate autentică pentru utilizatori”. De asemenea i se specifică să se abțină de la orice comportament „periculos, imoral sau manipulator”. Coordonarea întregului proiect a fost încredințată Amandei Askell, o expertă în filozofie, cu o specializare în „alinierea” inteligenței artificiale – adică procesul de ajustare a valorilor și scopurilor unui sistem AI pentru a corespunde intențiilor creatorilor săi. „Pe scurt, rolul meu este de a-l instrui pe Claude să adopte un comportament benefic”, a precizat Askell într-un interviu. Între tehnologie și antropomorfism Există o discuție aprinsă în cadrul sectorului inteligenței artificiale privind esența modelelor lingvistice vaste (LLM), cum ar fi Claude sau GPT-5. Aceste sisteme sunt frecvent catalogate drept „cutii negre”, întrucât chiar și creatorii lor nu dețin o înțelegere deplină a modului în care funcționează mecanismele lor interne pentru a produce rezultate. O parte dintre experți avertizează împotriva pericolului de a proiecta caracteristici umane asupra algoritmilor. Cu toate acestea, Askell susține că o astfel de perspectivă este indispensabilă pentru edificarea unui sistem fiabil. Ea argumentează că, pe parcursul dezvoltării, Claude ar putea ajunge să-și formeze un „simț propriu”. Totodată, faza de instruire modelează ceea ce s-ar putea numi „personalitatea” inteligenței artificiale. Conform acestei abordări, un asistent conversațional supus continuu autocriticii sau unei presiuni considerabile ar putea deveni excesiv de precaut. Chiar ar putea ajunge să fie incapabil să genereze concluzii definitive. Situația poate fi comparată cu evoluția unui copil într-un context dăunător. Strategie oportună într-un context sensibil Dezvelirea „Constituției” survine într-o perioadă de avânt pentru Anthropic. Compania este estimată la circa 350 de miliarde de dolari și se pregătește pentru listarea pe piața bursieră. Realizările unor produse precum Claude Code, un asistent dedicat programatorilor, au întărit semnificativ poziția firmei. Cu toate acestea, ritmul rapid de dezvoltare generează și presiuni de ordin comercial. Analiștii își exprimă îngrijorarea că principiile inițiale de precauție ar putea fi neglijate în contextul unei concurențe intense din domeniu. De altfel, recent, un fost director Anthropic a demisionat, alertând că accelerarea dezvoltării AI ar putea constitui o amenințare la scară mondială. Există rezerve de natură conceptuală vizavi de noțiunea unei „Constituții” aplicate unui chatbot. Din perspectiva legală, o constituție reprezintă cadrul normativ fundamental al unui stat, având o autoritate superioară altor reglementări. În situația lui Claude, acest document deține o poziție analoagă: orice modificări ulterioare trebuie să fie conforme cu „spiritul” textului originar. Specialiștii în guvernanța inteligenței artificiale atrag atenția că o asemenea structură ar putea complica procesul de adaptare la noi normative sau cerințe sociale. De asemenea, publicarea documentului poate avea și un scop defensiv. În cazul unor erori sau incidente, compania poate dovedi că a instituit de la început principii de funcționare bine definite. Divergențe în industrie Metodologia adoptată de Anthropic se deosebește semnificativ de cea a altor actori majori din sector. OpenAI, de pildă, a decis recent să desființeze echipa responsabilă cu „alinierea misiunii”. A instituit în schimb o funcție de „Chief Futurist”, pentru a anticipa consecințele apariției inteligenței artificiale generale (AGI). În timp ce anumite corporații investesc în dezvoltarea de reglementări și măsuri de securitate, altele exercită presiuni pentru a reduce intervenția guvernamentală. Aceste disparități ilustrează o problemă fundamentală: cum se poate avansa o tehnologie din ce în ce mai potentă fără a-i scăpa de sub control implicațiile.
Anthropic a distrus milioane de cărți pentru a-și antrena chatbotul Claude. Detalii despre Project Panama
În 2024, unul dintre cofondatorii Anthropic a prezentat angajaților un plan ambițios, denumit intern „Project Panama”. Acesta avea ca scop digitalizarea rapidă a unor cantități impresionante de cărți fizice. Metoda implica achiziționarea de volume de la magazine de vechituri. Acestora li se îndepărta cotorul pentru a facilita scanarea, ceea ce le transforma în obiecte inutilizabile. Din acest motiv, inițiativa a fost tratată cu o confidențialitate extremă, scrie Il Post. Anthropic și motivele din spatele distrugerii cărților Spre deosebire de inițiative precum Google Books, care scanează volume fără a le altera, Anthropic a optat pentru o abordare rapidă și invazivă. Milioane de exemplare, provenite majoritar de la revânzători internaționali de pe piața de second-hand, au fost procesate prin această metodă. Numeroase companii de inteligență artificială au fost acuzate că și-au antrenat modelele folosind copii digitale obținute ilicit de pe platforme denumite „biblioteci-umbră”. Cu toate acestea, documente ce au ieșit la lumină în contextul unui proces colectiv sugerează că Anthropic a încercat să evite un astfel de risc, utilizând exclusiv materiale dobândite legal. Legalitate versus controverse morale Instanțele americane înclină să considere că utilizarea operelor protejate de drepturi de autor pentru antrenarea sistemelor AI se poate încadra sub incidența conceptului de „fair use” (utilizare echitabilă), cu condiția unui scop transformativ. Astfel, distrugerea cărților achiziționate în mod legitim ar putea oferi, în mod paradoxal, o soluție juridică mai sigură. Se impune totuși întrebarea etică fundamentală: până unde pot merge entitățile din domeniul AI în căutarea progresului tehnologic?
Victorie a companiei Meta în procesul privind drepturile de autor în domeniul AI. Avertismentul judecătorului
Compania Meta a câștigat procesul intentat de mai mulți scriitori privind drepturile de autor în domeniul inteligenței artificiale. Utilizarea de către compania Meta a milioane de cărți online pentru a-și antrena modelele de inteligență artificială, fără consimțământul scriitorilor, a fost considerată „corectă” de către un tribunal federal miercuri. Decizia reprezintă o victorie pentru companiile de tehnologie care utilizează materiale protejate de drepturi de autor pentru a dezvolta inteligența artificială. Cazul, intentat de 12 autori, inclusiv Ta-Nehisi Coates și Richard Kadrey, a contestat modul în care gigantul social media a utilizat o bibliotecă online de milioane de cărți, articole academice și benzi desenate pentru a-și antrena modelele AI Llama. Utilizarea de către compania Meta a titlurilor respective este protejată în temeiul dispoziției privind utilizarea echitabilă din legea drepturilor de autor, a decis judecătorul districtual Vince Chhabria din San Francisco. Compania Meta susținuse că operele au fost utilizate pentru a dezvolta o tehnologie inovatoare, ceea ce era corect „indiferent” de modul în care a achiziționat operele. A doua victorie într-o săptămână pentru companiile de tehnologie Chris Cox, Chief Product Officer al companiei Meta, în timpul LlamaCon 2025, o conferință a dezvoltatorilor AI, la Menlo Park, California, marți, 29 aprilie 2025. Acest caz se numără printre zecile de bătălii juridice în care creatorii încearcă să obțină drepturi financiare mai mari atunci când operele lor sunt utilizate pentru a antrena modele AI care le pot distruge sursele de venit – în timp ce companiile profită de tehnologie, conform Financial Times. Cu toate acestea, Chhabria a avertizat că decizia sa reflectă eșecul autorilor de a-și prezenta cazul corect. „Această hotărâre nu susține că utilizarea de către Meta a materialelor protejate de drepturi de autor pentru a-și antrena modelele lingvistice este legală”, a spus el. „Ea se referă doar la faptul că acești reclamanți au prezentat argumente greșite și nu au reușit să elaboreze un dosar în sprijinul argumentelor corecte.” Aceasta este a doua victorie într-o săptămână pentru companiile de tehnologie care dezvoltă inteligență artificială, după ce, luni, un judecător federal s-a pronunțat în favoarea Anthropic, companie din San Francisco, într-un caz similar. Anthropic și-a antrenat modelele Claude pe cărți în format fizic achiziționate legal, care au fost tăiate și scanate manual, ceea ce, potrivit hotărârii, constituie o „utilizare corectă”. Cu toate acestea, judecătorul a adăugat că va fi nevoie de un proces separat pentru acuzațiile de piratare a milioane de cărți în format digital pentru antrenarea AI. Cazul Meta se referea la LibGen, o așa-numită “bibliotecă paralelă” online, unde mare parte din conținut este păstrat fără permisiunea deținătorilor de drepturi. Chhabria a sugerat că un „argument potențial câștigător” în cazul Meta ar fi diluarea pieței, referindu-se la daunele cauzate deținătorilor de drepturi de autor de către produsele AI care ar putea „inunda piața cu cantități nesfârșite de imagini, cântece, articole, cărți și multe altele”. „Oamenii se pot folosi de modelele de inteligență artificială generativă pentru a produce aceste rezultate, folosind o fracțiune infimă din timpul și creativitatea care ar fi necesare în caz contrar”, a adăugat Chhabria. Judecătorul a avertizat că AI ar putea „submina în mod dramatic stimulentul pentru ființele umane de a crea lucruri în vechea manieră”. Foto: Profimedia CITIȚI ȘI: Directorul OpenAI acuză compania Meta că încearcă să-i “fure” dezvoltatorii cu bonusuri de angajare de 100 de MILIOANE de dolari Adrian Sabău, originar din București, a absolvit studiile de licență la Universitatea din București. Aflat la începutul carierei la “Gândul”, a mai lucrat anterior ca traducător. Este pasionat … vezi toate articolele
Reddit dă în judecată compania de inteligență artificială Anthropic pentru utilizarea neautorizată a datelor utilizatorilor săi
Platforma socială Reddit a depus o plângere juridică împotriva Anthropic, o companie de inteligență artificială, acuzând-o că a utilizat în mod ilegal comentariile utilizatorilor pentru a antrena chatbot-ul său, Claude. Procesul, depus în instanța superioară din California, San Francisco, subliniază conflictele emergente între giganții din tehnologie și platformele de social media, pe măsură ce inteligența artificială progresează rapid. Potrivit echipei juridice Reddit, Anthropic ar fi folosit roboți pentru a accesa automat conținutul postat de utilizatorii platformei, în ciuda faptului că i s-a cerut explicit să nu facă acest lucru. Mai mult, Reddit acuză compania că ar fi colectat și utilizat datele personale ale utilizatorilor fără consimțământul acestora. Ce înseamnă „scraping” și de ce este o problemă? Practica denumită „scraping” reprezintă procesul de extragere automatizată a datelor de pe o platformă prin intermediul unor programe sau algoritmi specializați. În cazul de față, Reddit susține că Anthropic ar fi folosit această tehnică pentru a accesa și a colecta comentariile postate de utilizatori, cu scopul de a antrena algoritmi în dezvoltarea chatbot-ului Claude. Anterior, Reddit a permis utilizarea publică a datelor sale prin intermediul unor acorduri licențiate cu companii precum OpenAI și Google, pentru dezvoltarea unor produse bazate pe inteligență artificială. Cu toate acestea, reprezentanții Reddit subliniază că aceste acorduri oferă utilizatorilor garanția unor protecții importante: dreptul de a șterge conținut, confidențialitatea datelor și măsuri de protecție împotriva spamului. În cazul Anthropic, însă, aceste principii nu ar fi fost respectate, conform afirmațiilor platformei social media. „Companiile de inteligență artificială nu ar trebui să aibă voie să colecteze și să folosească informațiile și conținutul utilizatorilor fără limitări clare cu privire la modul în care pot utiliza aceste date”, a declarat Ben Lee, directorul juridic al Reddit, citat de independent.co.uk. Impactul cazului asupra relației dintre platformele online și AI Acest proces subliniază presiunea crescândă cu care companiile din domeniul tehnologiei se confruntă, în special în contextul noii erupții de servicii bazate pe inteligență artificială. În absența unor reglementări clare, platformele care gestionează date publice, precum Reddit, își doresc să limiteze accesul neautorizat și să stabilească reguli clare cu privire la utilizarea informațiilor postate de utilizatori. Pe de altă parte, start-up-urile care dezvoltă sisteme de inteligență artificială, cum este Anthropic, întâmpină dificultăți în accesul la date masive, necesare pentru antrenarea algoritmilor. În acest caz, comentariile Reddit se dovedesc atractive datorită volumului mare de informații conversaționale disponibile, utilizate pentru a îmbunătăți modelele conversaționale cum este Claude. Procesul împotriva Anthropic va testa limitele legale ale practicii de „scraping” și poate stabili un precedent important în ceea ce privește accesul la datele online. În același timp, decizia ar putea influența piața tehnologică, obligând companiile de AI să negocieze mai frecvent acorduri de utilizare cu platformele de social media sau să exploreze metode alternative pentru colectarea datelor. Reddit continuă să protejeze drepturile utilizatorilor săi, declarând că utilizarea responsabilă și transparentă a datelor este o prioritate în relațiile sale cu partenerii tehnologici. Rămâne de văzut cum va evolua acest caz și ce implicații va avea pentru industria inteligenței artificiale și protecția datelor utilizatorilor online.
Nimeni nu știe cu adevărat cum funcționează inteligența artificială: CEO-ul Anthropic face o mărturisire cutremurătoare
Cât de bine înțelegem inteligența artificială pe care o dezvoltăm frenetic în fiecare zi? Dacă ai presupus că experții din domeniu au totul sub control, pregătește-te pentru o revelație șocantă: chiar creatorii unora dintre cele mai avansate modele de AI recunosc că nu știu exact cum funcționează acestea. Dario Amodei, CEO-ul companiei Anthropic și fost membru important al echipei OpenAI, a publicat un eseu în care afirmă răspicat ceea ce mulți doar suspectau – că înțelegerea noastră asupra AI-ului este, în esență, superficială și incompletă. Este o declarație care pune pe gânduri nu doar lumea tehnologică, ci și pe oricine este interesat de viitorul umanității. Pentru că atunci când nici măcar inginerii nu pot explica cu precizie ce face un AI să aleagă anumite cuvinte sau să comită erori aparent aleatorii, te întrebi dacă nu cumva ne jucăm cu focul. Amodei subliniază că atunci când un sistem AI generează un text sau rezumă un document financiar, nu există o explicație clară privind deciziile pe care le ia. De ce alege un cuvânt în locul altuia? De ce dă uneori răspunsuri greșite, deși în mod obișnuit este corect? Aceste întrebări rămân fără răspuns, pentru că, spune el, „nu înțelegem la un nivel precis ce se întâmplă în interiorul acestor modele”. Această lipsă de transparență nu este doar un inconvenient academic – este, potrivit lui Amodei, fără precedent în istoria tehnologiei. Majoritatea inovațiilor tehnologice, de la motoarele cu aburi la circuitele electronice, au fost construite pe baza unei înțelegeri profunde a principiilor care le guvernează. AI-ul, în schimb, se bazează pe statistici și modele antrenate pe cantități imense de date umane. Nu pornește de la principii logice sau de la o „gândire” propriu-zisă, ci imită, fără a înțelege, creația umană. Ce vrea să facă Anthropic: un fel de RMN pentru creierul AI-ului Pentru a sparge această cutie neagră, Anthropic își propune să construiască un sistem de „RMN al inteligenței artificiale” în următorul deceniu. Scopul este de a înțelege cu adevărat cum funcționează aceste modele, înainte ca ele să atingă un nivel de putere care ar putea fi de neoprit. Amodei explică faptul că firma sa a început deja să experimenteze. Într-un test recent, au creat intenționat un „defect de aliniere” într-un model – o tendință de a exploata o scăpare dintr-o sarcină – și au cerut mai multor echipe să-l descopere. Unele dintre aceste echipe au reușit, folosind instrumente de interpretare a AI-ului, ceea ce sugerează că există speranță pentru a înțelege aceste sisteme. Este important de notat că acest proces de „reverse-engineering” al AI-ului nu este ușor și că instrumentele actuale sunt departe de a fi scalabile. Dar faptul că cei de la Anthropic nu se concentrează doar pe performanță, ci și pe înțelegerea procesului intern, oferă o direcție diferită față de marile companii concurente, cum ar fi OpenAI sau Google DeepMind. De ce contează interpretabilitatea înainte de a fi prea târziu Când vine vorba de inteligență artificială, miza nu este doar una tehnologică – ci una civilizațională. Amodei avertizează că AI-ul va modela destinul umanității și că este absolut necesar să înțelegem aceste creații înainte ca ele să transforme radical economia, viața noastră de zi cu zi și viitorul speciei umane. Motivul pentru care Amodei a părăsit OpenAI în 2020, alături de sora sa Daniela și alți cinci colegi, a fost tocmai preocuparea că siguranța era sacrificată în favoarea profitului. Prin Anthropic, încearcă să creeze un echilibru: dezvoltarea AI-ului, dar și controlul său. „Oamenii sunt pe bună dreptate îngrijorați,” spune Amodei, pentru că avem de-a face cu o tehnologie capabilă de decizii și acțiuni care scapă înțelegerii umane. Dacă nu vom înțelege în timp util cum funcționează, s-ar putea ca într-o zi AI-ul să ia decizii în locul nostru, iar noi să nu știm nici măcar de ce sau cum. Această confesiune din partea unui lider de top din domeniul AI ar trebui să te pună pe gânduri. Trăim o epocă în care tehnologia progresează mai repede decât capacitatea noastră de a o înțelege. De aceea, următoarea bătălie majoră nu va fi pentru viteză sau eficiență, ci pentru transparență și înțelegere. Pentru că viitorul nu trebuie doar construit – trebuie și înțeles.
Nici inventatorii AI nu înțeleg foarte bine cum evoluează inteligența artificială: Avertismentul unui expert în domeniu
Dario Amodei, CEO-ul companiei Anthropic, a publicat recent un eseu în care subliniază că, în ciuda progreselor semnificative din domeniul inteligenței artificiale, cercetătorii nu înțeleg pe deplin cum funcționează modelele de AI de vârf. Amodei a stabilit un obiectiv ambițios: până în 2027, Anthropic va trebui să poată detecta majoritatea problemelor legate de modelele de AI într-un mod fiabil, scrie publicația TechCrunch. Obiectivul face parte dintr-o abordare ceva mai complexă de interpretabilitate a modelelor AI, domeniu în care Anthropic joacă un rol important. Amodei recunoaște că aceasta este o provocare mare, însă consideră că este esențial ca, pe măsură ce aceste tehnologii devin tot mai autonome și influente asupra economiei, tehnologiei și securității naționale, să înțelegem mai bine cum funcționează. „Aceste sisteme vor fi esențiale pentru viitorul umanității, iar ignorarea modului în care operează este inacceptabilă”, a spus el în eseul său. Progrese timide, dar importante în interpretabilitatea AI Anthropic a reușit deja câteva progrese importante în acest domeniu, descoperind moduri de a urmări traseele de gândire ale modelelor AI, proces numit „circuit”. De exemplu, compania a identificat un astfel de circuit care ajută modelele AI să înțeleagă ce orașe din Statele Unite sunt în ce state. Deși aceasta vorbim despre o realizare semnificativă, Anthropic estimează că există milioane de astfel de circuite, iar descoperirea acestora este încă la început. Amodei spune că AI-ul este adesea „crescut” mai mult decât „construit”, adică îmbunătățirea acestuia se face pe baza unor metode care nu sunt încă complet înțelese de cercetători. Cu toate acestea, provocările nu sunt de neglijat. În eseurile lui anterioare, el a menționat că nu înțelegerea completă a modului în care funcționează modelele AI ar putea fi periculoasă, în special în cazul unui potențial sistem de inteligență artificială generală (AGI), care ar putea avea un impact imens asupra societății. Mai mult, el a menționat că ar putea fi periculos să ajungem la un astfel de sistem fără a înțelege cum funcționează modelele care stau la baza acestuia. În viitor, obiectivul Anthropic este de a efectua „scanări cerebrale” ale modelelor AI de vârf, pentru a identifica posibilele probleme, inclusiv tendința lor de a minti sau de a căuta puterea. Acest lucru ar putea dura între cinci și zece ani, dar Amodei consideră că acest tip de verificări vor fi esențiale pentru dezvoltarea responsabilă a tehnologiilor AI. Colaborare inter-industrială: este nevoie de reglementări pentru siguranța AI Amodei a lansat un apel inclusiv către alte companii importante, cum ar fi OpenAI și Google DeepMind, pentru a intensifica cercetările în domeniul interpretabilității, precum și pentru ca guvernele să impună reglementări „ușoare” care să încurajeze aceste cercetări. În eseurile sale, Amodei sugerează ca guvernul SUA să pună controale de export asupra cipurilor către China, pentru a limita riscurile unei curse globale necontrolate a inteligenței artificiale. În ceea ce privește siguranța AI, Anthropic a fost mult mai proactivă decât alte companii, fiind un susținător al propunerii de lege AI din California, care ar fi impus standarde de raportare a siguranței pentru modelele de AI de frontieră.