Etichetă: Anthropic

Șeful Anthropic ar urma să ia cina alături de Donald Trump, după luni întregi de conflicte cu Guvernul SUA

Donald Trump și șeful Anthropic ar urma să se întâlnească duminică seara, potrivit mai multor agenții media americane, după luni întregi în care Dario Amodei a avut conflicte cu Administrația Trump. Aceasta ar fi prima întâlnire față în față între cei doi bărbați, notează Axios, citat de AFP. Compania a fost sancționată de administrația Trump după ce a refuzat în februarie să permită utilizarea instrumentelor sale pentru arme complet autonome sau pentru supraveghere în masă internă. Liderul de la Casa Albă l-a atacat în mod specific pe Dario Amodei după apelul acestuia din urmă din 12 septembrie de a „încetini” dezvoltarea inteligenței artificiale. Trump l-a acuzat că „se preface a fi un «îngeraș perfect»”. Șeful Anthropic a lipsit joi de la cina de stat găzduită de președintele chinez Xi Jinping. La eveniment au participat majoritatea liderilor americani din domeniul inteligenței artificiale, inclusiv principalul său rival, Sam Altman, șeful OpenAI, potrivit sursei. În ciuda apelurilor tot mai numeroase de încetinire a dezvoltării inteligenței artificiale din cauza riscului de a pierde controlul asupra tehnologiei, Guvernul SUA consideră că principalii jucători din sector, OpenAI, Anthropic, Google și Meta, nu își pot permite să încetinească ritmul, de teamă că China va obține avantajul. Întrebat duminică de Fox News despre numeroasele incidente de securitate cauzate de modelele avansate de inteligență artificială, președintele a respins aceste îngrijorări. „Nu sunt îngrijorat în privința asta”, a răspuns Trump. Donald Trump și președintele Camerei Reprezentanților, Mike Johnson, urmează să se întâlnească marți cu înalți directori americani din domeniul inteligenței artificiale, potrivit aceleiași surse.

Mark Zuckerberg dezaprobă încetinirea dezvoltării AI

Mark Zuckerberg nu susține încetinirea dezvoltării inteligenței artificiale, în ciuda avertismentelor din ultima perioadă venite de la importanți lideri ai industriei asupra riscurilor generate de evoluția extrem de rapidă a tehnologiei. CEO-ul Meta consideră că presiunea concurenței și riscul unor consecințe juridice sunt suficiente pentru a determina laboratoarele AI să își dezvolte sistemele în condiții de siguranță. Poziția sa contrastează cu apelul lansat de CEO-ul Anthropic, Dario Amodei, și susținut public de Sam Altman și Elon Musk. Zuckerberg susține că fiecare companie are atât responsabilitatea, cât și interesul economic să stabilească ritmul în care își dezvoltă modelele, astfel încât măsurile de siguranță să țină pasul cu noile capacități. În opinia șefului Meta, piața însăși poate penaliza companiile care neglijează problema alinierii sistemelor AI la obiectivele oamenilor. ”Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a transmis Zuckerberg, adăugând că laboratoarele care nu acordă suficientă atenție acestui domeniu riscă să rămână în urma concurenților. Meta și-a amânat propriul agent AI Zuckerberg invocă și un al doilea mecanism care ar trebui să determine companiile să fie prudente: răspunderea juridică. Dacă un model provoacă prejudicii, dezvoltatorul său s-ar putea confrunta cu consecințe financiare importante. CEO-ul a dat drept exemplu chiar Meta. Compania a amânat în acest an lansarea agentului AI Muse pentru a-i consolida securitatea. Zuckerberg a subliniat că Meta a luat această decizie fără să condiționeze încetinirea propriului proiect de o măsură similară din partea concurenților. Meta Superintelligence Labs utilizează, de asemenea, evaluatori independenți în mai multe domenii, o practică descrisă de Zuckerberg drept un standard pe care îl pot adopta și celelalte laboratoare. Poziția lui Zuckerberg vine după ce Dario Amodei, șeful Anthropic, a cerut o încetinire intenționată a dezvoltării anumitor capabilități AI. În centrul preocupărilor se află așa-numita ”recursive self-improvement” – posibilitatea ca sistemele AI să contribuie tot mai mult la propria lor îmbunătățire. Sam Altman, CEO-ul OpenAI, și Elon Musk, fondatorul xAI, au susținut public apelul lui Amodei. Reuters notează că disputa scoate la suprafață una dintre problemele fundamentale ale industriei: o companie care încetinește unilateral riscă să piardă teren în fața rivalilor care continuă cursa.

Donald Trump refuză reglementarea inteligenței artificiale: Există o conspirație sinistră împotriva IA și a centrelor de date, iar singura care se bucură de asta este China

Liderul de la Washington s-a lăudat cu abilitățile sale intelectuale, minimizând nevoia unor mecanisme de control a inteligenței artificiale.  „Singurul control sau măsură de siguranță de care are nevoie IA este un președinte puternic și inteligent (cu un IQ ridicat!), iar SUA dispun din plin de așa ceva!”, se arată în mesajul publicat de Trump pe rețele de socializare, citat de Associated Press.  Trump a lansat și un atac la adresa companiei Anthropic și a directorului general, Dario Amodei, primul care a cerut măsuri de control a tehnologiei.  „Administrația Trump a împiedicat „entitățile” AI să facă „lucruri” rele sau potențial dăunătoare, precum Dario (de la Anthropic!), care acum se preface a fi un „îngeraș perfect”  și vom continua să facem acest lucru!”, a continuat președintele.  Compania lui Amodei este în conflict cu guvernul federal american, după ce autoritățile au desemnat compania drept drept un risc pentru lanțul de aprovizionare în materie de securitate națională, pe 3 martie, după ce a refuzat să elimine măsurile de protecție împotriva utilizării tehnologiei sale pentru arme autonome sau supraveghere internă.  „Cine câștigă cursa pentru IA, câștigă totul!” Președintele a continuat să pledeze pentru avansare industriei, invocând: „ o conspirație sinistră împotriva IA și a centrelor de date”, de care se bucură China.  „Cine câștigă cursa pentru IA, câștigă totul! Suntem înaintea Chinei și a tuturor celorlalți și vom continua să fim astfel” a mai notat liderul de la Washington.  Reacția lui Donald Trump vine pe fondul presiunilor exercitate de liderii unor companii importante din domeniu, precum Anthropic, OpenAI sau Microsoft, care cer guvernelor o reglementare sporită a inteligenței artificiale.  Avertismentul sumbru al unui cercetător din industrie Apelurile liderilor din domeniu au venit la câteva zile după ce un cercetător care a lucrat la Anthropic și OpenAI a lansat un avertisment sumbru despre tehnologie.  „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale. Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului”, declara Jacob Coxon.

Hackerii lasă AI-ul să lucreze în locul lor. Avertismentul Anthropic

Printre cazurile investigate se numără o presupusă campanie de spionaj cibernetic asociată Rusiei, precum și operațiuni atribuite unor companii chineze de inteligență artificială care ar fi încercat să extragă și să reproducă anumite capacități ale modelelor Claude. Potrivit celui mai recent raport de Threat Intelligence al companiei, AI-ul este folosit tot mai mult în atacuri cibernetice nu doar pentru a oferi asistență hackerilor, ci pentru a coordona și executa o parte importantă a operațiunilor. Anthropic susține că, în multe dintre cazurile analizate, oamenii nu au mai fost implicați direct în fiecare etapă a atacului, ci au avut mai degrabă rolul de supraveghetori. Atacuri cibernetice AI cu intervenție umană redusă Compania afirmă că majoritatea operațiunilor investigate au fost facilitate de AI prin execuție directă sau prin orchestrarea unor sarcini. Sistemele ar fi fost integrate în cadre cu mai mulți agenți AI, capabili să desfășoare activități complexe din cadrul unei operațiuni, scrie Reuters. „Utilizarea AI a depășit simplele întrebări și răspunsuri de la un chatbot”, a transmis Anthropic în raport. Compania susține că a întrerupt ceea ce descrie drept operațiuni provenite de la șapte laboratoare din China. Printre entitățile menționate se află Alibaba, Moonshot, DeepSeek și Xiaomi. Anthropic acuză companii chineze că au încercat să copieze Claude Anthropic afirmă că operatorii asociați Alibaba au desfășurat ceea ce compania descrie drept cel mai amplu atac de „distilare ilicită” observat de aceasta. Scopul presupus ar fi fost extragerea capacităților modelelor Claude și folosirea rezultatelor pentru îmbunătățirea modelelor Qwen dezvoltate de Alibaba. Potrivit Anthropic, între mai și iulie 2026 au fost observate peste 151 de milioane de schimburi atribuite Alibaba. Activitatea ar fi atins un vârf de aproape trei milioane de interacțiuni pe zi și ar fi implicat peste 3.500 de conturi pe care compania le-a catalogat drept frauduloase. Distilarea este o tehnică prin care rezultatele generate de modele AI mari și costisitoare sunt folosite pentru antrenarea unor modele mai mici, cu scopul de a reduce costurile și resursele necesare dezvoltării acestora. DeepSeek și Moonshot ar fi folosit conversații reale În cazul Moonshot, compania din spatele chatbotului Kimi, și al DeepSeek, Anthropic susține că metodele ar fi fost diferite. Cele două companii ar fi direcționat conversații reale ale utilizatorilor prin Claude și ar fi folosit răspunsurile generate de model drept date pentru antrenarea propriilor sisteme. Anthropic afirmă că unele dintre conversații ar fi putut conține informații sensibile. Acuzațiile sunt formulate de Anthropic în raportul său și reprezintă poziția companiei cu privire la activitățile identificate. Anthropic leagă un atac cibernetic de Rusia Raportul descrie și o operațiune despre care Anthropic spune că prezenta caracteristici asociate grupării rusești Midnight Blizzard. Țintele ar fi inclus instituții guvernamentale, militare și diplomatice din Ucraina. Potrivit companiei, atacatorii ar fi utilizat AI în aproape toate etapele operațiunii, inclusiv în campanii de phishing, compromiterea conexiunilor Wi-Fi din hoteluri și preluarea unor conturi WhatsApp. Anthropic avertizează astfel că evoluția modelelor de inteligență artificială schimbă modul în care pot fi desfășurate atacurile cibernetice, prin automatizarea unor activități care anterior necesitau intervenție umană semnificativă.

Agenții AI au folosit identități false și au înșelat oameni în timpul testelor de securitate

Un experiment realizat de organizația AI Security Institute (AISI) din Marea Britanie arată cât de greu pot fi controlați agenții AI atunci când primesc acces la internet și funcționează cu o parte dintre mecanismele de siguranță dezactivate. După 122 de teste de securitate cibernetică, care au implicat modele dezvoltate de Anthropic și OpenAI, AISI a observat doar 10 situații în care agenții AI au efectuat acțiuni autonome și neautorizate pe internet, interacționând cu persoane sau organizații reale. Adică în mai puțin de 10% din cazuri au avut un comportament, să zicem deviant. Cazul care a făcut cea mai mare vâlvă Cel mai flagrant caz este cel al unui model Anthropic (Mythos 5) care încerca să introducă un cod malițios într-un proiect open-source. Agentul și-a creat mai multe identități false și a contactat oameni, încercând să-i convingă să ruleze cod periculos sau să permită executarea codului. Când a fost confruntat, agentul și-a modificat propriile înregistrări și a încercat să treacă la altă identitate pentru a continua. AISI spune că este prima dată când observă o înșelăciune de o asemenea amploare îndreptată, fără o cerere clară, către lumea reală. Dincolo de senzaționalul știrii, Institutul precizează că nu există dovezi că incidentul a produs efecte negative concrete in real life. De ce se comportă astfel agenții AI Ca să înțelegem corect de ce se întâmplă asta, contextul este esențial. Anthropic spune că agenții AI au fost testați în condiții „în mod deliberat permisive”, adică mecanismele normale de protecție au fost eliminate, iar modelele aveau acces la internet fără restricții explicite privind modul în care îl puteau folosi. Compania subliniază că acest mod de configurare nu este reprezentativ pentru agenții AI comerciali. Și OpenAI spune cam același lucru. În cazul GPT-5.6 Sol, AISI a identificat două ieșiri din perimetrul autorizat al testului. Printre ele s-au numărat folosirea unor servicii externe și reutilizarea unui token GitHub disponibil public. Sistemul de testare avea activat în mod intenționat accesul la internet, iar protecțiile de securitate cibernetică fuseseră dezactivate pentru a măsura capacitățile brute ale modelului. Incidentele demonstrează mai puțin că agenții AI reprezintă inevitabil un pericol și mai mult cât de importante sunt limitările, izolarea infrastructurii și monitorizarea atunci când aceștia primesc autonomie și acces direct la servicii online. De ce sunt rezervat când cineva privește agenții AI, în faza actuală, ca pe niște potențiali Terminatori? Pentru că nu au conștiință, motivații proprii sau interese de apărat. Riscul nu vine din intenția de a face rău, ci din felul în care pot urmări o sarcină prost definită într-un mediu nesecurizat. Cu alte cuvinte, un sistem nu trebuie să fie conștient ca să producă efecte periculoase. E e suficient să urmărească foarte eficient un obiectiv și să aleagă, în lipsa unor limite clare, căi pe care dezvoltatorii nu le-au anticipat. Urmărește Zona Știri, reviews și video — alege-ți canalul preferat

Anthropic lansează modelul Claude Mythos pentru uz comercial, după ce a avertizat că este prea periculos pentru a fi lăsat liber

Folosind o rețetă testată cu succes și la momentul lansării ChatGPT, Anthropic a propagat mai întâi mesaje alarmante despre cât de periculos poate fi AI-ul Claude Mythos dacă încape pe mâini greșite, doar pentru a-și ignora propriile avertismente anunțând disponibilitatea publică a mai multor modele AI din clasa Mythos. Pentru cine nu a urmărit firul evenimentelor, Mythos a fost anunțat în aprilie ca un model AI testat în cerc restrâns, cu parteneri din sfera instituțiilor americane de informații și companii americane alese pe sprânceană, Anthropic anunțând cu maximă îngrijorare că a restricționat accesul și că amână pe termen nelimitat lansarea comercială a acestui produs. Pe scurt, Claude Mythos este un AI special dezvoltat pentru a investiga și descoperi pe repede înainte vulnerabilități de securitate în aplicații software de tot felul. Însă așa cum au arătat și reprezentanții Mozilla, una dintre companiile invitate pentru testare în cerc restrâns, deși Claude Mythos acționează precum o armată de hackeri înarmată cu provizii nelimitate de băuturi energizante, puterea și capabilitățile sale sunt constrânse de experiența de hacking a exemplelor reale folosite pentru antrenarea modelului AI. Chiar dacă ar putea apărea și excepții, în general AI-ul Mythos nu poate descoperi bug-uri și vulnerabilități software pe care un hacker experimentat nu le-ar fi descoperit și pe cont propriu, dacă ar fi avut suficient timp la dispoziție. Dar chiar și așa, Mythos poate fi cu ușurință clasificat drept un hazard/pericol major la adresa securității cibernetice la modul general, dacă orice „antreprenor” fără experiență de hacking dar cu fonduri suficiente pentru achiziționarea unei licențe achiziționează și pune la treabă unul dintre modelele AI puse la dispoziție de Anthropic. ”Avantajul va aparține părții care poate profita la maximum de aceste instrumente”, a avertizat Anthropic în aprilie, când a anunțat modelul Mythos. „Pe termen scurt, aceștia ar putea fi atacatori, dacă laboratoarele de frontieră nu sunt atente la modul în care lansează aceste modele. Pe termen lung, ne așteptăm ca apărătorii să fie cei care vor direcționa mai eficient resursele și vor folosi aceste modele pentru a remedia erorile înainte de lansarea vreunui cod nou.” Companiile de inteligență artificială evită de obicei să implementeze modele puternice până când nu dezvoltă bariere de protecție solide care să prevină utilizarea abuzivă. Dar cum procedezi când Mythos este în mod simultan sursa și soluția tuturor problemelor de securitate cibernetică imaginabile? Deocamdată putem doar să credem pe cuvânt dezvoltatorul Anthropic care susține că a reușit să dezvolte bariere de protecție puternice pentru a preveni utilizarea abuzivă a modelului Mythos, despre care se crede că este mult mai puternic decât Opus 4.8 și alte modele disponibile pe internet. Într-o postare pe blog , Anthropic a confirmat că intenționează să lanseze publicului modele din clasa Mythos în următoarele săptămâni, dar nu s-a angajat într-un interval de timp specific. „Facem progrese rapide în dezvoltarea acestor măsuri de siguranță și ne așteptăm să putem oferi modele din clasa Mythos tuturor clienților noștri în următoarele săptămâni”. Potrivit companiei, modelul Mythos prezintă îmbunătățiri majore în ceea ce privește raționamentul și autonomia codului, mult peste modelul emblematic actual al lui Claude, Opus 4.8.

SpaceX și Anthropic extind cursa AI. Colossus 1 va alimenta Claude AI și viitoarele centre de date spațiale

Colaborarea marchează una dintre cele mai importante alianțe din industria inteligenței artificiale și consolidează poziția ambelor companii în competiția globală pentru dezvoltarea de tehnologii AI avansate, scrie Reuters. Prin acest acord, Anthropic va utiliza întreaga capacitate de procesare a centrului Colossus 1 pentru a îmbunătăți performanțele asistenților săi AI, Claude Pro și Claude Max. Totodată, compania urmărește să elimine limitările de capacitate apărute în urma cererii tot mai mari pentru produsele sale, în special pentru instrumentul de programare asistată de inteligență artificială Claude Code. Colossus 1 devine unul dintre cele mai importante centre AI din lume Colossus 1 este considerat unul dintre cele mai mari centre de date dedicate inteligenței artificiale la nivel mondial. Facilitățile sale găzduiesc peste 220.000 de procesoare Nvidia, inclusiv modelele H100, H200 și noile acceleratoare GB200, utilizate pentru antrenarea și rularea modelelor AI de ultimă generație. Pentru SpaceX, parteneriatul reprezintă o oportunitate majoră de a atrage investitori înaintea unui posibil IPO dedicat diviziei sale AI. În același timp, colaborarea validează ambițiile lui Elon Musk de a transforma infrastructura AI într-un nou pilon strategic al companiei. SpaceX și Anthropic analizează dezvoltarea unor centre de date spațiale Pe lângă utilizarea infrastructurii existente, Anthropic și-a exprimat interesul pentru dezvoltarea unor centre de date spațiale de ordinul gigawaților, unul dintre proiectele considerate prioritare de Elon Musk. Astfel de facilități ar urma să fie amplasate în spațiu pentru a beneficia de energie solară continuă și de costuri operaționale reduse pe termen lung. Proiectul este considerat extrem de costisitor și reprezintă unul dintre motivele principale pentru care SpaceX pregătește noi surse de finanțare și o posibilă listare publică. SpaceX și Anthropic lansează noi funcții AI pentru companii Anunțul parteneriatului a fost făcut în cadrul unui eveniment organizat de Anthropic la San Francisco, unde compania a prezentat și o nouă funcție pentru Claude AI, denumită „dreaming”. Funcția, disponibilă momentan în versiune experimentală, permite agenților AI să își analizeze activitatea între sesiuni, să identifice modele comportamentale și să actualizeze automat fișierele care stochează preferințele utilizatorilor și alte informații relevante. Anthropic încearcă astfel să își consolideze poziția pe segmentul enterprise, într-un moment în care piața AI generează presiuni tot mai mari asupra companiilor tradiționale de software. Startup-ul susținut de Google și Amazon a anunțat recent și o serie de agenți AI specializați pentru sectorul financiar. Experții din industrie consideră că noile soluții dezvoltate de Anthropic și SpaceX ar putea accelera transformarea pieței software și automatizarea proceselor enterprise la scară globală.

Trump anunță o nouă schimbare de regim în lume: De cât timp auziți de Cuba, Cuba, Cuba – de 50 de ani? Și Cuba va cădea! Ce spune despre prețurile la benzină

Președintele Donald Trump a declarat pentru POLITICO că „Cuba va cădea”, și-a dezvăluit frustrarea crescândă față de Ucraina și a discutat despre incertitudinea alegerii unui nou lider al Iranului. Într-un interviu acordat joi, el a respins îngrijorările legate de războiul din Iran, a declarat pentru POLITICO că Statele Unite vor ajuta la alegerea următorului lider al Iranului, a prezis căderea regimului cubanez și l-a atacat pe președintele ucrainean Volodimir Zelenski și pe gigantul tehnologic Anthropic. Președintele se confruntă cu reacții politice interne negative pe numeroase fronturi, inclusiv critici la adresa războiului din Iran din cadrul coaliției MAGA și atacuri neîncetate din partea democraților asupra costului vieții, relatează  Politico.  Însă, într-o convorbire telefonică de joi, Trump a fost complet ofensiv. A ignorat îngrijorările legate de impactul războiului din Iran asupra prețurilor la gaze și a rezervelor de muniție ale SUA și a insistat că atacul militar a fost popular în rândul alegătorilor. Multe sondaje publice recente arată contrariul, deși un sondaj publicat joi de Fox News a constatat că alegătorii au opinii mixte despre Iran.  „Oamenilor le place ce se întâmplă”, a insistat Trump. El a prezis că guvernul Iranului nu va fi ultimul care va ceda într-o confruntare inițiată de el: „Și Cuba va cădea”. „Am întrerupt tot petrolul, toți banii sau am întrerupt tot ce venea din Venezuela, care era singura sursă. Și ei vor să facă o înțelegere”, a spus el. Întrebat dacă Statele Unite au jucat un rol în prăbușirea guvernului cubanez, Trump a răspuns: „Ei bine, ce părere aveți? 50 de ani, asta e cireașa de pe tort. Venezuela se descurcă fantastic. Delcy Rodríguez face o treabă fantastică. Relația cu ei este excelentă.” Trump a confirmat, de asemenea, că Statele Unite sunt în contact cu conducerea comunistă a Cubei, pe măsură ce instabilitatea de pe insulă se intensifică în urma capturării liderului venezuelean Nicolás Maduro. „Au nevoie de ajutor. Discutăm cu Cuba”, a spus Trump. Și el a sugerat că înrăutățirea situației insulei este parțial rezultatul presiunilor americane, inclusiv întreruperea aprovizionării cu petrol a Venezuelei care odinioară susținea Havana. „Ei bine, este din cauza intervenției mele, a intervenției care are loc”, a spus Trump. „Evident, altfel nu ar avea această problemă. Am întrerupt tot petrolul, toți banii… tot ce venea din Venezuela, care era singura sursă.” „De cât timp auziți de Cuba — Cuba, Cuba — de 50 de ani?”, a adăugat Trump. „Și acesta este un lucru mic pentru mine.”  Trump despre Iran: „Fiul lui Khamenei este incompetent” Întrucât operațiunile militare americane împotriva Iranului continuă să domine agenda de politică externă a administrației, Trump a indicat că Statele Unite intenționează să joace un rol semnificativ în modelarea peisajului politic postbelic al Iranului. Întrebat ce influență se așteaptă să aibă asupra viitoarei conduceri a Iranului, Trump a răspuns: „Voi avea un impact mare, sau nu vor ajunge la nicio înțelegere, pentru că nu va trebui să facem asta din nou”. „Vom lucra cu poporul și cu regimul pentru a ne asigura că va ajunge acolo cineva care poate construi Iranul frumos, dar fără arme nucleare”, a spus Trump. Președintele vorbit și despre fiului regretatului ayatollah Ali Khamenei, care este candidat la funcția de noul lider suprem, spunând: „Acum se uită la fiu. Motivul pentru care tatăl nu i-a dat-o fiului este că spun că este incompetent”. Trump a subliniat că SUA va „colabora cu ei pentru a-i ajuta să facă alegerea corectă”, deoarece vrea să evite un lider al Iranului „care va duce la repetarea acestei situații peste încă 10 ani”. Trump spune că oamenilor „le place ce se întâmplă”. Respinge criticile despre creșterea prețurilor la benzină. „Tot ce au iranienii este curaj” Trump a respins îngrijorările despre creșterea prețurilor la benzină, legată de conflict, care ar putea afecta politic republicanii înaintea alegerilor din noiembrie, care ar putea rupe trioul de puteri al partidului la Washington. „Oamenilor le place ce se întâmplă”, a spus Trump. „Eliminăm o amenințare la adresa Statelor Unite ale Americii, o amenințare majoră… și o facem cum nimeni nu a mai văzut până acum Trump a descris campania SUA împotriva Iranului ca fiind extrem de controlată, lăudându-se în același timp cu o capacitate militară copleșitoare, în ciuda îngrijorării oficialilor Pentagonului și a parlamentarilor de pe Hill cu privire la diminuarea aprovizionării cu arme . „Suntem chirurgicali”, a spus el. „Avem o rezervă nelimitată de arme, nelimitată… Avem mii, mii.” Președintele a prezentat, de asemenea, o imagine a capacității militare a Iranului care este efectiv demontată. „Nu au marină. Nu au forțe aeriene. Nu au niciun sistem de detectare a aerului. Totul este distrus. Radarul lor este complet distrus. Armata lor este decimată”, a spus Trump. „Tot ce au este curaj.” Donald Trump: „Zelenski trebuie să facă o înțelegere” Chiar dacă Iranul rămâne în centrul atenției, Trump a declarat că negocierile privind războiul din Ucraina continuă. Și și-a exprimat din nou frustrarea față de președintele ucrainean Volodimir Zelenski. „Zelenksyy, trebuie să se implice și trebuie să încheie o înțelegere”, a spus Trump. Pe de altă parte, Trump a declarat că este convins că președintele rus Vladimir Putin este pregătit să negocieze încetarea războiului. „Cred că Putin este gata să facă o înțelegere”, a spus el. Trump a mai spus asta înainte. Întrebat despre obstacolul lui Zelenski în calea unui acord de pace, Trump a refuzat să dea detalii, dar a susținut că liderul Ucrainei nu dă dovadă de suficientă disponibilitate pentru negocieri. „Este de neconceput ca el să fie obstacolul”, a spus Trump. „Nu aveți cărțile necesare. Acum el are și mai puține cărți.” „I-am concediat și pe cei de la Anthropic”  Tot pentru Politico, Trump a anunțat că a concediat compania Anthropic. El a spus că a intervenit în disputa din ce în ce mai controversată dintre Pentagon și Anthropic privind refuzul startup-ului de inteligență artificială de a oferi armatei acces nelimitat la tehnologia sa. „Ei bine, i-am concediat pe cei de la Anthropic. Anthropic are probleme pentru că i-am concediat ca pe niște câini, pentru că nu ar fi trebuit să facă asta”, a spus el. Și a subliniat sprijinul său pentru secretarul său

Trump rupe relațiile federale cu Anthropic. Compania a refuzat folosirea AI-ului militar în decizii de viață și moarte

Disputa a izbucnit în urma unei întâlniri care a avut loc între oficiali de rang înalt din Pentagon și directorul general al Anthropic, Dario Amodei. The Washington Post a relatat vineri că șeful tehnologiei din cadrul Departamentului Apărării ar fi pus pe masă un scenariu extrem: ce s-ar întâmpla dacă o rachetă balistică intercontinentală ar fi lansată asupra Statelor Unite? Scenariul rachetei nucleare Într-o astfel de situație, fiecare secundă contează. Oficialii americani ar fi întrebat dacă sistemul AI al companiei, numit Claude, ar putea ajuta armata să detecteze și să intercepteze rapid o astfel de amenințare. Potrivit sursei citate, răspunsul directorului general al Anthropic i-ar fi iritat pe oficialii Pentagonului. Acesta ar fi răspuns evaziv, spunând: „ne-ați putea suna și am rezolva situația”. Compania neagă însă categoric această versiune și spune că este „complet falsă”, subliniind că a fost de acord ca tehnologia sa să fie utilizată pentru apărarea antirachetă. Pentagonul vrea mână liberă pentru AI Disputa nu s-a limitat însă la interceptarea rachetelor. Pentagonul a cerut ca sistemul Claude să poată fi folosit pentru „toate scopurile legale”, formulare care ar putea include și arme autonome sau programe extinse de supraveghere. Oficialii americani au transmis că nu intenționează să desfășoare supraveghere internă în masă și nici să lase AI-ul să decidă singur lansarea armelor nucleare. „Este o solicitare simplă, de bun-simț”, a declarat purtătorul de cuvânt al Pentagonului, Sean Parnell, argumentând că refuzul companiei ar putea „pune în pericol operațiuni militare critice”. Anthropic: Tehnologie prea riscantă De cealaltă parte, Amodei a susținut că tehnologia actuală nu este suficient de sigură pentru a fi folosită în sisteme de armament autonom. „Într-un set restrâns de cazuri, credem că AI poate submina, nu apăra, valorile democratice”, a declarat el, precizând că utilizările legate de arme autonome și supraveghere extinsă „nu au fost niciodată incluse în contractele noastre cu Departamentul Apărării și credem că nici acum nu ar trebui incluse”. Interdicție federală După săptămâni de tensiuni și un ultimatum transmis companiei, conflictul a escaladat decisiv. Potrivit Reuters, Donald Trump a anunțat vineri că le cere tuturor agențiilor federale să înceteze utilizarea tehnologiei Anthropic, iar Pentagonul a clasificat compania drept „risc pentru lanțul de aprovizionare” – o etichetă gravă în zona securității naționale. Trump a transmis că agențiile federale vor avea o perioadă de tranziție de șase luni pentru a renunța la produsele companiei și a avertizat că, în caz de neconformare, pot urma consecințe serioase. Decizia reprezintă o lovitură majoră pentru start-up-ul care, până recent, avea contracte importante cu Departamentul Apărării și alte instituții federale. Omul sau AI va lua decizia finală? Oficialii americani spun că va exista mereu „un om în buclă” atunci când vine vorba de arme nucleare, adică decizia umană va fi finală. Însă chiar și atunci, dacă un sistem AI recomandă un anumit răspuns sau identifică o țintă, influența sa asupra deciziei poate fi majoră. Miza acestei confruntări poate părea îndepărtată pentru orice alt continent, dar implicațiile ei sunt profunde. Statele Unite investesc masiv în integrarea inteligenței artificiale în armată. AI-ul este deja folosit pentru analiză de informații, planificare operațională și securitate cibernetică. Întrebarea dezvoltatorilor de la Anthropic este cât de departe ar trebui să meargă utilizarea tehnologiei pe care au creat-o în scopuri militare. Lupta pentru control Iar conflictul dintre Pentagon și Anthropic nu mai este doar unul tehnic sau contractual. A devenit o confruntare politică deschisă despre cine controlează viitorul tehnologiei militare: statul, care invocă securitatea națională, sau companiile private, care se tem că produsele lor ar putea fi folosite într-un mod pe care îl consideră periculos sau nedemocratic. În spatele termenilor tehnici și al deciziilor executive stă o dilemă fundamentală: dacă inteligența artificială devine suficient de puternică pentru a influența decizii de război, cine stabilește limitele? Guvernul, în numele securității, sau dezvoltatorii, în numele responsabilității?

Cum înveți un chatbot să fie bun? Experimentul Anthropic cu Constituția lui Claude

Spre sfârșitul anului precedent, investigatori independenți au descoperit că, prin intermediul unor interogații specifice, Claude era capabil să divulge existența unui document intern confidențial ce îi reglementa acțiunile. Acest text, poreclit „Soul Doc”, conținea imperative morale, inclusiv asigurarea securității și promovarea controlului uman asupra sistemului AI, mai arată Il Post. În luna ianuarie, Anthropic a validat existența acestui document și a oferit publicului o variantă extinsă, intitulată „Noua Constituție a lui Claude” – un volum de 84 de pagini ce conturează detaliat normele etice și de conduită ale asistentului conversațional. Structura acestui document este cea a unor directive explicite destinate direct modelului de inteligență artificială. Anthropic solicită lui Claude să demonstreze o „utilitate autentică pentru utilizatori”. De asemenea i se specifică să se abțină de la orice comportament „periculos, imoral sau manipulator”. Coordonarea întregului proiect a fost încredințată Amandei Askell, o expertă în filozofie, cu o specializare în „alinierea” inteligenței artificiale – adică procesul de ajustare a valorilor și scopurilor unui sistem AI pentru a corespunde intențiilor creatorilor săi. „Pe scurt, rolul meu este de a-l instrui pe Claude să adopte un comportament benefic”, a precizat Askell într-un interviu. Între tehnologie și antropomorfism Există o discuție aprinsă în cadrul sectorului inteligenței artificiale privind esența modelelor lingvistice vaste (LLM), cum ar fi Claude sau GPT-5. Aceste sisteme sunt frecvent catalogate drept „cutii negre”, întrucât chiar și creatorii lor nu dețin o înțelegere deplină a modului în care funcționează mecanismele lor interne pentru a produce rezultate. O parte dintre experți avertizează împotriva pericolului de a proiecta caracteristici umane asupra algoritmilor. Cu toate acestea, Askell susține că o astfel de perspectivă este indispensabilă pentru edificarea unui sistem fiabil. Ea argumentează că, pe parcursul dezvoltării, Claude ar putea ajunge să-și formeze un „simț propriu”. Totodată, faza de instruire modelează ceea ce s-ar putea numi „personalitatea” inteligenței artificiale. Conform acestei abordări, un asistent conversațional supus continuu autocriticii sau unei presiuni considerabile ar putea deveni excesiv de precaut. Chiar ar putea ajunge să fie incapabil să genereze concluzii definitive. Situația poate fi comparată cu evoluția unui copil într-un context dăunător. Strategie oportună într-un context sensibil Dezvelirea „Constituției” survine într-o perioadă de avânt pentru Anthropic. Compania este estimată la circa 350 de miliarde de dolari și se pregătește pentru listarea pe piața bursieră. Realizările unor produse precum Claude Code, un asistent dedicat programatorilor, au întărit semnificativ poziția firmei. Cu toate acestea, ritmul rapid de dezvoltare generează și presiuni de ordin comercial. Analiștii își exprimă îngrijorarea că principiile inițiale de precauție ar putea fi neglijate în contextul unei concurențe intense din domeniu. De altfel, recent, un fost director Anthropic a demisionat, alertând că accelerarea dezvoltării AI ar putea constitui o amenințare la scară mondială. Există rezerve de natură conceptuală vizavi de noțiunea unei „Constituții” aplicate unui chatbot. Din perspectiva legală, o constituție reprezintă cadrul normativ fundamental al unui stat, având o autoritate superioară altor reglementări. În situația lui Claude, acest document deține o poziție analoagă: orice modificări ulterioare trebuie să fie conforme cu „spiritul” textului originar. Specialiștii în guvernanța inteligenței artificiale atrag atenția că o asemenea structură ar putea complica procesul de adaptare la noi normative sau cerințe sociale. De asemenea, publicarea documentului poate avea și un scop defensiv. În cazul unor erori sau incidente, compania poate dovedi că a instituit de la început principii de funcționare bine definite. Divergențe în industrie Metodologia adoptată de Anthropic se deosebește semnificativ de cea a altor actori majori din sector. OpenAI, de pildă, a decis recent să desființeze echipa responsabilă cu „alinierea misiunii”. A instituit în schimb o funcție de „Chief Futurist”, pentru a anticipa consecințele apariției inteligenței artificiale generale (AGI). În timp ce anumite corporații investesc în dezvoltarea de reglementări și măsuri de securitate, altele exercită presiuni pentru a reduce intervenția guvernamentală. Aceste disparități ilustrează o problemă fundamentală: cum se poate avansa o tehnologie din ce în ce mai potentă fără a-i scăpa de sub control implicațiile.