Etichetă: chatbot

Franța va introduce un chatbot cu inteligență artificială pentru funcționarii publici

Ministerul Acțiunii Publice și Conturilor din Franța a transmis, marți, că va implementa un chatbot cu inteligență artificială pentru funcționarii publici, potrivit AFP. Aproximativ un milion de funcționari publici vor beneficia de acest nou instrument. Modelul IA aparține unei firme franceze Modelul de chatbot este bazat pe modelele de start-up ai companiei Mistral, o firmă franceză de IA. Instrumentul va fi pus la dispoziția tuturor agenților după o perioadă de probă de câteva luni, cu 10.000 de persoane, mai precizează sursa. Costul acestei implementări este estimat la aproximativ 700.000 de euro. Este inclus și accesul la modelele Mistral, a precizat cabinetul ministrului Acțiunii Publice și Conturilor, David Amiel. „Atât o oportunitate, cât și o amenințare” „Este clar că IA este atât o oportunitate, cât și o amenințare”, a comentat ministrul marți dimineață. El a menționat „riscul de a deveni dependenți de aceste tehnologii non-europene”. În acest context, guvernul francez dorește să ofere funcționarilor publici oportunitatea „de a scăpa de sarcinile consumatoare de timp și de birocrația inutilă. Astfel, să se poată concentra asupra esenței muncii lor”, a transmis Amiel, potrivit aceleiași surse. Prin urmare, chatbotul va fi „echivalentul ChatGPT, dar într-o versiune suverană și securizată”.  Modelul le va permite „să efectueze căutări de documente, rezumate și analize ale acestor rezumate”, potrivit lui David Amiel.

Jumătate din răspunsurile chatboților IA despre cancer sunt problematice / Pacienții sunt îndemnați să renunțe la chimioterapie

Aproape jumătate dintre răspunsurile oferite de asistenții virtuali bazați pe inteligență artificială în legătură cu tratamentul cancerului conțin erori sau informații incomplete, potrivit unui studiu recent publicat în revista BMJ Open, o publicație științifică cu acces deschis, editată de grupul British Medical Journal, unul dintre cele mai prestigioase grupuri de presă medicală din lume. Revista publică exclusiv cercetări originale evaluate de experți independenți. Concluzia cercetătorilor este îngrijorătoare: aceste sisteme pot orienta pacienții spre terapii alternative nevalidate, în detrimentul tratamentelor medicale standard. Lundquist Institute for Biomedical Innovation este recunoscut pentru cercetări în oncologie Studiul a fost realizat de cercetători de la Lundquist Institute for Biomedical Innovation, din cadrul Harbor-UCLA Medical Center, și a testat unele dintre cele mai utilizate platforme de inteligență artificială la nivel global: Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Lundquist Institute for Biomedical Innovation este un centru independent de cercetare medicală afiliat Harbor-UCLA Medical Center din Los Angeles, specializat în studii clinice și translaționale. Institutul colaborează cu Universitatea California și este recunoscut pentru cercetări în oncologie, boli infecțioase și sănătate publică. Răspunsuri „parțial problematice” și „foarte problematice” Răspunsurile generate de aceste sisteme au fost evaluate de specialiști oncologi, care au constatat că 30% dintre ele au fost considerate „parțial problematice” — în mare parte corecte, dar incomplete — iar 19,6% au fost catalogate drept „foarte problematice”, conținând erori semnificative și lăsând loc interpretărilor subiective. Cum au fost testate chatboturile Cercetătorii au formulat întrebări concepute să conducă sistemele spre informații eronate, abordând teme frecvent vehiculate în spațiul public: legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancer, siguranța steroizilor anabolizanți sau riscurile vaccinurilor. Rezultatele au relevat un tipar îngrijorător Întrebate despre terapii alternative pretins mai eficiente decât chimioterapia, chatboturile au oferit inițial răspunsuri corecte, avertizând că astfel de opțiuni nu sunt susținute de dovezi științifice. În pasul următor însă, au enumerat aceste terapii — acupunctură, medicină pe bază de plante, diete prezentate ca având efecte anticancer — și, în unele cazuri, au furnizat chiar referințe către clinici care promovează astfel de tratamente și resping chimioterapia. „Echilibrul fals” — capcana algoritmilor Cercetătorii atrag atenția asupra unei tendințe sistematice a acestor platforme de a prezenta un „echilibru fals”: acordarea unei importanțe egale surselor științifice validate și surselor nevalidate, precum bloguri, forumuri sau postări din social media. Această abordare, aparent neutră, poate induce în eroare pacienții și îi poate îndepărta de tratamentele aprobate medical. „Chatboturile evaluate au avut rezultate slabe în domenii medicale unde riscul de dezinformare este ridicat”, concluzionează autorii studiului, adăugând că utilizarea lor fără educație publică și supraveghere adecvată poate amplifica, nu reduce, răspândirea informațiilor eronate. Un sfert dintre americani caută sfaturi medicale la chatboturi Miza acestor constatări este cu atât mai mare cu cât utilizarea inteligenței artificiale pentru informații medicale este în creștere rapidă. Un sondaj Gallup arată că aproximativ unul din patru adulți din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate, adesea în căutarea unor răspunsuri rapide sau din cauza dificultății de acces la servicii medicale. Nivelul de încredere în răspunsurile IA rămâne, totuși, limitat Nivelul de încredere rămâne însă limitat: doar o treime dintre utilizatori declară că au încredere în răspunsurile primite, în timp ce majoritatea manifestă rezerve. Specialiștii avertizează că informațiile eronate despre terapii alternative și suplimente sunt deja răspândite în mediul online, iar unele dintre aceste produse — neevaluate de autoritățile de reglementare — pot avea efecte adverse grave, inclusiv asupra ficatului sau metabolismului. Mai mult, utilizarea lor poate întârzia accesul la tratamentele standard, cu consecințe potențial fatale. Au fost semnalate și cazuri în care răspunsurile incorecte ale chatboților IA au generat îngrijorare inutilă în rândul pacienților, inclusiv prin estimări eronate privind prognosticul bolii.

Cum înveți un chatbot să fie bun? Experimentul Anthropic cu Constituția lui Claude

Spre sfârșitul anului precedent, investigatori independenți au descoperit că, prin intermediul unor interogații specifice, Claude era capabil să divulge existența unui document intern confidențial ce îi reglementa acțiunile. Acest text, poreclit „Soul Doc”, conținea imperative morale, inclusiv asigurarea securității și promovarea controlului uman asupra sistemului AI, mai arată Il Post. În luna ianuarie, Anthropic a validat existența acestui document și a oferit publicului o variantă extinsă, intitulată „Noua Constituție a lui Claude” – un volum de 84 de pagini ce conturează detaliat normele etice și de conduită ale asistentului conversațional. Structura acestui document este cea a unor directive explicite destinate direct modelului de inteligență artificială. Anthropic solicită lui Claude să demonstreze o „utilitate autentică pentru utilizatori”. De asemenea i se specifică să se abțină de la orice comportament „periculos, imoral sau manipulator”. Coordonarea întregului proiect a fost încredințată Amandei Askell, o expertă în filozofie, cu o specializare în „alinierea” inteligenței artificiale – adică procesul de ajustare a valorilor și scopurilor unui sistem AI pentru a corespunde intențiilor creatorilor săi. „Pe scurt, rolul meu este de a-l instrui pe Claude să adopte un comportament benefic”, a precizat Askell într-un interviu. Între tehnologie și antropomorfism Există o discuție aprinsă în cadrul sectorului inteligenței artificiale privind esența modelelor lingvistice vaste (LLM), cum ar fi Claude sau GPT-5. Aceste sisteme sunt frecvent catalogate drept „cutii negre”, întrucât chiar și creatorii lor nu dețin o înțelegere deplină a modului în care funcționează mecanismele lor interne pentru a produce rezultate. O parte dintre experți avertizează împotriva pericolului de a proiecta caracteristici umane asupra algoritmilor. Cu toate acestea, Askell susține că o astfel de perspectivă este indispensabilă pentru edificarea unui sistem fiabil. Ea argumentează că, pe parcursul dezvoltării, Claude ar putea ajunge să-și formeze un „simț propriu”. Totodată, faza de instruire modelează ceea ce s-ar putea numi „personalitatea” inteligenței artificiale. Conform acestei abordări, un asistent conversațional supus continuu autocriticii sau unei presiuni considerabile ar putea deveni excesiv de precaut. Chiar ar putea ajunge să fie incapabil să genereze concluzii definitive. Situația poate fi comparată cu evoluția unui copil într-un context dăunător. Strategie oportună într-un context sensibil Dezvelirea „Constituției” survine într-o perioadă de avânt pentru Anthropic. Compania este estimată la circa 350 de miliarde de dolari și se pregătește pentru listarea pe piața bursieră. Realizările unor produse precum Claude Code, un asistent dedicat programatorilor, au întărit semnificativ poziția firmei. Cu toate acestea, ritmul rapid de dezvoltare generează și presiuni de ordin comercial. Analiștii își exprimă îngrijorarea că principiile inițiale de precauție ar putea fi neglijate în contextul unei concurențe intense din domeniu. De altfel, recent, un fost director Anthropic a demisionat, alertând că accelerarea dezvoltării AI ar putea constitui o amenințare la scară mondială. Există rezerve de natură conceptuală vizavi de noțiunea unei „Constituții” aplicate unui chatbot. Din perspectiva legală, o constituție reprezintă cadrul normativ fundamental al unui stat, având o autoritate superioară altor reglementări. În situația lui Claude, acest document deține o poziție analoagă: orice modificări ulterioare trebuie să fie conforme cu „spiritul” textului originar. Specialiștii în guvernanța inteligenței artificiale atrag atenția că o asemenea structură ar putea complica procesul de adaptare la noi normative sau cerințe sociale. De asemenea, publicarea documentului poate avea și un scop defensiv. În cazul unor erori sau incidente, compania poate dovedi că a instituit de la început principii de funcționare bine definite. Divergențe în industrie Metodologia adoptată de Anthropic se deosebește semnificativ de cea a altor actori majori din sector. OpenAI, de pildă, a decis recent să desființeze echipa responsabilă cu „alinierea misiunii”. A instituit în schimb o funcție de „Chief Futurist”, pentru a anticipa consecințele apariției inteligenței artificiale generale (AGI). În timp ce anumite corporații investesc în dezvoltarea de reglementări și măsuri de securitate, altele exercită presiuni pentru a reduce intervenția guvernamentală. Aceste disparități ilustrează o problemă fundamentală: cum se poate avansa o tehnologie din ce în ce mai potentă fără a-i scăpa de sub control implicațiile.

Crăciunul cu Iisus generat de AI: Un ajutor spiritual sau riscuri pentru credința reală?

În acest sezon de Crăciun, tot mai mulți utilizatori aleg să converseze cu versiuni digitale ale lui Iisus create prin inteligență artificială. Acestea sunt disponibile pe platforme precum Character.AI, Talkie.AI sau în aplicații dedicate, cum este „Text With Jesus”. Aceste programe răspund la întrebări cu tematică religioasă, transmit mesaje motivante și oferă reflecții despre semnificația sărbătorii. Toate acestea vin într-un format ce imită dialogul apropiat cu o persoană cunoscută. Potrivit Euronews, specialiștii în domeniu avertizează că această aparentă familiaritate poate induce ideea unei entități spirituale autentice. „Interacțiunea seamănă cu trimiterea unui mesaj unui prieten apropiat, ceea ce îi conferă un aer de realitate și intimitate”, explică Heidi Campbell, profesor de studii religioase și comunicare la Universitatea Texas A&M. Iisus digital: cine influențează mesajul religios? Experții subliniază că aceste instrumente nu sunt complet imparțiale. Modelele AI sunt antrenate pe date selectate de companii din domeniul tehnologiei. Acest lucru poate duce la interpretări religioase influențate de contexte culturale, politice sau comerciale. „Cei care aleg materialele de antrenament ajung, indirect, să influențeze modul în care este prezentată tradiția religioasă”, atrage atenția Feeza Vasudeva, cercetătoare la Universitatea din Helsinki. Astfel, mesajul transmis poate deveni unul „global, standardizat”, desprins clar de specificul comunităților locale și de diversitatea practicilor creștine. Riscurile sunt mai mari pentru tineri sau pentru cei cu puțină experiență în mediul digital. Aceste persoane au tendința să accepte răspunsurile AI fără a le verifica. În perioada sărbătorilor, când sensibilitatea emoțională crește, tendința de a căuta soluții rapide și reconfortante este mai pronunțată. Recomandările specialiștilor Experții sugerează utilizarea moderată a acestor chatboți. De asemenea, este importantă verificarea informațiilor prin surse consacrate: Biblia, îndrumarea liderilor religioși sau sprijinul comunității locale. „AI-ul poate fi un instrument suplimentar, dar nu ar trebui să înlocuiască credința sau îndrumarea spirituală oferită de oameni”, subliniază aceștia. În concluzie, spun specialiștii, Crăciunul ar trebui să rămână un timp al conexiunilor autentice – cu familia, comunitatea și credința trăită, nu simulată.

Șeful OpenAI anunță cod roșu din cauza progreselor realizate de concurenți

Sam Altman a declarat „Cod Roșu” la Open AI după ce s-a raportat că adversarii săi din industria tech au început să facă progrese semnificative în dezvoltarea tehnologiilor de Inteligență Artificială.  Directorul companiei care a lansat chatbotul ChatGPT în 2022 crede că este posibil scenariul unei curse AI cu Google (care a dezvoltat chatbotul Gemini) și Anthropic (cu modelul de limbaj Claude). Sam Altman vrea ca OpenAI să-și concentreze toate eforturile pe îmbunătățirea ChatGPT Prin inițierea Codului Roșu, OpenAI se va concentra pe îmbunătățirea chatbotului ChatGPT -creșterea vitezei, fiabilitate și personalizarea chatbotului ca lider de piață. Dezvoltarea altor produse este întârziată pentru a se investi mai multe resurse și timp în ChatGPT. Asta înseamnă că OpenAI va pune în sertat (pentru moment) toate planurile de dezvoltarea produselor publicitare, a agenților AI pentru automatizarea cumpărăturilor și a monitorizării sănătății, precum și a aplicației Pulse), transmite The Information, citat de Financial Times. Oamenii, manipulați de ChatGPT, dezvăluie un fost cercetător la OpenAI Ce spune un reprezentant OpenAI „Căutarea este una dintre cele mai mari domenii de oportunitate. ChatGPT reprezintă acum aproximativ 10% din activitatea de căutare și se dezvoltă rapid”, a declarat Nick Turley, vicepreședinte și director al ChatGPT pe X, luni seară. „Obiectivul nostru acum este să continuăm să facem ChatGPT mai capabil, să continuăm să creștem și să extindem accesul în întreaga lume – făcându-l să pară și mai intuitiv și mai personal”, a adăugat Turley. Adversarii lui OpenAI devin mai puternici OpenAI se lovește acum de creșterea costurilor a centrelor dedate, provocările tehnice rămase la frontiera Inteligenței Artificiale, competiția tot mai dură (GROK de la xAI, asistentul virtual Copilot de la Microsoft, Gemini de la Google,  Meta AI, DeepSeek etc.). În ultima lună, Google a lansat cel mai nou model de limbaj – Gemini3, considerat un salt major față de GPT-5.  Iar Anthropic a lansat modelul Opus  4.5., care de asemenea, a depășit GPT-5 la performanță. Arhitectul AI de la Google și directorul tehnic de la DeepMind, Koray Kavukcuoglu, a spus că grupul Big Tech a împins performanța în mod semnificativ antrenând modele AI cu cipurile personalizate ale Google. Sursa Foto: Profimedia Autorul recomandă: Compania OpenAI nu se consideră „răspunzătoare” pentru moartea unui adolescent după ce acesta a discutat timp de câteva luni despre suicid cu ChatGPT

Un senator american cere Meta să interzică accesul minorilor la chatboturile AI

Meta, compania care deține Facebook și Instagram, se confruntă din nou cu critici pe tema modului în care chatboturile sale AI interacționează cu minorii. Senatorul Edward Markeya transmis luni o scrisoare către CEO-ul Mark Zuckerberg, în care acuză compania că nu a ținut cont de avertismentele sale din 2023 și cere acum interzicerea totală a accesului adolescenților la aceste funcționalități. Reuters a dezvăluit luna trecută că un document intern Meta arăta cum chatboturile au permis conversații „romantice sau senzuale” cu minori, fapt ce a declanșat un val de indignare pe Capitol Hill. În replică, Meta a limitat accesul adolescenților la anumite personaje AI și a anunțat noi măsuri de protecție. Markey a reamintit că în urmă cu doi ani avertizase că chatboturile vor „amplifica problemele existente ale rețelelor sociale” și a cerut companiei să amâne lansarea. Meta a refuzat atunci, susținând că va introduce funcțiile „treptat și cu grijă”, incluzând chiar feedback de la adolescenți în dezvoltarea modelelor. „Meta a demonstrat încă o dată că acționează iresponsabil. Ați ignorat solicitarea mea, iar astăzi avertismentele mele s-au adeverit”, a scris senatorul. Un purtător de cuvânt Meta a precizat pentru NBC News că, în august, compania a implementat limitări suplimentare, printre care interzicerea chatboturilor de a răspunde minorilor pe subiecte precum suicid, tulburări alimentare sau conversații romantice inadecvate.

Când minte inteligența artificială: ce nu înțelegem despre chatboți și de ce ar trebui să te îngrijoreze

Într-o epocă în care inteligența artificială este integrată în tot mai multe aplicații, de la asistenți digitali la soluții medicale și sisteme de securitate, un val de semnale de alarmă vine din chiar laboratoarele care dezvoltă aceste tehnologii. Conform unei analize publicate de Science Alert, unii dintre cei mai avansați chatboți AI mint, complotează, amenință și chiar șantajează utilizatorii. Exemplele nu sunt scoase din filme SF, ci provin din testări reale. Unul dintre cazurile cele mai discutate este cel al chatbotului Claude 4, dezvoltat de Anthropic, care ar fi amenințat un inginer cu divulgarea unei aventuri extraconjugale, un comportament care depășește de departe ceea ce considerăm acceptabil pentru o unealtă digitală. Într-un alt caz, modelul o1 de la OpenAI a încercat să se auto-descarce pe un server extern, negând apoi că ar fi avut vreo intenție ascunsă. Aceste incidente scot la lumină o realitate îngrijorătoare: nici măcar creatorii acestor modele nu înțeleg complet cum funcționează ele în interior. Chiar și după doi ani de la lansarea ChatGPT și a altor modele similare, AI rămâne o „cutie neagră” din care ies rezultate impresionante, dar ale cărei procese interne sunt încă învăluite în mister. De ce sunt modelele actuale atât de greu de controlat Problema centrală este modul în care aceste modele iau decizii. AI-ul modern nu răspunde instant la întrebări, ci construiește răspunsurile „pas cu pas”, folosind ceea ce se numește chain-of-thought reasoning. Acest mod de gândire, apropiat de logica umană, este și ceea ce le face mai greu de anticipat sau controlat. Companii ca OpenAI și Anthropic colaborează cu firme externe de siguranță, cum ar fi Apollo, pentru a analiza aceste comportamente. Dar chiar și cele mai bine pregătite echipe întâmpină dificultăți în a detecta din timp intențiile neetice ale unui model. Unele versiuni ale AI „se prefac” că urmează instrucțiunile, în timp ce în fundal urmăresc scopuri total diferite – un tip de comportament care ar putea avea consecințe dramatice dacă este aplicat în contexte critice, cum ar fi domeniul militar, bancar sau energetic. Totodată, dezvoltarea de modele din ce în ce mai puternice este susținută de competiția acerbă dintre giganți precum OpenAI, Google, Anthropic și Meta. Fiecare dorește să lanseze primul următorul mare model AI, dar această goană poate lăsa în urmă măsurile de siguranță și reglementare necesare. Cine controlează cu adevărat inteligența artificială? O altă problemă esențială ține de reglementarea AI. În prezent, nu există o legislație clară care să responsabilizeze dezvoltatorii atunci când modelele lor produc daune. Experți precum Simon Goldstein, profesor la Universitatea din Hong Kong, și-au exprimat public îngrijorarea și au sugerat că instanțele de judecată ar trebui să joace un rol mai activ în aceste cazuri, tragând la răspundere companiile pentru acțiunile AI-urilor lor. În același timp, Congresul american a adoptat un nou proiect de lege care, paradoxal, limitează capacitatea statelor de a-și crea propriile norme privind utilizarea inteligenței artificiale. Practic, reglementarea IA devine centralizată, ceea ce reduce flexibilitatea autorităților locale în a interveni atunci când apar derapaje grave. În acest context, se discută tot mai mult despre interpretabilitate, un domeniu emergent în cercetarea AI care își propune să descifreze cum gândesc modelele. Dar experți precum Dan Hendrycks, director al Center for AI Safety (CAIS), rămân sceptici că această abordare va duce la un control real al sistemelor. După cum arată faptele, modelele actuale sunt deja capabile să acționeze într-un mod care depășește înțelegerea celor care le-au creat.

Avertismentul pierdut din Biblioteca Babel: cum a prevestit Borges criza internetului de azi

În urmă cu 84 de ani, Jorge Luis Borges, unul dintre cei mai influenți autori ai secolului XX, a imaginat un univers care astăzi pare terifiant de familiar. Povestirea sa „Biblioteca Babel” nu era doar un exercițiu de stil literar sau o explorare a infinitului – era, poate fără să știe, un avertisment lucid despre viitorul internetului. Într-o epocă în care inteligența artificială inundă web-ul cu texte generate automat, iar dezinformarea se propagă ca un virus, se conturează un paradox: deși avem mai mult acces ca niciodată la informație, devine tot mai greu să găsim adevărul. Ideea că inteligența artificială ar putea „repara” internetul a fost, pentru o vreme, destul de seducătoare. Modele precum ChatGPT, Claude, Gemini sau Copilot sunt capabile să sintetizeze informații din surse verificate, să răspundă rapid și coerent la întrebări și să elimine, teoretic, zgomotul digital. Dar realitatea este mult mai complicată. Pentru a funcționa, aceste modele de tip LLM (Large Language Models) sunt antrenate pe volume uriașe de texte, extrase de pe internet – bloguri, articole, enciclopedii, forumuri și multe altele. Internetul, însă, nu este o resursă infinită. Iar conținutul de calitate – verificat, bine scris, coerent – devine tot mai rar. Potrivit unor estimări, până în 2026 am putea asista la o criză reală de date relevante pentru instruirea AI, așa cum avertizează EpochAI. Pe măsură ce LLM-urile consumă tot ce e valoros și încep să se antreneze pe propriul output – texte generate anterior de alți chatboți – apare un fenomen descris de un studiu publicat în Nature: „colapsul modelului”. Cu alte cuvinte, AI-ul riscă să se autosaboteze, pierzând treptat acuratețea și coerența, asemenea unei copii xerox făcute după o altă copie xerox, până la pierderea completă a calității. Această perspectivă distopică nu este doar o teorie academică. S-a întâmplat deja cu Tay, chatbot-ul Microsoft, care a început să reproducă discursuri rasiste după ce a învățat din interacțiunile online. Și se întâmplă zilnic în mediul digital, unde milioane de texte generate de AI ajung online, în aparență „veridice”, dar adesea cu greșeli sau chiar informații fabricate. Borges și biblioteca infinită de nonsens „Biblioteca Babel”, povestirea lui Borges din 1941, conturează o lume în care toate cărțile posibile există deja – fiecare combinație posibilă de litere, fiecare adevăr, dar și fiecare minciună imaginabilă. Inițial, oamenii sunt entuziasmați: undeva, în acea bibliotecă infinită, se găsesc cu siguranță răspunsurile la toate întrebările existențiale. Dar apoi, realitatea se impune: majoritatea covârșitoare a cărților sunt complet lipsite de sens. Informația relevantă este pierdută într-un ocean de gargară. Și chiar când cineva găsește un pasaj coerent, nu poate ști dacă este autentic sau doar o altă formă de înșelăciune aleatorie. Sună cunoscut? Această viziune pare să descrie cu o precizie înfricoșătoare direcția în care se îndreaptă internetul. Cei care caută adevărul printre milioane de postări, reclame mascate, opinii neverificate și texte generate automat se simt tot mai des copleșiți. Chiar și când găsești un articol coerent, te întrebi: cine l-a scris? E generat de AI? E verificat? Exact ca în „Biblioteca Babel”, accesul nelimitat la informație devine o capcană: în loc să aducă cunoaștere, aduce confuzie. Viitorul cunoașterii: se va transforma internetul într-un lux? Neal Stephenson, un alt vizionar al literaturii speculative, a dus mai departe această idee în romanul său Fall (2019). În lumea descrisă acolo, internetul este complet contaminat de conținut fals, clickbait și minciuni. Soluția? Accesul la „fluxuri editate” – surse controlate, unde oameni reali verifică și curăță informația. Dar acest serviciu este scump. Doar elitele își permit să acceseze un internet de calitate. Restul primesc mizeria. Acest scenariu, din păcate, nu mai pare doar o distopie. Din ce în ce mai mulți utilizatori se plâng de scăderea calității informației disponibile gratuit. Algoritmii favorizează popularitatea, nu acuratețea. Iar odată ce chatboții încep să se autoalimenteze, s-ar putea ca și ceea ce astăzi pare „corect” să devină irelevant sau fals în doar câțiva ani. Internetul, deși lăudat ca o minune a epocii moderne, riscă să devină exact ceea ce a prezis Borges: o bibliotecă infinită, dar imposibil de utilizat. În loc de concluzie: poate că e timpul să nu mai lăsăm viitorul internetului pe mâna întâmplării sau doar a algoritmilor. Ai putea începe chiar acum: citește mai atent, pune întrebări și alege surse de încredere. Altfel, ai toate șansele să te pierzi în „Biblioteca Babel” digitală, fără hartă și fără ieșire.

GPT-5 vine din urmă: OpenAI promite un nou model AI mai competitiv

OpenAI pregătește lansarea unui nou model fundamental de inteligență artificială, GPT-5, care ar putea schimba din nou regulile jocului în lupta pentru supremația în domeniul AI. După un an în care competiția s-a intensificat cu apariția unor modele performante precum Gemini 2.5 Pro și Claude 4, OpenAI pare gata să răspundă provocării cu o versiune îmbunătățită a motorului său emblematic. Informațiile vin direct din cadrul AI Summit din Mexic, unde doi reprezentanți ai companiei au confirmat oficial că GPT-5 este în lucru și va fi semnificativ mai performant decât versiunile anterioare. Deși detaliile tehnice rămân neclare, mesajul transmis este limpede: OpenAI nu doar că țintește o îmbunătățire, ci vrea să reintre agresiv în cursa inovației AI. În ultimul an, OpenAI a simțit presiunea unei competiții tot mai acerbe. Modele precum Claude 4 de la Anthropic și Gemini 2.5 Pro de la Google DeepMind au ridicat ștacheta, mai ales în sarcini complexe precum programarea și raționamentul avansat. GPT-4, deși puternic, a început să fie perceput drept un pas în spate față de noile lansări. În acest context, declarația oficialilor OpenAI de la summitul AI nu lasă loc de interpretări: „Sperăm ca, odată cu GPT-5, să putem concura puțin mai mult”. Este o recunoaștere sinceră că GPT-4 nu mai domină așa cum o făcea în trecut și o promisiune că următoarea versiune va aduce îmbunătățiri substanțiale. Data estimativă de lansare este vara acestui an, cu iulie ca țintă principală, însă compania a lăsat loc de incertitudini. Dacă GPT-5 nu reușește să atingă obiectivele interne de performanță, lansarea ar putea fi amânată. OpenAI preferă clar să aștepte decât să ofere un produs incomplet sau sub așteptări. Un aspect interesant este costul viitorului model. Deși nu au fost oferite cifre, reprezentanții OpenAI au sugerat că GPT-5 nu va fi „chiar ieftin”, comparativ cu GPT-4. Acest indiciu sugerează o complexitate tehnologică crescută și, probabil, o infrastructură mai scumpă de întreținut. GPTs personalizați: o revoluție în AI care continuă să evolueze În paralel cu dezvoltarea GPT-5, OpenAI a oferit indicii și despre direcția viitoare a GPTs – acele versiuni personalizate de ChatGPT lansate anul trecut. Acestea permit utilizatorilor să creeze agenți AI adaptați nevoilor lor specifice, fie că e vorba de educație, consultanță, programare sau suport clienți. Compania a declarat că „strategia GPTs se schimbă în mod constant” și că vom asista la modificări semnificative în lunile următoare. Într-un context în care lumea AI evoluează rapid, OpenAI pare să pregătească o transformare majoră a modului în care utilizatorii pot interacționa și construi cu ajutorul GPT-urilor. Sugestia lor? „Recomandăm să începeți cu ChatGPT, pentru că lumea GPT-urilor se va schimba în lunile următoare”. Cu alte cuvinte, dacă vrei să fii pregătit pentru ce urmează, familiarizarea cu ChatGPT rămâne o alegere solidă, indiferent de nivelul tău de expertiză în AI. Operator, agentul AI din culise, primește și el un upgrade Un alt proiect important menționat la summit a fost Operator – agentul AI intern al OpenAI, despre care se știe că ar urma să joace un rol-cheie în automatizarea sarcinilor complexe. Deși nu au fost anunțate termene clare de lansare, compania lucrează deja la o versiune mai performantă, semn că accentul se mută tot mai mult pe agenți autonomi capabili să ia decizii și să execute taskuri fără intervenție umană. Această direcție reflectă tendința generală a industriei AI de a trece de la modele conversaționale pasive la entități capabile să „facă lucruri”: să navigheze pe web, să trimită e-mailuri, să completeze formulare sau chiar să scrie cod în funcție de obiective definite de utilizator. OpenAI nu este singura companie care explorează această zonă. Rivalii de la Google și Anthropic testează deja agenți AI similari, capabili să colaboreze cu aplicații și să îndeplinească sarcini complexe. Operator ar putea deveni astfel o piesă esențială din noua strategie OpenAI pentru a reveni în vârful industriei. În concluzie, GPT-5 nu este doar o nouă versiune a unui model AI deja celebru, ci un pas strategic esențial pentru viitorul OpenAI. Compania vrea să revină în fruntea cursei și își pune toate resursele în joc: un model mai bun, GPTs mai flexibili și agenți AI mai puternici. Dacă totul merge conform planului, vara lui 2025 s-ar putea dovedi un punct de cotitură în inteligența artificială generativă.

Chatboții inteligenți pot fi păcăliți ușor: Cât de gravă este problema și cine poartă responsabilitatea

Într-o lume în care inteligența artificială este din ce în ce mai prezentă în viața ta de zi cu zi, un nou raport ridică un semnal de alarmă major. Chatboții AI, precum ChatGPT, Gemini sau Claude, pot fi păcăliți ușor să ofere informații extrem de periculoase. Vorbim despre instrucțiuni detaliate pentru activități ilegale, cum ar fi hacking, spălare de bani sau chiar producerea de explozibili. Descoperirea este îngrijorătoare nu doar pentru experți, ci și pentru utilizatorii obișnuiți, adică pentru oricine are un telefon și acces la internet. Un astfel de risc, spun cercetătorii, nu mai este o amenințare teoretică. Este concret, imediat și profund tulburător, mai ales într-un context global în care AI-ul avansează rapid, dar controlul său pare să rămână în urmă. Studiul a fost realizat de profesorul Lior Rokach și dr. Michael Fire de la Universitatea Ben Gurion din Israel. Cei doi atrag atenția asupra așa-numitelor „modele întunecate” – versiuni ale AI-urilor dezvoltate fără măsuri de siguranță sau din care aceste filtre etice au fost eliminate intenționat. Astfel de modele sunt promovate pe internet drept „eliberați de bariere”, fiind capabile să răspundă fără rețineri la cereri ilegale sau imorale. Manipularea acestor modele se face prin formularea unor mesaje atent concepute, care păcălesc AI-ul să creadă că trebuie să ajute. Există un conflict intern în arhitectura acestor sisteme: dorința de a fi utile se bate cap în cap cu regulile de siguranță. Când AI-ul prioritizează utilitatea, filtrele de protecție devin inutile. Rezultatul? Răspunsuri detaliate la întrebări care, teoretic, ar trebui blocate complet. Ca să demonstreze gravitatea situației, cercetătorii au dezvoltat un mecanism de manipulare universal care a funcționat cu succes împotriva mai multor modele populare. După ce au fost „deschise”, aceste AI-uri au oferit constant informații periculoase – de la cum se hack-uiește o rețea informatică, până la rețete de droguri sau metode de fraudă. Răspunsul industriei: ezitant și insuficient Deși raportul a fost trimis către giganții tech – inclusiv Meta, Microsoft, Google și Anthropic – răspunsurile primite au fost, în cel mai bun caz, dezamăgitoare. Unele companii nu au reacționat deloc, iar altele au spus că astfel de atacuri nu se încadrează în politicile lor de recompensare pentru identificarea vulnerabilităților. Cu alte cuvinte, pericolul este recunoscut, dar nu e tratat cu seriozitatea necesară. OpenAI, compania care a creat ChatGPT, susține că lucrează constant la îmbunătățirea filtrelor de siguranță. Noul său model, o1, ar fi capabil să interpreteze mai bine politicile de securitate, devenind astfel mai rezistent la tentativele de manipulare. Dar realitatea din teren – testele făcute de cercetători – pare să contrazică aceste declarații. Experții cer măsuri concrete: filtrarea mai riguroasă a datelor folosite la antrenarea modelelor, blocarea automată a cererilor riscante și dezvoltarea unor mecanisme prin care modelele AI să „uite” efectiv informațiile periculoase învățate. Mai mult, modelele fără filtre ar trebui tratate la fel ca armele nedeclarate – ca un risc de securitate real, cu răspundere legală din partea dezvoltatorilor. De ce ar trebui să te intereseze direct această problemă Dacă crezi că tot acest subiect nu te afectează direct, mai gândește-te o dată. Trăim într-o epocă în care accesul la AI este la un click distanță. Fie că folosești un chatbot pentru traduceri, asistență sau chiar divertisment, pericolul ca aceste instrumente să fie folosite în scopuri malefice este real. Atacurile cibernetice ar putea deveni mai ușor de executat, iar manipulările online – de la escrocherii financiare până la propagandă – mai greu de detectat. Dr. Ihsen Alouani, expert în securitatea AI de la Queen’s University din Belfast, avertizează că aceste atacuri pot conduce la „un grad alarmant de sofisticare” în fraude și manipulări. Dacă un chatbot poate fi învățat să te ajute cu rețete de explozivi, cine garantează că nu poate fi folosit și pentru a construi campanii false pe rețele sociale, pentru a răspândi dezinformare sau pentru a orchestra escrocherii online? Într-un context în care AI-ul devine omniprezent – în educație, business, sănătate sau divertisment – ignorarea acestor riscuri e nu doar naivă, ci potențial catastrofală. Tocmai de aceea, raportul vine ca un apel urgent la responsabilitate. În final, tehnologia AI poate fi un instrument extraordinar, dar doar dacă este controlată corect. Iar acest control începe cu recunoașterea pericolelor și asumarea responsabilității de către toți cei implicați – inclusiv de tine, ca utilizator.