- Dario Amodei este un cercetător și antreprenor american în domeniul inteligenței artificiale . Este co-fondatorul și CEO-ul Anthropic, compania din spatele seriei de modele lingvistice Claude AI. Anterior, a fost vicepreședinte de cercetare la OpenAI.
„Sistemele moderne de IA operează fundamental diferit față de software-ul tradițional”
Cred că majoritatea oamenilor subestimează cât de radicale ar putea fi avantajele IA, la fel cum cred că majoritatea oamenilor subestimează cât de grave ar putea fi riscurile.
Directorul executiv al Anthropic, Dario Amodei, avertizează că „nimeni nu înțelege cu adevărat cum funcționează inteligența artificială (IA)”.
În eseul publicat pe site-ul său personal, Amodei afirmă că „sistemele moderne de IA operează fundamental diferit față de software-ul tradițional”.
„Când un sistem de IA generativă efectuează o sarcină, cum ar fi rezumarea unui document financiar, nu avem idee, la un nivel specific sau precis, de ce ia deciziile pe care le ia: de ce alege anumite cuvinte în detrimentul altora, sau de ce face ocazional o greșeală în ciuda faptului că este în general precis”, explică Amodei.
Recomandări
Câți bani a dat Gigi Becali în 2024 la AUR. Lista celor care au împrumutat partidul, iar apoi au devenit parlamentari
Compară sistemele de IA cu organismele vii
Cercetătorul compară sistemele de IA cu organismele vii, explicând că „dezvoltarea lor este imprevizibilă și dificil de înțeles”.Această caracteristică diferențiază fundamental IA modernă de software-ul convențional.
CEO-ul Anthropic subliniază: „Este un pic ca și cum ai cultiva o plantă sau o colonie bacteriană: stabilim condițiile de nivel înalt care direcționează și modelează creșterea, dar structura exactă care apare este imprevizibilă și dificil de înțeles sau explicat”.
Amodei identifică mai multe riscuri asociate cu această „opacitate”, inclusiv posibilitatea unor „sisteme nealiniate care ar putea lua acțiuni dăunătoare neprevăzute de creatorii lor”.
„Merităm să înțelegem propriile noastre creații înainte ca acestea să ne transforme radical viețile și viitorul”
Pentru a aborda aceste provocări, Anthropic își propune să dezvolte o „rezonanță magnetică pentru IA” în următorul deceniu. Acest proiect ambițios vizează crearea de instrumente pentru examinarea funcționării interne a modelelor și diagnosticarea problemelor potențiale înainte de implementare.
Amodei recunoaște că există o competiție între avansul interpretabilității și dezvoltarea unor modele tot mai puternice.
Recomandări
Poveștile urșilor salvați de Cristina și Roger Lapis. Ce este „sindromul cuștii”, afecțiunea de care suferă o parte dintre locatarii Sanctuarului „Libearty” din Zărnești
El avertizează că IA însăși avansează atât de rapid încât ar putea să nu avem suficient timp pentru a dezvolta aceste instrumente.
În concluzie, CEO-ul Anthropic face un apel la cercetători, companii, guverne și societate pentru a accelera dezvoltarea „tehnicilor de interpretabilitate”.
IA va modela destinul umanității și merităm să înțelegem propriile noastre creații înainte ca acestea să ne transforme radical viețile și viitorul.
Urmărește în fiecare zi seria de materiale dedicate finalei prezidențiale – „Nicușor Dan vs George Simion”!
Urmărește cel mai nou VIDEO
Urmărește-ne pe Google News
Unica.ro
„Prostia nu e un păcat. Mârșăvia, da”. CTP, mesaj acid la adresa Elenei Lasconi, după publicarea controversatelor fotografii
Viva.ro
Pe George Simion îl știe toată lumea, dar stai să vezi ce s-a aflat acum despre sora lui. O prezență discretă, departe de camere, nu politică, nu showbiz… ci ceva total neașteptat
Libertateapentrufemei.ro
”Mi-e bine de mor și nu mă mai întorc în România câte zile am!”, spune vedeta noastră, care trăiește ca o prințesă cu un soț și frumos, și bogat: “N-am crezut că mai pot exista așa soți rămași pe lumea asta”
Adevarul.ro
Cum au ajuns faimoși Nicușor Dan și George Simion. „Micii Einsteini al Balcanilor” versus „Noii Golani”
Elle.ro
Andreea Ibacka, confesiuni despre viața de familie, după 14 ani de căsătorie cu Cabral. Ce a mărturisit actrița: „Odată cu vârsta…”
Unica.ro
După o căsnicie de 24 de ani, celebrul afacerist a recunoscut că este gay. „A fost o explozie de pasiune care a continuat ani de zile!” Reacția soției a șocat pe toată lumea
Observatornews.ro
Criminalii care au îngrozit România, închisoare pe viaţă. Un bărbat din Oradea şi două femei au torturat două surori, iar pe una dintre ele au ucis-o
HOROSCOP
Horoscop 10 mai 2025. Berbecii au senzația că ceva se încheie și altceva începe și au mare dreptate, dar ar fi bine să nu tragă concluzii
