Mark Zuckerberg nu susține încetinirea dezvoltării inteligenței artificiale, în ciuda avertismentelor din ultima perioadă venite de la importanți lideri ai industriei asupra riscurilor generate de evoluția extrem de rapidă a tehnologiei.
CEO-ul Meta consideră că presiunea concurenței și riscul unor consecințe juridice sunt suficiente pentru a determina laboratoarele AI să își dezvolte sistemele în condiții de siguranță. Poziția sa contrastează cu apelul lansat de CEO-ul Anthropic, Dario Amodei, și susținut public de Sam Altman și Elon Musk.
Zuckerberg susține că fiecare companie are atât responsabilitatea, cât și interesul economic să stabilească ritmul în care își dezvoltă modelele, astfel încât măsurile de siguranță să țină pasul cu noile capacități. În opinia șefului Meta, piața însăși poate penaliza companiile care neglijează problema alinierii sistemelor AI la obiectivele oamenilor.
”Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a transmis Zuckerberg, adăugând că laboratoarele care nu acordă suficientă atenție acestui domeniu riscă să rămână în urma concurenților.
Meta și-a amânat propriul agent AI
Zuckerberg invocă și un al doilea mecanism care ar trebui să determine companiile să fie prudente: răspunderea juridică. Dacă un model provoacă prejudicii, dezvoltatorul său s-ar putea confrunta cu consecințe financiare importante.
CEO-ul a dat drept exemplu chiar Meta. Compania a amânat în acest an lansarea agentului AI Muse pentru a-i consolida securitatea.
Zuckerberg a subliniat că Meta a luat această decizie fără să condiționeze încetinirea propriului proiect de o măsură similară din partea concurenților.
Meta Superintelligence Labs utilizează, de asemenea, evaluatori independenți în mai multe domenii, o practică descrisă de Zuckerberg drept un standard pe care îl pot adopta și celelalte laboratoare.
Poziția lui Zuckerberg vine după ce Dario Amodei, șeful Anthropic, a cerut o încetinire intenționată a dezvoltării anumitor capabilități AI. În centrul preocupărilor se află așa-numita ”recursive self-improvement” – posibilitatea ca sistemele AI să contribuie tot mai mult la propria lor îmbunătățire.
Sam Altman, CEO-ul OpenAI, și Elon Musk, fondatorul xAI, au susținut public apelul lui Amodei. Reuters notează că disputa scoate la suprafață una dintre problemele fundamentale ale industriei: o companie care încetinește unilateral riscă să piardă teren în fața rivalilor care continuă cursa.
