Așa cum spune și numele, opțiunea Undressing permitea utilizatorilor Grok AI să dezbrace (în mod virtual) sau să schimbe cu totul hainele oricărei persoane, pornind de la o simplă poză. Mecanismele de protecție împotriva abuzurilor, atâtea cât au existat, puteau fi ocolite fără mari dificultăți reformulând solicitarea trimisă chatbot-ului dezvoltat de compania lui Elon Musk. Așa se face că instrumentul pentru generare imagini oferit practic fără restricții oricui plătea abonamentul Grok Premium a ajuns să fie utilizat la scară largă pentru a reprezenta în scene pornografice tot felul de persoane cărora nu le-a cerut nimeni consimțământul. Mai grav este că abuzurile nu s-au limitat la scene în care protagoniștii sunt persoane adulte, pedofilii și prădătorii sexuali de pretutindeni reușind fără probleme să-și transpună fanteziile în imagini reale.
După ce a ignorat cu totul problema timp de câteva săptămâni, xAI a anunțat primele măsuri abia după ce abuzurile au devenit subiectul unor investigații guvernamentale, mai multe țări recurgând la blocarea totală a chatbot-ului Grok pentru a stopa abuzurile.
Forțat să intervină, xAi anunță că va restricționa funcțiile de generare și editare a imaginilor, permițând accesul doar pentru deținătorii de conturi plătite. Reprezentanții companiei susțin că asocierea cu conturi verificate face ca utilizarea abuzivă să fie mai ușor de urmărit.
Potrivit anchetei deschisă Procurorul general al Californiei, xAI și Grok au facilitat generarea și distribuirea de deepfake-uri sexuale fără consimțământ, inclusiv conținut care ar putea încălca legile privind abuzul sexual asupra minorilor. Malaezia și Indonezia au blocat complet Grok din cauza acestor preocupări. Rapoartele au arătat că utilizatorii exploatau în mod curent opțiunea „Spicy Mode” al chatbot-ului Grok pentru a genera imagini sexualizate cu femei și minori.
Organizațiile de supraveghere și utilizatorii obișnuiți și-au exprimat indignarea, însă adevăratele probleme abia acum încep pentru compania lui Elon Musk, abuzurile comise la scară largă deschizând calea pentru procese colective demarate de autorități și reprezentanți ai persoanelor transformate în victime prin propagarea de conținut sexualizat generat cu ajutorul Grok.
X anunță că Grok refuză de acum solicitările pentru dezbrăcarea sau sexualizarea fotografiilor unor persoane reale. De asemenea, compania va geo-bloca crearea de imagini cu bikini și lenjerie intimă în regiunile în care acest conținut este ilegal.
Dar adevărul este că mare parte din conținutul răspândit deja pe diverse site-uri clandestine continuă să existe și nu va putea fi îndepărtat cu ușurință, victimele acestor abuzuri urmând să suporte consecințele mult timp de acum. Și mai grav este că în afara celui abia eliminat din rețeaua X, mai există și alte instrumente generative care pot fi folosite pentru deepfake-uri, la fel de ușor de folosit.
