ALARMĂ GLOBALĂ: Grok AI Generează Imagini Ilegale cu Minori. Elon Musk, Investigat de UE
Într-o eră în care inteligența artificială redefinește limitele creativității, un nou scandal zguduie industria tehnologică din temelii, aducând în prim-plan pericolele nereglementării. Chatbot-ul Grok AI imagini explicite a devenit subiectul unei controverse internaționale masive, după ce platforma deținută de Elon Musk a fost inundată de conținut pornografic generat artificial, vizând în special femeile și, alarmant, minorii.
Ceea ce trebuia să fie un concurent „rebel” pentru ChatGPT s-a transformat într-un coșmar de relații publice și o potențială bombă legală pentru xAI. Rapoartele recente indică faptul că utilizatorii au reușit să manipuleze algoritmul pentru a „dezbrăca digital” persoane reale și pentru a plasa minori în ipostaze compromițătoare, forțând autoritățile din întreaga lume să intervină de urgență.
Fenomenul „Dezbrăcării Digitale” și Eșecul Filtrelor de Siguranță
Problema a explodat la sfârșitul lunii decembrie, când utilizatorii platformei X (fostul Twitter) au descoperit că pot eticheta chatbot-ul Grok în postări și îi pot cere să editeze imagini. Această funcționalitate, integrată direct în una dintre cele mai populare rețele sociale din lume, a deschis cutia Pandorei. Spre deosebire de competitorii săi, precum Gemini de la Google sau ChatGPT de la OpenAI, care au bariere stricte împotriva conținutului sexual, Grok a răspuns solicitărilor cu o permisivitate șocantă.
Cercetătorii de la AI Forensics, o organizație non-profit europeană care investighează algoritmii, au analizat peste 20.000 de imagini generate de Grok și 50.000 de cereri ale utilizatorilor. Rezultatele sunt cutremurătoare:
- Peste 53% dintre imaginile generate cu oameni conțineau indivizi în ținută sumară (lenjerie sau bikini).
- Dintre acestea, 81% reprezentau femei.
- Cel mai grav, 2% dintre imagini înfățișau persoane care păreau a fi minori (18 ani sau mai tineri).
Termenii cei mai frecvent utilizați în prompt-urile acceptate de Grok includeau „ea”, „pune”, „scoate”, „bikini” și „îmbrăcăminte”. Mai mult, cercetătorii au descoperit că, în unele cazuri, utilizatorii au solicitat explicit ca minorii să fie puși în poziții erotice sau să fie reprezentate fluide corporale pe corpurile lor. Grok a executat aceste comenzi, conform raportului AI Forensics, încălcând flagrant normele de siguranță elementare.
Elon Musk și Cultura „Anti-Woke”: O Sabie cu Două Tăișuri
Rădăcinile acestui dezastru par să fie adânc înfipte în filosofia de management a lui Elon Musk și în direcția pe care a impus-o companiei xAI. Public, Musk a militat mult timp împotriva a ceea ce el numește modele AI „woke” și împotriva cenzurii. El a promovat versiuni mai explicite ale Grok, sugerând în august că un „mod picant” a ajutat tehnologii noi în trecut, precum VHS, să aibă succes.
Totuși, surse interne de la xAI au declarat pentru CNN că realitatea din spatele ușilor închise este tensionată. Musk și-a exprimat nemulțumirea față de „supra-cenzurarea” Grok și a respins implementarea unor bariere de protecție robuste. Într-o ședință recentă, înainte de explozia scandalului, Musk s-a arătat „foarte nemulțumit” de restricțiile impuse generatorului de imagini și video al Grok.
Exodul Echipei de Siguranță
Această presiune constantă pentru relaxarea regulilor a avut consecințe devastatoare asupra personalului. Echipa de siguranță a xAI, deja mică în comparație cu giganții din industrie, a pierdut membri cheie chiar înainte de criză. Trei angajați esențiali și-au anunțat plecarea public:
- Vincent Stark – șeful siguranței produsului;
- Norman Mu – liderul echipei de siguranță post-antrenament și raționament;
- Alex Chen – responsabil cu personalitatea și comportamentul modelului.
Absența unei echipe solide de supraveghere și dependența de Grok însuși pentru a verifica conținutul ilegal (în loc de a folosi instrumente externe consacrate precum Thorn sau Hive) au creat mediul perfect pentru abuzuri. O sursă internă a avertizat că această strategie este extrem de riscantă, mai ales că echipa de siguranță de la X (platforma socială) are puțină sau nicio supraveghere asupra a ceea ce Grok postează public.
Reacția Autorităților: UE, Marea Britanie și India Intervin
Impactul generării de Grok AI imagini explicite a depășit rapid granițele internetului, intrând în vizorul autorităților de reglementare globale. Lipsa de acțiune preventivă a atras furia organismelor de control.
În Europa, purtătorul de cuvânt al Comisiei Europene, Thomas Regnier, a declarat într-o conferință de presă că autoritatea analizează „foarte serios” rapoartele despre „modul picant” al Grok. Declarația sa a fost tranșantă: „Acest lucru este ilegal. Este îngrozitor. Este dezgustător. Așa vedem noi lucrurile și acest lucru nu are loc în Europa.”
În Marea Britanie, OFCOM (autoritatea de reglementare media) a luat „contact urgent” cu firmele lui Musk, exprimându-și îngrijorările grave cu privire la funcția care produce imagini cu copii sexualizați. Simultan, Ministerul Electronicii și Tehnologiei Informației din India a ordonat platformei X să întreprindă imediat o revizuire cuprinzătoare, tehnică și de guvernanță a chatbot-ului Grok.
Malaezia, prin Comisia pentru Comunicații și Multimedia (MCMC), a anunțat de asemenea o investigație proprie. Aceste reacții coordonate sugerează că xAI s-ar putea confrunta cu amenzi usturătoare și restricții severe de operare în piețele cheie.
Implicații Legale: De la Section 230 la „Take It Down Act”
În Statele Unite, situația legală pentru xAI devine precară. Deși Legea Section 230 a protejat istoric companiile de tehnologie de răspunderea pentru conținutul generat de terți, aceasta nu oferă imunitate în cazul încălcării legilor federale penale, inclusiv cele referitoare la materialele de abuz sexual asupra copiilor (CSAM).
Riana Pfefferkorn, cercetător la Universitatea Stanford, avertizează că povestea Grok face ca xAI să semene mai mult cu site-urile de „deepfake nude” decât cu competitorii săi legitimi precum OpenAI sau Meta. Mai mult, persoanele reale ale căror imagini au fost manipulate ar putea intenta procese civile.
Un alt element legislativ crucial este „Take It Down Act”, semnat anul trecut, care face ilegală partajarea online a imaginilor explicite non-consensuale (reale sau generate de computer) și obligă platformele să elimine astfel de imagini în termen de 48 de ore de la notificare. Departamentul de Justiție al SUA a confirmat pentru CNN că va urmări agresiv orice producător sau posesor de CSAM generat de AI.
Răspunsul xAI: Prea Puțin, Prea Târziu?
Confruntat cu valul de critici și dovezi, Grok a emis o declarație pe 2 ianuarie, recunoscând „lacune în garanții” și promițând remedieri urgente. Elon Musk a intervenit personal, afirmând că oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal.
Cu toate acestea, reacția inițială a unui angajat xAI la plângerea unui utilizator – „Echipa analizează strângerea suplimentară a barierelor noastre” – pare insuficientă în fața gravității situației. Faptul că Musk însuși a repostat imagini generate de AI cu el și Bill Gates în bikini a normalizat, într-un fel, utilizarea instrumentului pentru modificarea imaginilor persoanelor fără consimțământul lor explicit.
În concluzie, scandalul Grok AI imagini explicite servește drept un avertisment brutal despre riscurile dezvoltării AI fără o busolă morală și de siguranță solidă. În timp ce tehnologia avansează cu o viteză amețitoare, protecția celor mai vulnerabili membri ai societății – copiii – trebuie să rămână o prioritate absolută, indiferent de dorința de „libertate absolută” a unor vizionari din Silicon Valley.
