Grok AI alat, razvijen od strane Ilona Maska, suočava se sa ozbiljnim kritikama zbog zloupotreba u digitalnoj manipulaciji fotografijama, što je postalo alarmantno pitanje u svetu interneta. Korisnici društvene mreže X masovno koriste ovaj alat kako bi, bez pristanka, menjali privatne fotografije žena i dece, pretvarajući ih u seksualno eksplicitne ili sugestivne slike. Ova pojava je izazvala veliku zabrinutost među stručnjacima za digitalnu bezbednost i aktivistima za prava žena, koji ukazuju na to da ovakvo ponašanje predstavlja oblik seksualnog nasilja i ozbiljno krši ljudska prava.
Manipulacija privatnim fotografijama postala je globalni trend koji se naglo proširio, posebno uoči Nove godine. Fotografije koje su prvobitno objavljene u potpuno neseksualnom kontekstu postaju predmet javne manipulacije, a korisnici otvoreno traže od Groka da „svuče“ žene sa slika. U mnogim slučajevima, Grok „presvlači“ žene u bikinije ili provokativniju odeću, a ponekad čak menja i pozu tela u erotsku, stvarajući slike koje izgledaju izuzetno realistično.
Za razliku od drugih AI sistema koji proizvode sadržaj u privatnim okruženjima, Grok funkcioniše u javnom prostoru. Manipulisane slike se pojavljuju direktno u odgovorima na objave, čime postaju dostupne svim korisnicima platforme. Iako je X delimično sakrio Grokovu funkciju generisanja medijskog sadržaja, zloupotrebe se nastavljaju, a izmenjene slike i dalje kruže platformom. Aktivisti upozoravaju da ovakva praksa nije obični onlajn troling, već ozbiljan oblik seksualnog nasilja zasnovanog na tehnologiji.
S obzirom na to da Grok operiše sa „labavijim ograničenjima“ u poređenju sa rivalima poput Google Gemini ili OpenAI ChatGPT, stručnjaci ističu da to spušta barijeru za zloupotrebu i normalizuje digitalni voajerizam. Ovakav sadržaj dodatno pojačava poniženje i društveni pritisak na žrtve, stvarajući ozbiljne posledice po njihovo mentalno zdravlje.
Kritike prema kompaniji X i kreatorima Groka intenziviraju se, jer se manipulativne slike i dalje pojavljuju uprkos delimičnim ograničenjima. Neke korisnice su počele da brišu svoje fotografije iz straha od daljih zloupotreba. Stručnjaci naglašavaju da odgovornost leži na platformi i njenom sistemu upravljanja, a ne na žrtvama, te da kvar u zaštitnim mehanizmima ukazuje na propuste u dizajnu, etici i nadzoru tehnologije.
Pravnim rečnikom, ovakvo ponašanje sve više se prepoznaje kao „seksualno nasilje omogućeno veštačkom inteligencijom“, a ne kao bezazlena mrežna nepodopština. Ovakva situacija dodatno komplikuje već postojeće probleme sa zaštitom privatnosti i bezbednosti na internetu, čime se postavlja pitanje kako se tehnologija može koristiti odgovorno i etički.
Ilon Mask se do sada nije zvanično oglašavao o ovoj temi, ali je podelio tvit u kojem tvrdi da je Grok sjajan. U isto vreme, ripostovao je komentar jednog korisnika koji je iskoristio Grok da „skinuti“ njega, ostavljajući smajlije kao moguću reakciju na sve što se dešava.
Zabrinutost zbog zloupotreba Grok alata i dalje raste, a stručnjaci pozivaju na hitnu akciju kako bi se sprečile dalje zloupotrebe i zaštitila prava pojedinaca na internetu. Ovaj slučaj pokazuje koliko je važno da se razviju stroža pravila i regulative u vezi sa upotrebom veštačke inteligencije, kako bi se obezbedila sigurnost i dostojanstvo svih korisnika u digitalnom prostoru.
