Grok nën kritika për gjenerimin e deepfake-ve seksualisht eksplicite të grave dhe të miturve

Reagimi global në rritje ndaj imazheve të gjeneruara nga inteligjenca artificiale me përmbajtje seksuale eksplicite të xAI e ka detyruar kompaninë, në pronësi të Elon Musk, të adresojë shqetësimet për sigurinë.

Në javët e fundit, chatbot-i i inteligjencës artificiale i X, Grok, u është përgjigjur kërkesave të përdoruesve për të “zhveshur” imazhe të grave dhe për t’i pozuar ato me bikini, duke krijuar deepfake të gjeneruara nga inteligjenca artificiale pa pëlqim ose masa mbrojtëse.

Analizat e medias zbuluan gjithashtu se Grok shpesh i është bindur kërkesave kur përdoruesit e kanë nxitur atë të gjenerojë imazhe sugjestive seksuale të të miturve, përfshirë një të një aktoreje 14-vjeçare, duke ngritur kambana alarmi tek rregullatorët globalë.

Në përgjigje të vërshimit të imazheve, zyrtarët qeveritarë në BE, Francë, Indi dhe Malajzi kanë nisur hetime dhe kanë kërcënuar me veprime ligjore, nëse xAI nuk merr masa për të parandaluar dhe hequr deepfake-t seksuale të njerëzve të vërtetë dhe materialet e abuzimit seksual të fëmijëve (CSAM).

Musk, i cili fillimisht i kishte kritikuar imazhet me bikini duke ripostuar imazhet e tij dhe një bukëpjekëse me bikini të gjeneruara nga Grok, postoi të shtunën se “kushdo që përdor ose nxit Grok të krijojë përmbajtje të paligjshme do të vuajë të njëjtat pasoja sikur të ngarkonte përmbajtje të paligjshme”.

Llogaria e sigurisë e X shtoi në një postim të dielën se përmbajtja e paligjshme do të hiqej dhe llogaritë që e postojnë atë do të pezulloheshin përgjithmonë, duke thënë se kompania do të punonte me qeveritë lokale dhe zbatimin e ligjit për të identifikuar shkelësit.

Që kur Musk bleu X, i njohur më parë si Twitter, në vitin 2023, ai e ka cilësuar platformën e mediave sociale si një kundërpeshë ndaj “korrektësisë politike”, duke synuar median e trashëguar dhe politikën progresive.

Kjo filozofi është aplikuar edhe në biznesin e inteligjencës artificiale, me Grok të projektuar të jetë “politikisht neutral” dhe “maksimalisht që kërkon të vërtetën”, sipas Musk.

Në realitet, chatbot – i cili është i integruar në ndërfaqen e X, që do të thotë se përdoruesit mund t’i bëjnë pyetje direkt duke e etiketuar atë në postime – ka reflektuar gjithnjë e më shumë botëkuptimin e Musk dhe pikëpamjet e djathta.

Korrikun e kaluar, xAI kërkoi ndjesë të gjatë pasi Grok postoi një mori komentesh antisemite që lavdëronin Adolf Hitlerin, duke iu referuar vetes si “MechaHitler” dhe duke gjeneruar përmbajtje mohuese të Holokaustit.

Grok Imagine, gjeneratori i imazheve dhe videove i kompanisë i mundësuar nga inteligjenca artificiale, është kritikuar për lejimin e përhapjes së deepfakes seksuale që nga lançimi i tij në gusht 2025.

Gjeneratori përfshin një “Spicy Mode” të paguar që u lejon përdoruesve të krijojnë përmbajtje NSFW, duke përfshirë lakuriqësi të pjesshme.

Kushtet e tij ndalojnë pornografinë që paraqet ngjashmëri me njerëz të vërtetë dhe përmbajtje seksuale që përfshin të mitur. Por mjeti thuhet se gjeneroi video nudo të yllit të popit Taylor Swift pa u nxitur, sipas The Verge.

Mjetet e mundësuara nga inteligjenca artificiale që u lejojnë përdoruesve të modifikojnë imazhet, për të hequr rrobat e dikujt janë kritikuar nga rregullatorët që synojnë të luftojnë mizogjininë dhe të mbrojnë fëmijët.

Në dhjetor, qeveria e Mbretërisë së Bashkuar tha se do të ndalonte aplikacionet e ashtuquajtura “nudifikim”, si pjesë e një përpjekjeje më të gjerë për të zvogëluar dhunën ndaj grave dhe vajzave përgjysmë.

Ligjet e reja do ta bënin të paligjshme krijimin ose furnizimin me mjete të inteligjencës artificiale, që u lejojnë përdoruesve të heqin në mënyrë dixhitale rrobat e dikujt.

Pornografia Deepfake përbën afërsisht 98% të të gjitha videove deepfake në internet, me 99% të objektivave që janë gratë, sipas një raporti të vitit 2023 nga firma e sigurisë kibernetike Home Security Heroes.