Komisioni Evropian ka nisur një hetim ndaj Elon Musk, platformës X, për prodhimin e imazheve seksualisht eksplicite dhe për përhapjen e materialeve që mund të përbëjnë abuzim seksual ndaj fëmijëve përmes funksionalitetit të chatbot-it të platformës, Grok.
Hetimi formal, i nisur të hënën sipas The Guardian, gjithashtu shtrihet edhe në sistemet rekomanduese të X, algoritme që ndihmojnë përdoruesit të zbulojnë përmbajtje të reja.
Grok ka shkaktuar zemërim ndërkombëtar duke lejuar përdoruesit të zhveshin në mënyrë digjitale gra dhe fëmijë dhe t’i vendosin në poza provokuese. Grok AI ka gjeneruar rreth 3 milion imazhe seksualizuese në më pak se dy javë, përfshirë 23,000 që dukeshin të paraqisnin fëmijë, sipas studiuesve në Qendrën për Luftimin e Dënimit Digjital (Center for Countering Digital Hate).
Komisioni tha se hetimi i ri do të “vlerësojë nëse kompania ka analizuar dhe zvogëluar në mënyrë të duhur rreziqet” që rrjedhin nga funksionalitetet e Grok në BE, përfshirë rreziqet nga shpërndarja e përmbajtjes së paligjshme si imazhet seksualisht të manipuluara dhe “përmbajtja që mund të përbëjë” material abuziv seksual ndaj fëmijëve.
Hetimi po zhvillohet nën Aktin e Shërbimeve Digjitale (Digital Services Act – DSA) të BE-së, një ligj relativisht i ri i cili synon të mbrojë përdoruesit e internetit nga një gamë e gjerë e dëmshmërive.
Duke folur për gazetarët, një zyrtar tha se komisioni nuk ishte bindur nga masat për zvogëlimin e rreziqeve që X kishte vendosur për të zgjidhur çështjen. Zyrtarët e BE-së po hetojnë nëse X ka sisteme për të menaxhuar rreziqet në mënyrë të duhur.
Duke shpallur hetimin, Henna Virkkunen, zyrtarja kryesore e komisionit për sovranitetin teknologjik, sigurinë dhe demokracinë, tha: “Deepfake-et seksualë pa pëlqim të grave dhe fëmijëve janë një formë e dhunshme dhe e papranueshme e degradimit. Me këtë hetim, do të përcaktojmë nëse X ka përmbushur detyrimet ligjore sipas DSA-së, ose nëse ka trajtuar të drejtat e qytetarëve evropianë – përfshirë ato të grave dhe fëmijëve – si dëme të padëshiruara nga shërbimi i tij”.
Regina Doherty, eurodeputete irlandeze, tha se e mirëpriti hetimin formal. “Kur dalin raporte të besueshme se sistemet AI po përdoren në mënyra që dëmtojnë gratë dhe fëmijët, është thelbësore që ligji i BE-së të shqyrtohet dhe zbatohet pa vonesë”, tha Doherty.
Si përgjigje ndaj hetimit, X ofroi një lidhje për një deklaratë të publikuar më 14 janar: “Ne mbetemi të përkushtuar për të bërë X një platformë të sigurt për të gjithë dhe vazhdojmë të kemi tolerancë zero ndaj çdo forme të shfrytëzimit seksual të fëmijëve, zhveshjes pa pëlqim dhe përmbajtjes së padëshiruar seksuale”.
Burimi: botasot.info
