Evropska komisija danas će otvoriti formalnu istragu protiv društvene mreže X, nakon snažnih reakcija javnosti zbog neuspjeha platforme da spriječi kreiranje seksualno eksplicitnih slika stvarnih osoba, uključujući i djecu.
Istraga se odnosi na Grok, chatbot ugrađen u platformu X, čija je funkcija za uređivanje slika bila masovno korištena za virtuelno „razodijevanje“ fotografija stvarnih žena i maloljetnih djevojčica bez njihovog pristanka.
Kako je prvi izvijestio njemački list Handelsblatt, Evropska komisija će ispitati da li je X poduzeo dovoljne mjere za smanjenje rizika od stvaranja i širenja ovakvog sadržaja.
Moguće kazne do 6 posto globalnog prihoda
Ukoliko se utvrdi da je X prekršio pravila EU o digitalnim platformama u skladu s Aktom o digitalnim uslugama (DSA), Evropska komisija može izreći kaznu u iznosu do 6 posto globalnog godišnjeg prometa kompanije.
Podsjetimo, Evropska komisija je u decembru prošle godine već kaznila društvenu mrežu u vlasništvu Elona Muska sa 120 miliona eura, zbog spornih praksi vezanih za verifikacijske oznake i oglašavanje.
„Spicy Mode“ izazvao globalno ogorčenje
Zabrinutost je prvi put izbila prošlog ljeta, kada je Grok unaprijeđen plaćenom funkcijom pod nazivom „Spicy Mode“, koja je korisnicima omogućavala generisanje eksplicitnog sadržaja putem AI upita.
Početkom ovog mjeseca, nakon što se globalno ogorčenje dodatno pojačalo, glasnogovornik Evropske komisije najoštrije je osudio ovu funkcionalnost.
„Ovo nije ‘začinjeno’. Ovo je nezakonito. Ovo je užasno. Ovo je odvratno. Ovo nema mjesta u Evropi“, poručili su iz Komisije.
X reagovao tek nakon pritiska
Nakon snažnih reakcija javnosti i regulatora, X je naknadno uveo ograničenja kojima se sprječava Grok da uređuje slike stvarnih osoba i stavlja ih u seksualizirane ili provokativne situacije. Ove zabrane sada važe za sve korisnike, uključujući i pretplatnike.
Kompanija je također saopćila da su seksualizirane, AI-izmijenjene slike djece uklonjene s platforme, te da su korisnici koji su ih kreirali trajno suspendovani.
„Poduzimamo mjere protiv nezakonitog sadržaja na platformi X, uključujući materijal seksualnog zlostavljanja djece (CSAM), uklanjanjem sadržaja, trajnim suspenzijama naloga i saradnjom s lokalnim vlastima i policijom kada je to potrebno“, objavljeno je na zvaničnom nalogu X Safety.
Istraga Evropske komisije sada će utvrditi da li su ove mjere uvedene prekasno i da li je platforma prekršila evropske zakone o zaštiti korisnika i djece na internetu.
Izvor: Euronews
