Malezija i Indonezija postale su prve zemlje koje su blokirale Grok, četbot zasnovan na veštačkoj inteligenciji koji je razvila kompanija Iks Ej Aj (xAI) Ilona Maska, nakon što su vlasti saopštile da je alat zloupotrebljavan za stvaranje seksualno eksplicitnih slika bez pristanka osoba koje su na njima prikazane.
Ove mere odražavaju rastuću globalnu zabrinutost zbog AI alata koji mogu da proizvode realistične slike, zvuk i tekst, dok postojeći mehanizmi zaštite ne uspevaju da spreče njihovu zloupotrebu. Grok, kojem se pristupa putem Maskove društvene mreže Iks, našao se na meti kritika zbog generisanja manipulisnih slika, uključujući prikaze žena u bikinijima ili seksualno eksplicitnim pozama, kao i slike sa decom.
Regulatori u dve zemlje jugoistočne Azije saopštili su da postojeće kontrole nisu sprečavale stvaranje i širenje lažnog pornografskog sadržaja, posebno onog koji uključuje žene i maloletnike.
„Vlada smatra seksualne dipfejk sadržaje napravljene bez pristanka ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru“, izjavila je indonežanska ministarka za komunikacije i digitalna pitanja Meutja Hafid.
Ministarstvo je navelo da je ta mera uvedena kako bi se zaštitile žene, deca i šira zajednica od lažnog pornografskog sadržaja generisanog uz pomoć veštačke inteligencije.
Preliminarni nalazi pokazali su da Grok nema efikasne zaštitne mehanizme koji bi sprečili korisnike da prave i distribuiraju pornografski sadržaj zasnovan na stvarnim fotografijama stanovnika Indonezije, rekao je u posebnom saopštenju generalni direktor za nadzor digitalnog prostora Aleksandar Sabar.
On je upozorio da takve prakse mogu dovesti do kršenja prava na privatnost i prava na sopstveni lik, kada se fotografije manipulišu ili dele bez pristanka, izazivajući psihološku, društvenu i reputacionu štetu.
U Kuala Lumpuru, Malezijska komisija za komunikacije i multimedije naložila je privremeno ograničenje pristupa Groku, nakon, kako je navedeno, „učestale zloupotrebe“ alata za generisanje seksualno eksplicitnih i namerno manipulisanih slika, uključujući sadržaje koji se odnose na žene i maloletnike.
Regulator je dodao da su upozorenja upućena ovog meseca kompanijama Iks i Iks Ej Aj, u kojima se zahtevalo uvođenje snažnijih zaštitnih mera, naišla uglavnom na odgovore koji su se oslanjali na mehanizme prijavljivanja od strane korisnika.
„Ova zabrana uvedena je kao preventivna i srazmerna mera dok su pravni i regulatorni postupci u toku“, navodi se u saopštenju, uz dodatak da će pristup ostati blokiran dok se ne uvedu efikasni zaštitni mehanizmi.
Pokrenut 2023. godine, Grok je besplatan za korišćenje na platformi Iks, bivšem Tviteru. Korisnici mogu da mu postavljaju pitanja na društvenoj mreži, kao i da ga označavaju u objavama koje sami kreiraju ili u odgovorima na objave drugih korisnika.
Prošlog leta kompanija je dodala funkciju za generisanje slika (Grok Imagine) koja je uključivala takozvani „sočni režim“ (spicy mode), opciju koja može da generiše sadržaj za odrasle.
Ograničenja uvedena u jugoistočnoj Aziji dolaze u trenutku pojačanog nadzora nad Grokom i u drugim delovima sveta, uključujući Evropsku uniju, Veliku Britaniju, Indiju i Francusku. Prošle nedelje Grok je ograničio generisanje i uređivanje slika samo na korisnike koji plaćaju uslugu, nakon globalnih reakcija zbog seksualizovanih dipfejk sadržaja sa stvarnim osobama, ali kritičari tvrde da time problem nije u potpunosti rešen.
Američka novinska agencija AP pisala je Maskovoj kompaniji sa zahtevom za komentar, ali je dobila automatski odgovor sa adrese za medijsku podršku, u kojem je pisalo: „Tradicionalni mediji lažu“ (Legacy Media Lies).
Vaše mišljenje je deo priče
Pročitajte stavove drugih čitalaca i uključite se u razgovor.