Malezija i Indonezija postale prve zemlje koje blokiraju Maskov Grok četbot

Malezija i Indonezija postale su prve zemlje koje su blokirale Grok, četbot za veštačku inteligenciju koji je napravila kompanija Ilona Maska IksAI (xAI), zbog bojazni da se program zloupotrebljava za generisanje slika sa motivima eksplicitnog i nekonsenzualnog seksa.

Sve je jača kontrola generativnih veštačkih alata koji mogu da proizvedu realistične slike, zvuk i tekst, a raste i zabrinutost da postojeće mere ne uspevaju da spreče njihovu zloupotrebu.

Četbot Grok, kome se pristupa preko Maskove platforme Iks (X), kritikovan je zbog mogućnosti da generiše manipulativne slike, uključujući prikaze žena u bikinijima, ili u seksualno eksplicitnim pozama, kao i slike sa decom.

„Vlada smatra seksualne nekonsenzualne dipfejkove (slike u kojima se manipuliše identetom stvarnih ličnosti) ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru“, saopštio je indonežanski ministar za komunikacije i digitalne poslove Meutja Hafid.

Kontrola Groka jača i u Evropskoj uniji, Indiji, Francuskoj i Velikoj Britaniji, koja je danas saopštila da preduzima mere radi kriminalizacije „aplikacija za nudifikaciju“.

Britanski regulator pokrenuo je istragu o tome da li je Grok prekršio zakon dozvoljavajući korisnicima da dele seksualizovane slike dece.

Prošle nedelje, Grok je ograničio generisanje i uređivanje slika za korisnike koji to plaćaju, nakon globalne reakcije na seksualizovane dipfejkove ljudi. Kritičari kažu da to nije u potpunosti rešilo problem.

Zahtev za komentar koji je Asošijejted pres uputio kompaniji xAI rezultirao je automatskim odgovorom sa adrese za podršku medijima u kojem piše: „Laži medija iz prošlog doba“. Ista poruka je primljena sa druge adrese ove kompanije, kada je zatražen komentar u vezi sa globalnom reakcijom na dipfejkove.

Regulatori u dve zemlje jugoistočne Azije naveli su da postojeće kontrole ne sprečavaju stvaranje i širenje generisanog pornografskog sadržaja, posebno onog koji uključuje žene i maloletnike.

Vlada Indonezije je privremeno blokirala pristup Groku u subotu, a Malezija u nedelju.

Prvi nalazi su pokazali da Groku nedostaju efikasne mere zaštite da spreče korisnike da kreiraju i distribuiraju pornografski sadržaj zasnovan na stvarnim fotografijama stanovnika Indonezije, rekao je u Aleksandar Sabar, generalni direktor za nadzor digitalnog prostora. Kako je objasnio, takve prakse rizikuju kršenje privatnosti i prava iz fotografije, kada se tim fotografijama manipuliše ili se dele bez pristanka.

Malezijska komisija za komunikacije i multimediju primetila je „ponovljenu zloupotrebu“ alata za generisanje nepristojnih, seksualno eksplicitnih i manipulisanih slika bez pristanka, uključujući sadržaj koji uključuje žene i maloletnike.

Regulator je saopštio da su ovog meseca kompanijama Iks i IksAI izdati zahtevi za jače mere zaštite.

„Ograničenje je nametnuto kao preventivna i srazmerna mera dok pravni i regulatorni procesi traju“, saopštili su, dodajući da će pristup ostati blokiran dok se ne uspostave efikasne mere zaštite.

Pokrenut 2023. godine, Grok je besplatan za korišćenje na Iksu. Funkcija generatora slika, Grok Imagine, dodata je prošle godine i uključuje je takozvani „začinjeni“ režim koji može da generiše sadržaj za odrasle.

Proteklih dana gotove sve važnije političke i estradne ličnosti u Srbiji dobile su lažne „bikini“ fotografije. Naime, bilo je dovoljno da neki od korisnika „zamoli“ Grok da običnu fotografiju pretvori u eksplicitnu i program bi to veoma brzo učinio.