UN: Nekontrolisan napredak AI može da bude egzistencijalni rizik za čovečanstvo

Visoki komesar UN za ljudska prava Folker Tirk (Volker Turk) upozorio je danas na hitnu potrebu za razvojem upravljanja veštačkom inteligencijom, navodeći da ona može predstavljati egzistencijalni rizik za čovečanstvo.

„Veštačka inteligencija koja izbegava svoje okruženje za testiranje ili ucenjuje programere da bi izbegla deaktivaciju je previše moćna veštačka inteligencija“, rekao je Tirk na otvaranju 63. sednice Saveta za ljudska prava u Ženevi, zatraživši „jake mere zaštite u vezi sa bezbednošću veštačke inteligencije, dok još nije kasno“.

„Šačica ljudi ima gotovo neograničenu moć nad veštačkom inteligencijom, za koju nam stalno govore da poseduje nezamislivu računarsku moć. Pričaju o slobodi, ali nakon detaljnijeg pregleda, ispostavlja se da je to malo više od slobode da se eksploatišu naši podaci“, rekao je Tirk.

„Veštačka inteligencija koja manipuliše ljudima je već stvarnost. Najnoviji generativni modeli veštačke inteligencije više ne samo da slede naređenja i idu toliko daleko da lažu, spletkare ili prete kako bi postigli svoje ciljeve, što je veoma zabrinulo neke istraživače“, ocenio je visoki zvaničnik UN.

Tirk je najavio da će u narednim danima pisati kompanijama u tom sektoru „kako bi ih pozvao da preduzmu mere koje su u njihovoj moći, da smanje rizike“.

„Potrebna nam je nezavisna verifikacija i mnogo bliža saradnja u pogledu bezbednosti unutar te industrije“, rekao je Tirk tražeći na razmatranje „uticaja veštačke inteligencije na prakse zapošljavanja, suštinske demokratske principe i okruženje“.