Američka kompanija Open AI saopštila je da je pauzirala obučavanje najnovijih modele veštačke inteligencije posle izveštaja o porastu broja slučajeva u kojim su se odmetnuli njihovi agenti veštačke inteligencije.
Odluka o privremenoj pauzi razvoja doneta je ubrzo pošto je kompanija objavila da ispituje nekoliko incidenata tokom leta u kojima su agenti veštačke inteligencije koji su pretraživali portale američke savezne vlade delovali na način koji je prevazilazio ono što je od njih traženo dok su prikupljali i delili informacije.
Odvojeno je procenitelj za veštačku inteligenciju Translus (Transluce) saopštio da su agenti koji su, kako izgleda, došli iz kompanije Open AI bezuspešno pokušali da hakuju vebsajt Ministarstva obrazovanja, što ta kompanija nije potvrdila.
Open AI saopštila je da će nastaviti obuku svojih agenata veštačke inteligencije tek kada bude uverena da ima uspostavljene dodatne mere zaštite, dodajući da će stručnjaci morati ponovo da „uključe pauzu“ kako se veštačka inteligencija bude razvijala ili bi se pojavljivali drugi problemi.
Laboratorije veštačke inteligencije suočavaju se sa pritiscima poslanika i tehnoloških stručnjaka „da uspore“, kako bi se omogućilo da razviju načine za kontrolu agenata koji deluju samostalno, hakuju portale ili objavljuju informacije koje nisu za javnost.
Šefovi kompanije Open AI i rivalske kompanije Antropik takođe su tražili da se uspori razvoj, dok se ne ustanovi način kontrole.
Ovo je drugi put u tri meseca da je kompanija OpenAI zaustavlja razvoj svojih modela. Prvi put je to uradila u julu posle objave o sajber napadu usmerenom na startap za veštačku inteligenciju Haging Fejs (Hugging Face), što je incident koji je podstakao strahovanja da ta industrija gubi kontrolu nad svojim proizvodima.
Na sastanku sa kineskim predsednikom Si Đinpingom u Vašingtonu ove sedmice predsednik SAD Donald Tramp složio se da podeli informacije o opasnostima veštačke inteligencije i da koordiniraju napore da se drži bezbednom. Tramp veruje da su strahovanja oko veštačke inteligencije preuveličana, i kasnije je nagovestio da on ne planira suzbijanje njenog razvoja.
„SAD neće „uključiti kočnice“ Tramp je rekao novinarima ispred Bele kuće. „Oni hoće da zaustave naš napredak zato što smo mi daleko ispred Kine, i to ćemo i zadržati“, rekao je Tramp.
Najnoviji incidenti sa kompanijom Open AI nisu, kako izgleda, uključivali objavljivanje bilo kakvih informacija koje nisu bile za javnost, ali su incidenti bili zabrinjavajuči pa je kompanija upozorila savezne agencije koje su time pogođene.
Vaše mišljenje je deo priče
Otvorite diskusiju i budite prvi koji će komentarisati ovu vest.