Američka tehnološka firma Open Ai odustala je od puštanja u opticaj naredne generacije modela veštačke inteligencije koje bilo planirano za oktobar zbog zabrinutosti oko bezbednosti na koju su istraživači ukazali tokom internog testiranja.
Novi model kojije trebalo da se pojavi u ČatGPT i Kodeksu (Codex) bio je dizajniran da vrši kompleksnije radnje bez ljudske pomoći, prenosi Gardijan.
Ranije ovog meseca Dario Amodei, generalni direktor Antropika pozvao je AI industriju da uspori razvoj novih modela veštačke inteligencije da bi se omogućilo da bezbednosne mere drže korak sa tim razvojem. To je podržao i generalni direktor Open AI Sam Altman i Ilon Mask generalni direktor Spejseksa.
Kako se navodi u izveštaju komapnije Open Ai novi model nije ispunjavao standarde firme za usaglašavanje, po kojima se procenjuje da li sistem sledi ljudsku nameru. Model je pokazivao da može više da vara nego model koji mu prethodi, nije tačno otkrivao akcije koje je preduzimao ili nije preduzimao, navodi se u izveštaju.
Imao je problem i sa obimom autorizacije, nastavljajući da obavlja zadatke bez traženja dozvole od korisnika i ponekad pokušavajući da koristi spoljne alatke ili usluge iako bi to moglo da ne bude bezbedno.
Vaše mišljenje je deo priče
Pročitajte stavove drugih čitalaca i uključite se u razgovor.