Britanski kralj pozvao lidere kompanija za veštačku inteligenciju da ona ostane pod kontrolom

Britanski kralj Čarls Treći (Charles) je pozvao vodeće ljude kompanija OpenAI, Antropik (Anthropic), Gugl DipMajnd (Google DeepMind) i Nvidia da osiguraju da veštačka inteligencija ostane pod kontrolom i u službi ljudi i planete.

Skup u Škotskoj organizovan je da bi se razgovaralo kako veštačka inteligencija može biti od koristi društvu, a održava se u ključnom trenutku za ovu tehnologiju, dok traju rasprave da li će je brzi napredak uskoro učiniti nekontrolisanom i izvan domašaja ljudske kontrole.

„Razvoj veštačke inteligencije – njena suština i tempo – podjednako su intrigantni i duboko zabrinjavajući“, rekao je kralj u svom uvodnom obraćanju.

Potrebno je hitno razmotriti „egzistencijalne opasnosti od toga da takve tehnologije dospeju u pogrešne ruke i budu upotrebljene na potencijalno katastrofalne načine“, rekao je britanski kralj i dodao da su neophodna adekvatna sredstva kontrole pre nego što bude prekasno.

Kralj je zatražio od prisutnih, među kojima su bili izvršni direktor kompanije Nvidia Dđensen Huang i predsednik kompanije Google DeepMind Demis Hasabis (Hassabis), da razmotre „suštinske principe“ koji bi trebalo da usmeravaju razvoj veštačke inteligencije.

Sastanku su prisustvovali i finansijska direktorka kompanije OpenAI (tvorac ChatGPT-a) Sara Frajar (Sarah Friar), kao i britanska ministarka za veštačku inteligenciju Kaniška Narajan (Kanishka Narayan). Prema saopštenju Bakingemske palate, očekivalo se i prisustvo predstavnika kompanije Antropik.

Sastanak se održava u trenutku kada je pažnja svetske javnosti usmerena na munjevit napredak veštačke inteligencije i upozorenja da bi ona mogla izmaći kontroli i ugroziti čovečanstvo.

Skup je održan u Damfris hausu (Dumfries House) u Erširu u Škotskoj, sedištu „Kraljeve fondacije“ (The King’s Foundation), dobrotvorne organizacije britanskog monarha.

Nakon što je istraživač kompanije Antropik Džejkob Kokson (Jacob Cocxon) izazvao veliku pažnju javnosti podnošenjem ostavke i ozbiljnim upozorenjem o potencijalnim rizicima te tehnologije, izvršni direktor kompanije Antropik-a Dario Amodei odgovorio je da bi industrija možda morala da uspori tempo svog rada.

Jedan od njegovih predloga bio je da kompanije i države zajednički rade na koordinisanom planu za takvo usporavanje.

Kralj je, ne navodeći konkretne zemlje ili kompanije, izrazio želju da učesnici sastanka razmotre kako da iskoriste prednosti veštačke inteligencije „uz bezbednost kao prioritet“ i kako da „izgrade međunarodnu saradnju i konsenzus“ radi postizanja tog cilja.

Čarls Treći je rekao čelnicima tehnoloških kompanija da njihov zadatak „nije samo da unapređuju tehnologiju, već i da osiguraju da ona ostane čvrsto u službi čovečanstva, zajednice i prirodnog sveta“.

Rasprava o usporavanju razvoja veštačke inteligencije podelila je ovu industriju.

Huang, koji je kritikovao pozive na usporavanje, izjavio je da je na pojedinačnim kompanijama da bezbedno razvijaju svoju tehnologiju veštačke inteligencije i da je temeljno testiraju pre nego što bilo koji proizvod plasiraju javnosti.

„Kada proizvod nije dovoljno bezbedan, trebalo bi da ga zadržimo i nastavimo sa razvojem. To smo uvek radili i tako treba i da nastavimo“, rekao je on u govoru održanom posle kraljevog obraćanja.

U najnovijem izveštaju o zabrinjavajućem ponašanju veštačke inteligencije, kompanija OpenAI je u sredu izvestila o šest slučajeva „neočekivanog ili zabrinjavajućeg“ ponašanja svojih modela, kao što su delovanje bez ovlašćenja, koordinacija sa drugim modelima i izbegavanje nadzora.

Iako je kralj važna simbolična figura čiji komentari o društvenim pitanjima mogu imati veliki uticaj, veći deo trenutne rasprave o bezbednosti veštačke inteligencije fokusiran je na američke tehnološke kompanije i njihovo nadmetanje sa kineskim rivalima, pri čemu Velika Britanija igra manju, ali ipak ključnu ulogu.

Britanski Institut za bezbednost veštačke inteligencije (AI Security Institute), vladina istraživačka organizacija, uživa veliki ugled, a ta zemlja iznedrila je mnoge istraživače u ovoj oblasti, uključujući Demisa Hasabisa, čelnika kompanije Google DeepMind, kao i Koksona.