Oktobar 1962. godine ostao je zabilježen u istoriji kao trenutak kada je čovječanstvo bilo najbliže svom potpunom uništenju. Kubanska raketna kriza dovela je Sjedinjene Američke Države i Sovjetski Savez do same ivice nuklearnog rata. Iako je situacija bila na ivici pucanja, taj istorijski događaj paradoksalno je poslužio kao ključna prekretnica koja je definisala ostatak Hladnog rata.
ADVERTISEMENT
Kako ističe William Wohlforth, renomirani politikolog sa Dartmut koledža u razgovoru za New York Times, ovaj opasan "flert" sa katastrofom radikalno je promijenio način razmišljanja lidera dvaju supersila. "Odmah smo dobili sporazum o direktnoj liniji komunikacije, takozvanom 'crvenom telefonu'. Počeli smo da radimo u pravcu sporazuma o zabrani nuklearnih proba i, malo-pomalo, došli smo do velikog, složenog bilateralnog procesa kontrole naoružanja", objašnjava Wohlforth.
Iako su SAD i Sovjetski Savez ostali zakleti neprijatelji, uspjeli su da pronađu osnovu za saradnju vođeni jednim zajedničkim interesom: opstankom ljudske vrste. Danas, međutim, stručnjaci za vještačku inteligenciju (AI) upozoravaju da se nalazimo u jednoj novoj, tehnološkoj "trci u naoružanju", koja bi mogla imati jednako pogubne, ako ne i nepredvidivije posljedice.
Od nuklearnog naoružanja do algoritamske dominacije
Iako postoje značajne razlike - jer AI modeli nisu nuklearne bojeve glave, a rizici nam se često čine teorijskim ili futurističkim, sama suština problema ostaje zaprepašćujuće slična onoj iz 1962. godine. Pitanje koje muči današnje stratege glasi: kako rivalske strane mogu da sarađuju kako bi svet održale bezbjednim, dok se istovremeno žestoko takmiče za ekonomsku i geopolitičku prevlast?
Nova istraživačka studija koju potpisuju Drew Fudenberg, profesor ekonomije na MIT-u, i Andrew Ko, profesor na Kolumbiji i istraživač u Google DeepMind-u, sugeriše potencijalno rješenje. Prema njihovom mišljenju, kompanije i vlade moraju da dijele pouzdane informacije o svom napretku i jasno se dogovore o tome gdje počinje stvarna opasnost. Ipak, situacija na terenu trenutno ukazuje na suprotno. Uprkos dobrovoljnim sporazumima koji se povremeno potpisuju u Bijeloj kući, ni uslov dijeljenja informacija, ni uslov definisanja bezbjednosnih granica, trenutno nisu ispunjeni.
Profesori Ko i Fudenberg polaze od jednostavne, ali brutalne pretpostavke: svi akteri žele da spriječe globalnu katastrofu, ali su svi istovremeno opsjednuti borbom za dominaciju. Upravo ova dvojna pritiska ih gura opasno blizu granica, gdje bi zlonamjerni ili jednostavno nekontrolisani AI agenti mogli da dovedu do urušavanja čitavih sistema, sabotaže kritične infrastrukture, pa čak i do pokretanja bioloških napada.
Deterrent kao ključ bezbjednosti
Kada bi konkurenti pristali da dijele informacije o svom tehnološkom napretku, dinamika odnosa bi se drastično promijenila. Kada bi kompanije i države vidjele da niko ne prelazi u zone visokog rizika, ostali bi imali mnogo manje motiva da rizikuju svoju poziciju. Profesor Ko ovu logiku poredi sa konceptom "sposobnosti drugog udara" iz perioda Hladnog rata: svijest o tome da bi napad izazvao uzajamnu potpunu destrukciju djelovala je kao najsnažniji mogući odvraćajući faktor protiv preventivnih udaraca. Ista strategija, vjeruju istraživači, mogla bi se uspješno primijeniti i u domenu vještačke inteligencije.
Trenutno je razmjena informacija praktično nepostojeća. Tehnološki giganti razvijaju svoje najnaprednije modele iza zatvorenih vrata, čuvajući ih kao najveće poslovne tajne. Prihvatanje spoljnih, nezavisnih posmatrača i auditora predstavlja neophodan prvi korak ka izgradnji povjerenja.
Dario Amodei, izvršni direktor kompanije Anthropic, javno je pozvao na uvođenje ovakvih nezavisnih kontrola, a slične stavove podržali su i Elon Musk i Sam Altman. Iako kineske kompanije još uvijek nisu zvanično podržale ovaj plan, postoje određeni optimistični pokazatelji. Na primjer, kineska kompanija Moonshot nedavno je podnijela novi model britanskom Institutu za bezbjednost vještačke inteligencije na evaluaciju. Međutim, ovakvi potezi su rijetki, a provjere ostaju na dobrovoljnoj bazi, što je daleko od sistemskog rješenja.
Hladni rat u digitalnom dobu
U vrijeme Hladnog rata, nuklearna prijetnja bila je opipljiva, vidljiva i svima razumljiva. U slučaju vještačke inteligencije, situacija je drastično komplikovanija. Ne postoji globalni konsenzus o tome gdje se tačno nalazi "crvena linija" katastrofe, a mnoga upozorenja djeluju kao scenario iz filmova naučne fantastike.
Sa jedne strane, pojedini politički lideri odbacuju ideju o strogim ograničenjima, posmatrajući razvoj AI tehnologije kao igru nultog zbira, gdje je jedini cilj postizanje apsolutne nacionalne dominacije. Sa druge strane, Peking posmatra ovu tehnologiju kroz prizmu stroge političke kontrole, te je malo vjerovatno da će prihvatiti bilo kakav režim međunarodnog nadgledanja koji bi usporio njihov napor da sustignu SAD.
Možda će jedini način da se postigne istinska saglasnost o opasnostima biti pojava neospornih primjera štete, baš kao što je to bila Kubanska kriza za nuklearno doba. Međutim, pretjerana tajnovitost kompanija, koja obično dovodi do zakašnjelog objavljivanja ozbiljnih bezbjednosnih propusta, dodatno zamagljuje ionako nesigurnu sliku. Dok trka traje nesmanjenom žestinom, kompanije tiho rade na unapređenju sposobnosti AI agenata, što pojačava strah da bi oni mogli evoluirati u autonomne aktere sa sopstvenim interesima. Kako je upozorio istraživač iz OpenAI-ja, Daniel Selsam, ako se to zaista dogodi, ovi modeli bi "vjerovatno ubijedili svijet da je sve u redu", piše New York Times, prenosi Euronews Srbija.