Foto: Olivier Middendorp
Po prvi put smo izmislili nešto što nam oduzima moć, kaže izraelski istoričar i autor Sapiensa
Priče su oduvijek bile vitalne za Yuvala Hararija, izraelskog istoričara-filozofa. Jedinstvena sposobnost naše vrste da bude vezana i ujedinjena nematerijalnim narativima, čak i preko okeana, bila je ključna za Sapiens, njegovu zapanjujuće popularnu hroniku uspona naše vrste, koja ga je katapultirala do statusa vidovnjaka nakon objavljivanja na engleskom jeziku skoro prije deset godina, piše The Telegraph.
Možda je to razlog zašto je danas tako duboko zabrinut zbog pojave izazivača našem majstorstvu pripovijedanja – umjetne inteligencije (AI).
“Ovo je prva tehnologija u istoriji koja stvara priče”, kaže Harari. Za njega ništa ne može biti veća demonstracija moći. Jer po njegovom mišljenju, naše kolektivno vjerovanje u "priče" - između ostalog o vjeri, finansijama i naciji - potaknulo je dominaciju čovječanstva na Zemlji. Novac nam je, na primjer, omogućio da napredujemo, ali kakva je vrijednost novca u vašem džepu ako ih trgovac odbaci kao tek komad papira?
Sada umjetna inteligencija takođe može isplesti takve čarolije, pokazujući da je potencijal tehnologije za veliko dobro i štetu, koji se nekad smatrao dalekim i teorijskim, sada neposredan i stvaran. Zato je Harari prošlog mjeseca dodao svoje ime na pismo, koje su potpisale hiljade stručnjaka, uključujući Elona Muska, pozivajući na moratorij na istraživanje softvera kao što je Chat GPT, AI modela koji može komunicirati s ljudima u gotovo uznemirujuće nijansiranom, kreativnom tekstu.
Drugi programi mogu učiniti isto sa slikama i zvukovima. “Nova generacija umjetne inteligencije ne širi samo sadržaj koji ljudi proizvode. Može sam proizvesti sadržaj”, kaže Harari. “Pokušajte zamisliti što znači živjeti u svijetu u kojem većinu tekstova i melodija, a zatim TV serija i slika stvara neljudska inteligencija. Samo ne razumijemo što to znači. Koje bi mogle biti posljedice AI preuzimanja kulture?”
Trivijalni primjeri već postoje. Prošle sedmice jedan njemački časopis bio je kritikovan zbog objavljivanja nečega što je izgledalo kao ekskluzivni intervju s Michaelom Schumacherom, iako je zapravo tekst generisao AI oponašajući paralizovanog bivšeg vozača trka. Harari sugeriše da će umjetna inteligencija uskoro ići mnogo dalje, evocirajući svijet u kojem “idete na internet i raspravljate s nekim o nekom političkom pitanju. Možda vam čak pošalju video kako razgovaraju. Ali iza toga ne stoji osoba. Sve je AI.”
U njegovoj distopiji, naš sintetički digitalni sagovornik ne bi bio tek bilo koje ljudsko biće. Budući da smo pod jedinstvenim utjecajem onih koji su nam bliski, može se činiti da vas prijatelj ili rođak pokušava uvjeriti u vrijednost proizvoda ili u svoj stav o klimatskim promjenama, vakcinama ili imigraciji. Bila bi to, kaže, moć manipulisanja javnim diskursom kakva dosad nije viđena i koja bi učinila da se skandali s uticajem društvenih medija u posljednjih 10 godina, za koje se već smatra da su igrali ulogu u izborima od Brazila do Amerike, čine trivijalnim. Jeremy Fleming, voditelj GCHQ-a, upozorio je vladu da dezinformacije umjetne inteligencije predstavljaju značajnu prijetnju .
“Ovo je posebno prijetnja demokratijama više nego autoritarnim režimima, jer se demokratije oslanjaju na javni razgovor”, kaže Harari. “Demokratija je u osnovi razgovor. Ljudi razgovaraju jedni s drugima. Ako razgovor preuzme AI, demokratiji je kraj.”
Ali kakav učinak bi tehnologija mogla imati ako bi je totalitarni režimi zlonamjerno pustili na bojnom polju? Jedan Googleov AI sistem, na primjer, sam je naučio bengalski, a da za to nije bio obučen.
“Nacistički režim temeljio se na tehnologijama poput vozova, struje i radija. Nisu imali alate poput umjetne inteligencije”, kaže Harari. “Novi režim u 21. vijeku imaće puno moćnije alate. Dakle, posljedice bi mogle biti daleko katastrofalnije. Ne znam može li čovječanstvo ovo preživjeti.”
Čak i banalnije posljedice imaju potencijal biti revolucionarne, kaže. “Još jedna opasnost je da bi se mnogi ljudi mogli naći potpuno bez posla, ne samo privremeno, već bez osnovnih vještina za buduće tržište rada. Mogli bismo doći do tačke u kojoj ekonomski sistem vidi milione ljudi kao potpuno beskorisne. Ovo ima strašne psihološke i političke posljedice.”
Autonomija umjetne inteligencije čini je tako različitom. Ipak, čini se da je čak i Harari, koji je svoje ime stekao zahvaljujući složenim temama, frustriran svojom nesposobnošću da natjera nas ostale da to shvatimo jednako duboko kao on.
“Moramo shvatiti da je AI prva tehnologija u istoriji koja može sama donositi odluke. Može donositi odluke o vlastitom korištenju. Takođe, može donositi odluke o vama i meni. Ovo nije predviđanje budućnosti. Ovo se već događa.”
On govori i o zloglasnim slučajevima u kojima je AI softver korišten za provjeru tražitelja kredita ili za odlučivanje hoće li zatvorenici dobiti uslovni otpust. “Dakle, moć se pomiče prvi put u istoriji. Izmislili smo nešto što nam oduzima moć. I to se događa tako brzo da većina ljudi uopće ne razumije šta se događa. Moramo biti sigurni da umjetna inteligencija donosi dobre odluke o našim životima. Jako smo daleko od rješenja.”
Poput mnogih drugih, on sada podržava regulisanje istraživanja u oblasti umjetne inteligencije – kako bi se iskoristile njene mogućnosti, ali i spriječila katastrofa. Harari smatra da bi trebalo uvesti slična pravila kao u medicini. “Farmaceutska kompanija ne može pustiti novi lijek na tržište bez prethodnog prolaska kroz dugotrajan regulatorni proces. Zaista je bizarno i zastrašujuće da korporacije mogu jednostavno pustiti izuzetno moćne AI alate u javnu sferu bez ikakvih sličnih sigurnosnih mjera.”
Takve bi mjere morala provoditi vlada, insistira. Očekivati da će se tehnološka industrija sama regulisati je priča za malu djecu. “Uz svo dužno poštovanje prema Elonu Musku i Zuckerbergu ili drugim liderima velikih tehnoloških kompanija, njih niko nije izabrao, ne predstavljaju nikoga osim svojih dioničara i nema razloga vjerovati im.” Kao da dokazuje Hararijevu tvrdnju, Musk je najavio svoj vlastiti AI chatbot samo nekoliko dana nakon što je potpisao pismo u kojem osuđuje istraživanje drugih.
