Vlade i korporacije će vas uskoro poznavati bolje nego što vi poznajete sami sebe. Uvjerenje da postoji “slobodna volja”, postalo je opasno.
Yuval Noah Harari, The Guardian/VD40, NOMAD
Trebaju li najobrazovaniji ljudi djelovati u službi istine, čak i onda kad takvim svojim djelovanjem dovode u pitanje harmoničnost društvenih odnosa? Trebate li razotkriti da je nešto izmišljotina, čak i ako je ta izmišljotina u službi održavanja društvenog poretka? Dok sam pisao svoju novu knjigu pod nazivom 21 lekcija za 21. stoljeće, morao sam se boriti s ovom dilemom posmatrajući je u odnosu na liberalizam.
S jedne strane sam uvjeren da liberalizam ima svojih manjkavosti, da ne oslikava čovječanstvo na posve istinit način i da moramo ići dalje od onoga što nudi liberalizam da bismo mi, kao vrsta, preživjeli i napredovali u 21. stoljeću. S druge strane, liberalizam trenutno još uvijek ima osnovni značaj za funkcioniranje globalnog poretka. Nadalje, liberalizam se sada nalazi na udaru vjerskih i nacionalističkih fanatika koji vjeruju u neke nostalgične fantazije koje su daleko opasnije i štetnije od liberalizma.
Dakle, trebam li otvoreno reći što zaista mislim, riskirajući pri tome mogućnost da neko moje riječi izvuče iz konteksta i da ih demagozi i autokrati zloupotrijebe kako bi dodatno napali liberalni poredak? Ili bih trebao uvesti autocenzuru? Neliberalne režime upravo karakterizira činjenica da je u takvim režimima sloboda govora onemogućena pa čak i izvan njihovih granica. Zbog širenja takvih režima, postalo je sve opasnije kritički razmišljati o budućnosti ljudske vrste.
Na kraju sam ipak umjesto autocenzure izabrao raspravu bez ograničenja, i to zbog vlastitog uvjerenja da je liberalna demokracija snažna, ali i uvjerenja da postoji potreba da se ona modernizira. Velika prednost liberalizma u odnosu na druge ideologije je u tome da je on fleksibilan i da ne podliježe dogmama. Ima mogućnost da podnosi kritiku daleko bolje od bilo kojeg drugog društvenog poretka. Zapravo, to je jedini društveni poredak koji ljudima dopušta propitivanje čak i osnovnih principa na kojima je utemeljen. Liberalizam je već preživio tri velike krize – Prvi svjetski rat, fašizam s kojim se suočio tokom tridesetih godina prošlog stoljeća i izazove koje je pred njega postavio komunizam u periodu od pedesetih do sedamdesetih. Ako mislite da se liberalizam sada suočava s problemima, sjetite se koliko je gore bilo stanje, naprimjer, 1918., 1938. ili 1968. godine.
Tokom 1968., činilo se se da su liberalne demokracije “ugrožena vrsta”, a potresali su ih nemiri, atentati, teroristički napadi i žestoki ideološki sukobi čak i u okviru njihovih vlastitih granica. Ako ste bili sudionikom nemira u Washingtonu dan nakon što je ubijen Martin Luther King, ili ako ste bili u Parizu u maju 1968. ili na Konvenciji demokratske stranke u Chicagu u augustu 1968., moguće je da ste mislili kako se približava kraj. Dok su Washington, Pariz i Chicago tonuli u haos, u Moskvi i Lenjingradu je bilo mirno, a činilo se da je sovjetskom sistemu suđeno da bude vječan. No, 20 godina kasnije, sovjetski sistem doživio je slom. Sukobi 1960-ih godina ojačali su liberalnu demokraciju, dok je opresivna atmosfera koja je vladala u sovjetskom bloku nagovještavala njegovu propast.
Stoga se nadamo da se liberalizam može još jednom preobraziti. No, glavni izazov s kojim se on danas suočava nije fašizam ili komunizam, pa čak ni demagozi i autokrate koji se množe kao žabe poslije kiše. Ovaj put glavni izazov dolazi iz laboratorija.
Liberalizam se temelji na uvjerenju o postojanju ljudske slobode. Za razliku od štakora i majmuna, ljudska bića trebala bi imati "slobodnu volju". To je ono što ljudske osjećaje i odluke čini krajnjim moralnim i političkim autoritetom. Liberalizam nam govori da birač zna najbolje, da je kupac uvijek u pravu i da bismo trebali misliti svojom glavom i slijediti svoje srce.
Nažalost, "slobodna volja" nije naučna stvarnost. To je mit naslijeđen iz kršćanske teologije. Teolozi su razvili ideju "slobodne volje" kako bi objasnili zašto Bog ima pravo kazniti grešnike za njihove loše odluke, a bezgrešne nagraditi za njihove dobre odluke. Ako nemamo slobodu izbora, zašto bi nas Bog trebao kazniti ili nagraditi za naše odluke? Prema teolozima, razumljivo je da Bog to čini, jer naše odluke odražavaju slobodnu volju naših vječnih duša koje su neovisne o svim fizičkim i biološkim ograničenjima.
Ovaj mit nema skoro nikakve veze s onim što nam nauka danas govori o Homo sapiensu i drugim životinjama. Ljudi sigurno imaju volju – ali ta volja nije slobodna. Vi ne odlučujete kakve želje imate. Ne odlučujete da ćete biti introvertna ili ekstrovertna osoba, da ćete stvari u životu prihvatati s lakoćom ili s tjeskobom, da ćete biti homoseksualni ili heteroseksualni. Ljudi donose odluke – ali te odluke nikada nisu posve neovisne. Svaka odluka ovisi o mnogim biološkim i ličnim karakteristikama i društvenim uvjetima koje ne možete sami odrediti. Mogu birati šta ću pojesti, s kim ću se oženiti i za koga ću glasati, ali ove odluke djelimično određuju moji geni, moj biohemijski sastav, moj spol, porodične prilike iz kojih potičem, kultura svojstvena narodu čiji sam pripadnik itd. – a ja nisam mogao birati ni svoje gene ni svoju porodicu.
Ovo nije apstraktna teorija. U to se vrlo jednostavno možete uvjeriti. Samo pratite koja će se sljedeća misao pojaviti u vašem umu. Odakle je došla? Jeste li posve slobodno odlučili da ćete imati baš tu misao? Očito ne. Ako pažljivo promatrate vlastiti um, shvatit ćete da ne možete posebno kontrolirati dešavanja u vašem umu i da ne birate sasvim slobodno ni ono o čemu ćete razmišljati, ni ono što ćete osjećati ili šta ćete željeti.
Iako je "slobodna volja" uvijek bila mit, taj mit je tokom prošlih stoljeća bio koristan. On je ohrabrivao ljude koji su se morali boriti protiv inkvizicije, božanskog prava kraljeva, KGB-a i KKK-a. Ovaj mit također ne košta puno. Recimo, 1776. ili 1945. godine bilo je relativno malo toga lošeg u uvjerenju da su vaši osjećaji i odluke proizvod "slobodne volje", a ne rezultat biohemijskih procesa i neurologije.
No, vjerovanje u "slobodnu volju" sada odjednom postaje opasno. Ako vlade i korporacije uspiju hakirati ljude, najlakše će biti manipulirati onima koji vjeruju u slobodnu volju.
Da biste uspješno hakirali ljude, trebate dvije stvari: dobro poznavanje biologije i puno jakih kompjutera. Inkvizicija i KGB nisu imali ovo znanje i moć. Ali, korporacije i vlade uskoro mogu imati i jedno i drugo, a onda kada vas budu mogli hakirati, ne samo da mogu predvidjeti vaše odluke, nego i preustrojiti vaša osjećanja. Da bi to učinile, korporacije i vlade ne moraju vas savršeno dobro poznavati. To bi bilo nemoguće. Morat će vas upoznati samo malo bolje nego što vi poznajete sami sebe. A to nije nemoguće, jer većina ljudi sebe ne poznaje jako dobro.
Ako vjerujete u liberalizam u tradicionalnom obliku, bit ćete u iskušenju da jednostavno odbacite ovu mogućnost. "Ne, to se nikada neće dogoditi. Niko nikada neće uspjeti hakirati ljudski duh jer postoji nešto što je daleko više od gena, neurona i algoritama. Niko ne bi mogao uspješno predvidjeti moje odluke i njima manipulirati jer moje odluke odražavaju moju slobodnu volju." Nažalost, odbacivanje ove mogućnosti ne znači da će ona prestati postojati. Odbacivanje ove mogućnosti vas samo može učiniti podložnijim ovim ishodima.
To počinje s jednostavnim stvarima. Dok surfate internetom, primjetite naslov koji kaže: "Imigrantska banda siluje žene". Kliknete na njega. U istom trenutku, vaša susjeda surfa internetom, a drugi joj naslov privuče pažnju: "Trump priprema nuklearni napad na Iran". Ona klikne na tu vijest. Oba ova naslova su lažne vijesti, koje su možda generirali ruski trolovi ili neka web stranica koja je željela povećati posjećenost kako bi poboljšala prihode od reklama. I vi i vaša susjeda osjećate da ste kliknuli na te naslove svojom slobodnom voljom. Ali, zapravo ste bili hakirani.
Naravno, propaganda i manipulacija nisu ništa novo. Međutim, dok su one ranije djelovale poput nasumičnih zračnih napada sada postaju precizno navođena municija. Kada je Hitler držao govore koje je prenosio radio, ciljao je na najmanji zajednički sadržilac jer nije mogao prilagoditi svoju poruku jedinstvenim slabostima svakog pojedinačnog uma. Sada je moguće uraditi upravo to. Algoritam zna da vi već imate negativan odnos prema imigrantima, a vaša susjeda već ne voli Trumpa, što je razlog da ste vi vidjeli jedan naslov a ona potpuno drugi. Zadnjih godina neki od najbriljantnijih umova radili su na hakiranju ljudskog mozga kako bi vas natjerali da otvarate reklame i kako bi vam prodavali stvari. Sada se ove metode koriste da bi vam “prodali” političare i ideologije.
A to je tek početak. Trenutno se hakeri oslanjaju samo na analiziranje signala i aktivnosti u vanjskom svijetu: na podatke o proizvodima koje kupujete, mjestima koja posjećujete, riječima koje ukucavate u svoj online pretraživač. No, za nekoliko godina, biometrijski senzori bi hakerima mogli dati direktan pristup vašem unutarnjem svijetu i mogli bi pratiti šta se dešava s vašim srcem i vašim emocijama. Ne srcem u metaforičkom smislu – srcu kao obožavanoj temi liberarnih fantazija, nego srcu kao mišićnoj pumpi koja regulira vaš krvni pritisak i veliki dio vaše moždane aktivnosti. Hakeri bi onda mogli uspostaviti vezu između vašeg pulsa i podataka s vaše kreditne kartice i vašeg pritiska i istorije pretraživanja na internetu. Šta bi inkvizicija i KGB uradili s biometrijskim narukvicama koje konstantno prate vaše promjene raspoloženja i vaše naklonosti? Ako to želite saznati, pratite nas i dalje.
Liberalizam je razvio impresivan arsenal argumenata i institucija za odbranu individualnih sloboda od vanjskih napada opresivnih vlada i fanatičnih religija, ali nije spreman za situaciju u kojoj se individualne slobode podrivaju iznutra i u kojoj pojmovi kao "individualni" i " sloboda" gube smisao. Da bismo preživjeli i napredovali u 21. stoljeću, moramo prestati naivno doživljavati ljude kao slobodne pojedince – gledište koje smo naslijedili od kršćanske teologije, ali i od savremenog prosvjetiteljstva – i pomiriti se s onim što ljudi stvarno jesu: vrsta koju je moguće hakirati. Moramo bolje poznavati sebe.
Naravno, teško da je ovo neki novi savjet. Od davnih vremena mudraci i sveci stalno savjetuju čovjeka da "upozna sebe". Ipak, u doba Sokrata, Buddhe i Konfucija, niste imali pravu konkurenciju. Ako niste spoznavali sebe kao ličnost, za ostatak čovječanstva ste i dalje mogli biti crna kutija. Nasuprot tome, sad imate konkurenciju. Dok čitate ovaj članak, vlade i korporacije vas nastoje hakirati. Ako vas upoznaju bolje nego što sami sebe poznajete, mogu vam prodati sve što žele – bio to neki proizvod ili neki političar.
Posebno je važno upoznati svoje slabosti. One su glavni alat onih koji vas pokušavaju hakirati. Kompjuteri se hakiraju zahvaljujući neispravnim kodovima. Ljudi se hakiraju zahvaljujući postojećim strahovima, mržnjama, pristranostima i željama. Hakeri ne mogu stvoriti strah ili mržnju iz ničega. Ali, kad otkriju čega se to ljudi već boje ili šta to već mrze, postaje jednostavno igrati baš na te faktore koji su prožeti emocijama i izazivati još veći bijes.
Ukoliko, uprkos vlastitim naporima, ljudi ne mogu spoznati sebe, možda se ta ista hakerska tehnologija može koristiti da bismo se zaštitili. Baš kao što vaš kompjuter ima antivirusni program koji pronalazi štetne softvere, možda nam je potreban antivirusni program za naš um. Vaš pomoćnik – umjetna inteligencija će na osnovu iskustva utvrditi da su vam slabost smiješni video klipovi s mačkama kao protagonistima ili da vas strašno ljute priče o Trumpu, te će ih blokirati.
No, sve ovo je samo sporedno pitanje. Ukoliko je ljude moguće hakirati i ukoliko naše odluke i mišljenje nisu odraz naše slobodne volje, šta bi onda trebala biti poenta politike? Liberalne ideje već tri stotine godina inspiriraju politički projekat koji ima za cilj da što većem broju pojedinaca da mogućnost da slijede svoje snove i ispunjavaju svoje želje. Sada se više nego ikada nalazimo nadomak tog cilja, ali smo sve bliže shvatanju da je on utemeljen na iluziji. Iste one tehnologije koje smo izmislili kako bismo pojedincu pomogli da ostvari svoje snove također pružaju mogućnost da se ti snovi preoblikuju u nešto drugo. Dakle, mogu li vjerovati bilo kojem od mojih snova?
Iz jedne perspektive, ovo otkriće ljudima daje posve novu vrstu slobode. Ranije smo se vrlo intenzivno poistovjećivali s našim željama i tražili slobodu da ih ostvarujemo. Kad god bi nam se u glavi pojavila bilo kakva misao, trčali bismo da je ostvarimo. Provodili smo dane u suludom tempu, nošeni furioznim ritmom “voza smrti” u kojem su naše misli, osjećaji i želje, za koje smo pogrešno vjerovali da predstavljaju našu slobodnu volju. Šta će se desiti ako se prestanemo identificirati s ovim “vozom smrti”? Šta se dešava ako pažljivo pratimo sljedeću misao koja se pojavljuje u našoj glavi i zapitamo se: "Odakle je ova misao došla?"
Za početak, shvatanje da naše misli i želje ne odražavaju našu slobodnu volju, može nam pomoći da budemo manje opsjednuti njima. Ako sebe doživljavam kao potpuno slobodno biće koje svoje želje bira potpuno nezavisno od ostatka svijeta, onda na taj način stvaram barijeru između sebe i svih drugih bića. Niko od tih drugih bića mi ne treba – ja sam neovisan. Istovremeno se na taj način pridaje ogroman značaj svakom mom hiru – na kraju krajeva, izabrao sam tu želju od svih mogućih želja koje sam mogao izabrati. Kada našim željama pridajemo toliki značaj, pokušavamo kontrolirati i oblikovati cijeli svijet prema njima. Vodimo ratove, siječemo šume i dovodimo u pitanje ravnotežu cijelog ekosistema u nastojanju da ispunimo svoje hirove. Ali, ako smo shvatili da naše želje nisu rezultat slobodnog izbora, bili bismo, nadati se, manje preokupirani njima, a osjećali bismo se i povezanijim s ostatkom svijeta.
Ljudi ponekad misle da, ukoliko bismo se odrekli našeg uvjerenja o postojanju "slobodne volje", ćemo postati potpuno apatični i samo se sklupčati u nekom ćošku i umrijeti od gladi. No, odustajanje od ove iluzije može imati dva suprotna učinka: prvo, to može pomoći uspostavljanju daleko jače veze s ostatkom svijeta i učiniti vas pažljivijim prema okolini i potrebama i željama drugih ljudi. To je kao kad razgovarate s nekim. Ako se usredotočite na ono što vi želite reći, moguće je da svog sagovornika skoro i ne slušate. Samo čekate priliku da svoje misli podijelite s drugom osobom. Ali, kada svoje misli ostavite po strani, odjednom možete čuti druge ljude.
Drugo, napuštanje mita slobodne volje može podstaknuti intenzivnu znatiželju. Ako se snažno poistovjećujete s mislima i željama koje se pojavljuju u vašem umu, ne morate se posebno truditi da upoznate sebe. Mislite da već tačno znate ko ste. Ali kad jednom shvatite – "Zdravo, ovo nisam ja. Ovo je samo neka promjenjiva biokemijska pojava!" – onda zapravo shvatate da nemate pojma ko ili što ste zapravo. To može biti početak jednog od najuzbudljivijih putovanja na koje čovjek može krenuti.
Dovođenje u pitanje slobodne volje ili istraživanje istinske prirode čovječanstva nisu nove stvari. Tu raspravu smo do sada vodili već hiljadu puta. Ali, prije nismo imali tehnologiju. A tehnologija sve mijenja. Drevni problemi filozofije sada postaju praktični problemi tehnologije i politike. I dok su filozofi vrlo strpljivi ljudi – mogu bezuspješno o nečemu raspravljati 3000 godina – inženjeri su daleko nestrpljiviji. Dok su političari najnestrpljiviji od svih.
Kako funkcionira liberalna demokracija u doba kada vlade i korporacije mogu hakirati ljude? Šta je ostalo od uvjerenja da "birač najbolje zna" i da je "kupac uvijek u pravu"? Kako živjeti kada shvatite da vas je moguće hakirati, da bi vaše emocije mogle raditi za vladu, da bi vaša amigdala mogla raditi za Putina i da bi sljedeća misao koja se pojavljuje u vašem umu možda mogla biti rezultat nekog algoritma koji vas poznaje bolje nego što poznajete sami sebe? To su najzanimljivija pitanja s kojima se čovječanstvo danas suočava.
Nažalost, to nisu pitanja koja većina ljudi postavlja. Umjesto da istražujemo ono što nas čeka nakon iluzije o postojanju "slobodne volje", ljudi širom svijeta sada pokušavaju naći utočište u još starijim iluzijama. Umjesto suočavanja s izazovima koje pred nas stavljaju umjetna inteligencija i bioinženjering, mnogi se okreću ka religijskim i nacionalističkim fantazijama koje imaju još manje dodira s naučnom stvarnošću vremena u kom živimo nego što to ima liberalizam. Umjesto nekih novih političkih modela, nude nam se prepakovani ostaci 20. stoljeća ili čak srednjeg vijeka.
Kada se pokušate baviti ovim nostalgičnim fantazijama, nailazite na raspravu o stvarima kao što su istinitost Biblije i svetost naroda (pogotovo ako ste neko ko živi u Izraelu, poput mene). Za mene kao naučnika, to je razočaravajuće. Rasprave o Bibliji bile su vruća tema u doba Voltairea, a rasprava o značaju nacionalizma bila je najsavremenija filozofska rasprava prije jednog stoljeća – ali 2018. godine, ovakve rasprave su strašno gubljenje vremena. Vještačka inteligencija i biomedicinska istraživanja uskoro će promijeniti tok evolucije, a imamo samo nekoliko desetljeća da shvatimo šta ćemo s njima uraditi. Ne znam odakle će doći odgovori na ta pitanja, ali definitivno neće doći iz zbirke priča napisanih prije nekoliko hiljada godina.
Dakle, šta nam je činiti? Moramo se istovremeno boriti na dva fronta. Trebali bismo braniti liberalnu demokraciju, ne samo zato što se ona pokazala kao benigniji oblik vladavine u odnosu na bilo koju njenu alternativu, nego i zato što postavlja najmanji broj ograničenja za raspravu o budućnosti čovječanstva. Istovremeno moramo dovesti u pitanje tradicionalne pretpostavke liberalizma i razviti novi politički projekat koji je usklađeniji s trenutnim naučnim realitetima i snažnom tehnologijom 21. stoljeća.
U grčkoj mitologiji postoji priča o Zeusu i Posejdonu, dvojici najvećih bogova, koji su se borili za ruku boginje Tetide. Ali, kada su čuli proročanstvo da će Tetida roditi sina koji će biti moćniji od svog oca, obojica su se panično povukla. S obzirom da bogovi planiraju živjeti zauvijek, ne žele snažnije potomke s kojima bi se morali takmičiti. Tako se Tetida udala za smrtnika, kralja Peleusa, i rodila Ahileja. Smrtnici vole da su njihova djeca uspješnija od svojih roditelja. Taj mit bi nas mogao naučiti važnu lekciju. Autokrati koji planiraju vladati vječno ne vole poticati rađanje ideja koje bi ih mogle izgurati i zamijeniti. Ali, liberalne demokracije potiču stvaranje novih vizija, čak i po cijenu da te nove vizije dovode u pitanje i same temelje na kojima su te liberalne demokracije zasnovane.
