Politička odgovornost za razvoj veštačke inteligencije: Da li će nam vrednosti određivati algoritmi „pušteni s lanca?“
Danas se pitanjima razvoja veštačke inteligencije uglavnom bave tehnološki stručnjaci, dok su humanističke nauke gotovo istisnute iz te problematike. Prirodne nauke nastoje da iskoriste nove tehnologije za do nedavno nezamisliva postignuća, a tehnološke kompanije su okupirane ostvarivanjem do sada nezamislivih zarada. Pobuda oba ova sveta je da šire granice otkrića, pre nego da spoznaju njihove posledice. A vlasti, ako se uopšte i bave veštačkom inteligencijom, gledaju samo kako da je primene u bezbednosne svrhe. Političari ne razmišljaju na koji način veštačka inteligencija menja položaj čoveka i da li će njen razvoj kulminirati svetom oslonjenim na mašine, koje pokreću algoritmi bez ikakvih etičkih normi, upozorava nekadašnji američki državnik Henri Kisindžer.
Ukoliko se ne preduzmu ozbiljni koraci da se utvrde svrha i posledice razvoja veštačke inteligencije, možemo doći u situaciju da u ne tako dalekoj budućnosti mašine počnu da primenjuju svoje znanje za ciljeve koji su potpuno van ljudskog poimanja. „Jedno je sigurno: ako ovo ne počnemo uskoro, neće proći mnogo vremena kada ćemo otkriti da je za to prekasno“, upozorava Henri Kisindžer, istoričar i nekadašnji američki državnik u svojoj analizi „Kako se okončava doba prosvetiteljstva?“, u kojoj razmatra da li je ljudsko društvo spremno za uspon veštačke inteligencije, te zašto se taj razvoj ne sme prepustiti isključivo IT kompanijama i tržištu.
Kisindžer ističe da ga je euforija kojom je propraćena pobeda Guglovog programa „Alfa Go“ nad najbljim svetskim igračima drevne kineske igre „Go“ podstakla na brojne razgovore o veštačkoj inteligenciji sa vrhunskim stručnjacima u oblastima tehnologije i humanistike. „Sve ono što sam čuo od njih i diskusije na neformalnim skupovima o tome u kom pravcu se kreće razvoj veštačke inteligencije, duboko su me zabrinule“.
Informacija preti da uništi mudrost
Tendencija da nove tehnologije oblikuju društvene vrednosti, umesto da budu sredstvo za ispunjavanje unapred promišljenih ciljeva, već je vidljiva u uticaju inetrneta na ljudsko razmišljanje. Nasuprot ranijim tehnološkim revolucijama, koje su uz sve negativne pojave u krajnjem služile da se ljudski razum izdigne iznad slepe vere i da podrže analitičko i kritičko promišljanje, svrha interneta je postala da se prikupljanjem ogromne količine podataka zadovolje samo trenutne potrebe za informacijama, ali ne i da korisnici razmišljaju o njihovoj istinitosti i značenju u širem kontekstu. „Informacija preti da uništi mudrost“, jer su pojedinci pretvoreni u podatke, a ljudsko znanje je izgubilo lični karakter. Naglašenost brzine u digitalnom svetu sputava razmišljanje, osnažuje radikalno u odnosu na promišljeno, njegove vrednosti se formiraju na osnovu mišljenja mnoštva putem društvenih mreža, a ne naporima koje ulaže pojedinac da na osnovu stečenog znanja razume stvarnost oko sebe, a što je i osnova svake istinske kreativnosti, naglašava Kisindžer.
Tokom ovog procesa, algoritmi pretraživača stiču sposobnost da predvide preference pojedinih korisnika i da personalizuju rezultate, a potom ih učine dostupnim za političke ili komercijalne svrhe. Mogućnost da političari ciljaju pojedinačne socijalne grupe, podstakla ih je da u borbi za mandat, umesto konsenzusa o društvenim prioritema i iole dugoročnijih političkih vizija, favorizuju kratkoročne mere, usmerene na zadovoljavanje potreba najznačajnih grupa u glasačkom telu.
No sledeći korak, razvijanje mašina koje bi bile u stanju da rešavaju složene probleme oponašajući procese u ljudskom umu, ustanovljavaju svoje ciljeve i strateški prosuđuju o budućnosti, daleko nadilazi automatizaciju koja nam je poznata. Automobili bez vozača možda u ovom trenutku najbolje ilustruju razliku između delovanja tradicionalnih kompjutera, snabdevenih softverom koji kontrolišu ljudi i sveta ka kome ide veštačka inteligencija, kaže Kisindžer. Vožnja automobila zahteva donošenje odluka u brojnim situacijama koje je nemoguće predvideti i tako unapred isprogramirati. „Šta bi se desilo, da se poslužimo dobro poznatim hipotetičkim primerom, ako je takav automobil prinuđen spletom okolnosti da izabere između ubistva starog čoveka i ubistva deteta? Koga bi izabrao, zašto, i da li bi mogao da objasni svoje razloge? Mi nemamo odgovore na ova pitanja, a ipak, automobili bez vozača će, po svoj prilici, postati dominantni na putevima za desetak godina“.
Opasnost od gubitka ljudske svrhe
Veštačka inteligencija će vremenom doneti izuzetne koristi medicinskoj nauci, obezbeđivanju ekološke energije i u mnogim drugim oblastima. „Ali baš zato što veštačka inteligencija prosuđuje o još uvek neodređenoj budućnosti, neizvesnost i dvosmislenosti su svojstvene njenim rezultatima“, ocenjuje Kisindžer i ističe tri područja koja izazivaju posebnu zabrinutost.
Prvo se odnosi na opasnost da veštačka inteligencija pogrešno razume ljudske instrukcije upravo zbog nedostatka konteksta koji je svojstven ljudskom razmišljanju. Skorošanji primer četbota Taj, napravljenog da komunicira po jezičkim obrascima devetnaestogodišnje devojke, a koji se pokazao izuzetno agrasivnim u konverzaciji, sa rasističkim i seksističkim predrasudama, upućuje na važna pitanja: do koje mere veštačka inteligencija može da spozna kontekst iz zadatih instrukcija, da li smo u stanju da već u početnoj fazi programiranja otkrijemo i ispravimo moguća odstupanja, „ili će veštačka inteligencija, prepuštena sopstvenom načinu funkcionisanja neizbežno razvijati male devijacije, koje vremenom mogu da se pretvore u katastrofalno odstupanje?“
Druga opasnost je da tokom izvršenja zadatih ciljeva, veštačka inteligencija može da promeni ljudske misaone procese i ljudske vrednosti. Recimo, smisao drevne kineske igre „Go“ nije samo u tome da igrač pobedi, već da nauči nove strategije koje su potencijalno primenljive u drugim oblastima života. Suprotno tome, Guglov program ne samo da je koristio strateške poteze koji su potpuno nepoznati ljudskom umu, već je bio usmeren isljučivo na pobedu. Pokazalo se da program ne „uči“ konceptualno već matematički, marginalnim prilagođavanjima svojih algoritama, čime je promenio i prirodu igre i njen uticaj.
Drugi projekti veštačke inteligencije razvijaju sposobnosti da mašine odgovaraju na ljudske upite, no izuzev pitanja poput „koliko je stepeni napolju?“, ona koja se odnose na prirodu stvarnosti ili smisla života zahtevaju dublje promišljanje. Ako veštačka inteligencija uči eksponencijalno brže od ljudi, moramo očekivati da će jednakom brzinom rasti i proces pokušaja i pogrešaka od koga se generalno sastoji ljudsko odlučivanje: da će grešiti češće i više nego što to čine ljudi. Ako je oko pitanja šta je moralno ispravno a šta pogrešno u ljudskoj cilvilizaciji izrasla cela jedna nauka, kako očekujemo da će veštačka inteligencija biti sposobna da prosudi šta je pravi izbor? Da li zaista želimo, ističe Kisindžer, da naša deca uče o vrednostima kroz razgovor sa algoritmima koji su „pušteni s lanca?“
Kisindžer zaključuje da iz navedenog proizilazi treća ključna opasnost: sa razvojem kompjuterske snage, veštačka inteligencija će uskoro biti kadra da bira ishode koji mogu biti značajno drugačiji, od onoga kako ih ljudi procenjuju. Zato, najteže, ali i najvažnije pitanje o svetu ka kome idemo jeste: šta će se desiti sa ljudskom svešću ako njene mogućnosti da objasni stvarnost oko sebe potisne veštačka inteligencija? Ko će biti odgovoran za delanje veštačke inteligencije? Može li pravni sistem koji su stvorili ljudi da se nosi sa aktivnostima koje sprovodi veštačka inteligencija, koja ima više misaonih mogućnosti od čoveka i potencijalno može da manipuliše podacima?
Zbog svoje nadmoći koja joj je svojstvena u memorisanju i računanju, veštačka inteligencija će verovatno pobediti čoveka u bilo kojoj igri. Ali za ljudsko pimanje svrhe, cilj igre nije samo u pobeđivanju – on je u mišljenju. Ako dozvolimo sebi da matematički proces zameni misaoni proces, da kvantitet uništi kvalitet, mi smo u opasnosti da izgubimo sposobnost koja je suština ljudskosti, upozorava Henri Kisindžer.
Zorica Žarković
