Foto: Peščanik
Patrik Brejer nije očekivao da će na kraju morati da tuži Evropsku komisiju sudu. Sve je počelo tako što je ovaj suzdržani nemački poslanik Evropskog parlamenta u julu 2019. bio zaprepašćen reportažom o eksperimentalnoj upotrebi nove tehnologije koja iz „mikro-ekspresija“ lica može da utvrdi da li neko laže kad odgovara na pitanja.
Još ga je više zapanjilo to što istraživanje ovog virtuelnog čitanja misli finansira EU kroz projekat pod nazivom iBorderCtrl, radi potencijalne primene u patroliranju evropskim granicama. U tekstu koji je Brejer čitao, novinarka je opisala kako je testirana na granici između Srbije i Mađarske. Iako je istinito odgovarala na pitanja, veštačka inteligencija uređaja za kontrolu granica prijavila je da laže.
Inače član komiteta Evropskog parlamenta za građanske slobode i jedan od četiri evropska poslanika iz redova Piratske partije, Brejer je shvatio da su etičke implikacije projekta iBorderCtrl i njegovi rizici po privatnost ogromni. Ovakva tehnologija, koju on naziva „pseudo-naučnom bezbednjačkom opsenom“, ukoliko bude na raspolaganju službama za kontrolu granica, mogla bi značiti neproporcionalno veću mogućnost pogrešnog utvrđivanja laži kod ljudi druge boje kože, žena, starijih, dece ili ljudi sa invaliditetom.
Pozivajući se na zakone EU o transparentnosti, zatražio je od Evropske komisije više informacija o etici i zakonitosti projekta. Odgovor ga je šokirao: pristup odbijen, u ime zaštite poslovne tajne.
Tako je Brejer presavio tabak. On želi da Evropski sud pravde potvrdi pretežni interes javnosti da se dokumenta objave. „Evropska unija finansira nelegalnu, neetičnu tehnologiju koja krši temeljna prava“, tvrdi Brejer.
Brejerov slučaj, koji bi pred sudom trebalo da se nađe sledeće godine, ima dalekosežne implikacije. Milijarde evra javnog novca ulažu se svake godine u istraživanja kontroverznih bezbednosnih tehnologija, dok će za te svrhe u narednih 7 godina na raspolaganju biti još najmanje 1,3 milijarde evra.
Lica, glasovi, vene
Horizont 2020 je vodeći program Evropske unije za istraživanja i inovacije. Od 2014. do 2020. vredeo je blizu 80 milijardi evra u grantovima za naučnike.
Konkurencija za novac iz Horizonta je žestoka. Kroz ovaj program finansiraju se istraživanja u oblastima kao što su karcinom debelog creva, bolesti koje prenose komarci i unapređenje navodnjavanja u poljoprivredi. Ove godine Horizont je podržao nemačku kompaniju BioNTech, jednu od prvih koja je proglasila uspeh u testiranju vakcine protiv kovida-19.
Tokom proteklih 7 godina, kroz ovaj program uloženo je i 1,7 milijarde evra u razvoj tzv. bezbednosnih proizvoda namenjenih policiji i agencijama za kontrolu granica iz javnog i privatnog sektora. Dobar deo te sume izdvojen je za najnovije tehnologije: veštačka inteligencija, bespilotni dronovi i proširena realnost, kao i za tehnologije prepoznavanja lica, glasa,
, očnog irisa i druge vrste biometrije koje se mogu primeniti za nadzor.Konzorcijum kompanija koji stoji iza tehnologije detektora laži iBorderCtrl dobio je 4,5 milijarde evra iz bezbednosnog portfolija programa Horizont 2020, za tri godine razvoja i testiranja do avgusta 2019.
Zvaničnici EU kažu da su te inovacije presudne u zaštiti od kriminala, terorizma i prirodnih nepogoda. Strateški cilj je osnaživanje bezbednosnih kompanija iz Unije u takmičenju sa SAD, Izraelom i Kinom.
Međutim, raste nelagoda oko ciljeva, javne kontrole i uticaja korporativnih interesa u okviru bezbednosnog segmenta istraživanja finansiranih kroz Horizont 2020. Sedam etičkih eksperata koji još uvek rade ili su radili na bezbednosnim projektima koje finansira EU, izrazili su svoju zabrinutost u razgovorima za Gardijan. Oni smatraju da treba otvoriti pitanje da li neka istraživanja iz Horizonta zaista jesu u javnom interesu.
Jedna od glavnih briga među etičarima jeste da su analiza i kritika izgleda skrajnute u trci da se nove tehnologije što pre izbace na tržište, čak i kada se utvrde ozbiljni rizici po privatnost i građanske slobode. Malo toga izađe u javnost. Kao i Brejeru, Evropska komisija je Gardijanu odbila pristup dokumentaciji o aktivnostima, zakonitosti i etici više od 12 bezbednosnih projekata iz Horizonta 2020, uz obrazloženje da bi njihovo objavljivanje moglo ugroziti javnu bezbednost i narušiti „zaštitu komercijalnih interesa“.
Neetična tehnologija
Prijave za sredstva iz Horizonta 2020 prvo prolaze naučnu proveru kao i, ukoliko se projekat finansira, proveru koju sprovodi tim nezavisnih etičara koje Evropska komisija angažuje kao konsultante. Etičari mogu dati zeleno svetlo za projekat ili zahtevati dalju procenu, ali su mogućnosti da oni zaista preinače projekat vrlo ograničene.
„Često je problem u tome što ni sam cilj istraživanja nije etičan“, kaže Džema Galdon Klavel, nezavisna etičarka tehnologije koja je radila evaluaciju mnogih istraživačkih projekata Horizonta 2020 u oblasti bezbednosti, dok je kao partnerka radila na više od 10. „Neki zadaci podstiču razvoj biometrijskih tehnologija koje mogu da rade na daljinu, gde pristanak nije moguć – to je ono što me brine“. U jednom projektu čiji je cilj bio da razvije takvu tehnologiju, to se naziva „neprimetna identifikacija osobe“ koja se može koristiti na graničnim prelazima. „Ako govorimo o razvoju tehnologije za koju ljudi neće znati da se primenjuje na njima, kako to može biti etično?“
Kristofer Liden, istraživač u Mirovnom institutu iz Osla koji je radio na etičkoj komponenti više projekata iz Horizonta 2020, kaže da se već i samo učešće etičkih stručnjaka na bezbednosnim projektima izgleda razume kao blanko odobrenje, čak i kada oni utvrde razloge za ozbiljnu zabrinutost. Liden sugeriše da se na etičare vrše pritisci da bez mnogo buke odobre projekte.
„[Projekte] lako može preuzeti duh komercijalne logike ili opšteg tehnološkog optimizma, gde ljudi ignorišu etičke probleme, jer nove tehnologije shvataju kao pozitivan razvoj po sebi“. Jedna studija etike u istraživačkim projektima koje finansira EU iz 2018. došla je do istog zaključka.
Pojedinci koji su pokušali javno da pokrenu ova pitanja, izgleda da su trpeli posledice. Piter Bardžis, filozof i politikolog koji je bio član tri savetodavna tela Horizonta 2020 za bezbednosna istraživanja, dao je 2015. iskren intervju nemačkoj javnoj televiziji ARD i novinaru Špigla, kada je izrazio zabrinutost zbog uticaja koji industrija ima na istraživanja, posebno onih u vezi sa migracijama. „Izbeglice se tretiraju kao mete i ciljevi koje treba registrovati“, rekao je Bardžis nemačkim novinarima.
Odmah je izgubio mesto u sva tri savetodavna tela i više nije bio angažovan na programu. Dvoje drugih etičkih eksperata, s kojima smo razgovarali pod uslovom zaštite anonimnosti, kazali su da se osećaju skrajnuto sa bezbednosnih projekata koje finansira EU nakon što su podneli suviše kritične analize. Evropska komisija poriče da je bilo takvih smena: „Generalnom direktoratu za istraživanje i inovacije nije upućen nijedan zahtev za smenu etičkih eksperata koji učestvuju u analizi podnetih projekata.“
Etičari s kojima smo razgovarali tvrde da bi etička kontrola trebalo da osigura da EU radi u javnom interesu, a ne da legitimiše razvoj potencijalno kontroverznih tehnologija.
Korporativni interesi
S velikim investicijama u bezbednost EU je krenula početkom 2000-ih, posle napada 11. septembra 2001. u SAD, invazije na Irak i porasta broja domaćih terorističkih akcija. Lideri EU, zabrinuti zbog mogućih novih napada, ali i bandi organizovanog kriminala, kao i bezbednosti granica, u to vreme su značajno proširili saradnju sa evropskom odbrambenom industrijom. Institucije EU su 2004. lansirale program istraživanja u oblasti bezbednosti, okupljajući iskusne službenike iz nacionalnih ministarstava unutrašnjih poslova i srodnih službi, te multinacionalne korporacije u oblasti oružja i informacionih tehnologija, kao što su BAE Systems, Finmeccanica (sada pod nazivom Leonardo), Siemens i francuska kompanija Thales. Taj program je postavio temelje finansiranju bezbednosnih projekata iz Horizonta 2020, koje se sve više fokusira na razvoj biometrije i drugih nadzornih tehnologija.
Bardžis ističe ulogu korporativnih interesa: „Industrija se upliće već u pripremnoj fazi“. Međutim, učesnici iz javnog i privatnog sektora dele zajedničku pretpostavku da „uređaji znače veću bezbednost – jače oružje, viši zidovi, biometrija. To je krupan biznis još od 9/11 u SAD i terorističkih napada u Madridu 2004. i Londonu 2005.“
Računica koju je Gardijan izveo iz javno dostupne dokumentacije sugeriše da je Horizont 2020 naročito koristio privatnom sektoru: od 2007. privatne kompanije su dobile 42% sume od 2,7 milijardi evra raspodeljenih kroz program za bezbednosna istraživanja – gotovo 1,15 milijardi evra. Privatne kompanije se takođe javljaju kao vodeći partner u gotovo polovini od 714 finansiranih projekata. Drugi učesnici, kao što su istraživački instituti i javna tela, daleko zaostaju za njima.
„To je bio zvanični pristup Evropske komisije: raditi ono što je najbolje za Evropu“, kaže Bardžis. „Nije bio tajni, korumpirani sistem, nego javna politika.“
Dok konačnu odluku o finansiranju donose zvaničnici država članica i same EU, telo pod nazivom Savetodavna grupa za zaštitu i bezbednost (Protection and Security Advisory Group, PASAG) pruža savete o godišnjim istraživačkim programima i utvrđuje istraživanja koja će se finansirati.
Kritičari insistiraju na pitanju odgovornosti za usmeravanje istraživanja iz oblasti bezbednosti koje finansira EU. PASAG ima 15 članova pretežno iz privatnog sektora i istraživačkih instituta širom Evrope. Javna dokumenta Evropske komisije sugerišu da PASAG daje doprinos u postavljanju prioriteta za istraživanje, kao i u promovisanju veza između postojećeg istraživačkog programa u oblasti bezbednosti i novih fondova za vojnu tehnologiju.
Deset članova PASAG-a je prijavilo interese povezane s radom na Horizontu 2020, pokazuju javne prijave. Grupom predsedava Alberto de Benediktis, bivši izvršni direktor britanske divizije Leonarda, italijanske kompanije iz odbrambene industrije, koja je učestvovala u 26 projekata i od 2007. dobila 11,3 miliona evra iz evropskog budžeta za istraživanja u oblasti bezbednosti. De Benediktis je ušao u PASAG 2016, pošto se prethodne godine povukao iz Leonarda. Jedan od članova grupe vodi konsultantsku firmu, MSB Consulting, koja posluje u odbrambenom i bezbednosnom sektoru i čiji su klijenti, pored bezbednosnih kompanija, i Evropska komisija i Evropska agencija za odbranu. Jedan član PASAG-a radi na univerzitetu Luven u Belgiji, koji je tokom godina dobio milione preko Horizonta 2020 i drugih bezbednosnih programa.
U ovom trenutku samo jedan od 15 članova radi za organizaciju građanskog društva, a niko nije objavio afilijaciju sa organizacijama za ljudska prava ili etiku. Iz Evropske komisije navode da „sastav PASAG-a odražava najširu moguću zastupljenost“. Dodaje se i da nijedan od iskazanih interesa članova grupe „ne može da kompromituje kapacitet stručnjaka da postupaju nezavisno i u javnom interesu“.
De Benediktis kaže da PASAG samo pruža usmerenje na visokom nivou, te da zastupljenost industrije u grupi ne predstavlja sukob interesa. „Kao i druga stručna savetodavna tela, Evropska komisija je formirala PASAG kako bi se osigurao pristup ekspertizi svih zainteresovanih strana koje doprinose uspehu istraživačkog programa“, kaže De Benediktis. „Industrija je jedna od tih strana, kao što su to i univerziteti, istraživački instituti, ministarstva i službe vlada, koji predstavljaju aktere u zajednici.“
On ističe da odgovornost za prioritete u finansiranju istraživanja leži na vladama. „Države članice su te koje donose konačnu odluku.“
Žan-Lik Gala, bivši oficir belgijske vojske i profesor na univerzitetu Luven specijalizovan za biološko oružje, takođe odbacuje sukob interesa. Gala navodi da je dobro što eksperti za bezbednost iz industrije i nauke savetuju Evropsku komisiju. PASAG igra kolektivnu ulogu tamo gde „nema mesta za pojedinačne stavove ili individualne interese“, dodaje Gala.
Univerzitet Luven saopštio je sledeće: „Profesor Gala nije član savetodavne grupe kao predstavnik univerziteta, već je pozvan zbog svoje naučne ekspertize. Univerzitet smatra da je učešće u naučnim savetodavnim telima na nacionalnom i međunarodnom nivou, važan deo misije našeg akademskog osoblja.“
Iskra Mihajlova, evropska poslanica iz Bugarske koja radi na pravnim propisima za Horizont Evropa, program koji će naslediti Horizont 2020, tvrdi da je učešće industrije nezaobilazno: „Ako vam treba neko ko je kompetentan, oni imaju iskustvo u ovoj oblasti.“
Kovid era
Za narednih 7 godina (2021-27) Horizont 2020 će biti rebrendiran u Horizont Evropa, sa očekivanim ukupnim budžetom od 86 milijardi evra, od čega se na finansije za bezbednost izdvaja oko 1,3 milijarde.
Dopunski budžet od najmanje 8 milijardi evra određen je za istraživanje i razvoj vojnih tehnologija. Izričiti cilj je da se finansira tehnologija dvojne upotrebe sa civilnom i vojnom primenom, dok se određenim brojem preliminarnih projekata ispituju jata bespilotnih dronova i drugi uređaji za nadzor.
Borba protiv kovida-19 dodatno je pojačala podsticaje evropskih vlada razvoju tehnologija za nadzor, uključujući primenu dronova bez presedana. Poljska je, na primer, lansirala aplikaciju koja od građana u karantinu traži da tokom dana snimaju selfije da dokažu da sede kod kuće. Aplikacija se oslanja na tehnologije geolokacije i prepoznavanja lica, a u slučaju da se korisnici ne javljaju šalje obaveštenja policiji.
Tehnologije za prepoznavanje lica – policijski algoritmi zasnovani na veštačkoj inteligenciji – već su ozloglašeni po svojim rasnim i drugim predrasudama. Aplikacije koje neke države koriste za praćenje pandemije ne finansiraju se iz Horizonta, ali pojedini istraživači koji rade ili su radili na evropskim projektima strahuju da će EU finansirati trku za razvoj novih biometrijskih i drugih bezbednosnih tehnologija, naročito u vreme kada je kriza javnog zdravlja navela mnoge Evropljane da lakše prihvate takve stvari.
Postavlja se pitanje ko odlučuje o tome s kakvom vrstom državnog nadzora Evropljani treba da žive?
Zasad nije poznato koliki je uticaj evropskih fondova na izlazak novih bezbednosnih proizvoda na tržište, od kojih su neki izgleda u sukobu sa zakonima EU.
Na sajtu projekta iBorderCtrl navodi se da se na neke od njihovih tehnologija „ne primenjuje postojeći [EU] pravni okvir“. Vodeća kompanija u iBorderCtrl konzorcijumu, European Dynamics Luxembourg, nije odgovorila na upit Gardijana.
Kako se evropski građani uopšte mogu informisati, a kamoli pokrenuti diskusiju o tome da li žele da se njihov poreski novac ulaže u orvelijansku biometriju i druge tehnologije nadzora? Kao i nemački poslanik u Evropskom parlamentu Patrik Brejer, i mi smo – u skladu sa evropskim propisima o transparentnosti – tražili pristup dokumentima o 15 projekata koji se finansiraju iz Horizonta 2020, a koji su usmereni na razvoj novih biometrijskih tehnologija, uključujući etičke i pravne analize svakog projekta. Međutim, posle više meseci čekanja i ponovljenih žalbi, rečeno nam je da mnogi izveštaji o aktivnostima, kao i neki izveštaji o etici, iz bezbednosnih razloga i komercijalnih interesa moraju ostati poverljivi.
Brejer kaže da mu je čudno da jedan evropski poslanik mora da tuži EU ne bi li dobio informacije o projektu koji se finansira iz javnih izvora. „Neće da dozvole uvid u kritiku tog projekta, jer bi im to otežalo prodaju tehnologije“, pretpostavlja Brejer. „Može li to da bude legitiman razlog za EU, kao javnu vlast, da uskrati informacije?“
Evropska poslanica iz Bugarske Mihajlova se slaže da u istraživačkom programu mora biti veće transparentnosti. Međutim, dodaje: „Tehnologiju ne možemo zaustaviti. Moramo raditi na ravnoteži između dve strane u procesu“ kako bismo sprečili rizike novih uređaja za nadzor.
Za Brejera je važnije pitanje ko odlučuje o tome kakav je tehnološki razvoj zaista u javnom interesu: „Da li želimo da finansiramo ove rizične tehnologije? To je odluka koju treba doneti demokratski.“
Zach Campbell, Caitlin L Chandler i Chris Jones, The Guardian, 10.12.2020.
Prevela Milica Jovanović
