Krešimir Cerovac
Foto: © katholisch.de
„Nijedan algoritam ne može rat učiniti moralno prihvatljivim. Umjetna inteligencija ne uklanja urođenu nečovječnost sukoba; štoviše, može ga samo izazvati brže i učiniti ga bezličnijim, snižavajući prag za pribjegavanje nasilju, pretvarajući obranu u predviđanje prijetnji i time svodeći žrtve na podatke.” – Magnifica Humanitas, #198
Papa Lav XIV. je 25. svibnja, na 135. obljetnicu povijesne radničke enciklike pape Lava XIII. Rerum Novarum, objavio, i izravno osobno predstavio, svoju prvu encikliku, vrlo široku refleksiju o umjetnoj inteligenciji koja tehnologiju naziva „promjenom epohe” i upozorava da se ljudska osoba ne tretira kao „projekt koji treba optimizirati”. Nazvana je Magnifica Humanitas („Veličanstveno čovječanstvo”) i predstavlja najopsežniji tretman koji je umjetna inteligencija dosad dobila od papinskog Učiteljstva.
Magnifica Humanitas stoji u kontinuitetu s društvenim naukom Crkve. Ukorijenjena je u enciklici pape Lava XIII. Rerum Novarum. Također slijedi apostolsko pismo pape sv. Pavla VI. Octogesima Adveniens i Populorum Progressio, u kojima papa sv. Pavao VI. poučava o odnosu društvenog nauka Crkve prema miru, cjelovitom ljudskom razvoju i trajnoj vrijednosti Evanđelja za društvo. Magnifica Humanitas također se oslanja na encikliku pape sv. Ivana Pavla II. Laborem Exercens kako bi uokvirila dostojanstvo rada; na encikliku pape Benedikta XVI. Caritas in Veritate kako bi uokvirila tehnologiju i cjeloviti ljudski razvoj; te na enciklike pape Franje Laudato Si’ i Fratelli Tutti kako bi se pozabavila tehnokratskom paradigmom, bratstvom, društvenim prijateljstvom i mirom.
Paradoks modernog doba leži u tome da ona ista tehnologija koja obećava slobodu i napredak istovremeno rađa nove oblike porobljavanja. Papa Lav XIV. u enciklici ukazuje na neugodnu istinu: iza blistavog lica digitalnog napretka skriva se duga sjena eksploatacije, nevidljiva većini korisnika, ali duboko urezana u tijela i živote milijuna: „Iskrivljeni pogled na ljudsku osobu danas se vidi u raznim oblicima ropstva povezanima s digitalnom ekonomijom.“
Kada se pošalje poruka, pretraži internet ili dobije odgovor od umjetne inteligencije, čini se da se sve odvija magično – trenutno, čisto, bez traga. No ta je iluzija skupo plaćena. Enciklika upozorava da „ništa u svijetu umjetne inteligencije nije beznačajno ili magično” te da „svaki naizgled trenutni i besprijekorni odgovor rezultat nastaje kroz dugi lanac posredovanja koji uključuje široke mreže prirodnih resursa, energetsku infrastrukturu i, najviše od svega, ljude.”
Velik dio digitalne ekonomije počiva na nevidljivom radu milijuna ljudi koji za male plaće obavljaju teške poslove poput označavanja podataka, moderiranja sadržaja i rudarenja sirovina za umjetnu inteligenciju. U nekim dijelovima svijeta čak i djeca rade u opasnim uvjetima kako bi se osigurali rijetki minerali potrebni za tehnologiju. Istodobno, kriminalne mreže koriste digitalne platforme za trgovinu ljudima, posebno maloljetnicima, pretvarajući osobe u „podatke” i „pakete” unutar globalnih sustava. Takva stvarnost pokazuje da tehnološki napredak nema moralnu vrijednost ako se gradi na skrivenom iskorištavanju i gaženju ljudskog dostojanstva. Enciklika zaključuje da „nije dovoljno pozivati se na učinkovitost ili slaviti prednosti inovacija, ako su one izgrađene na lancu eksploatacije koji se namjerno skriva.”
Posebno je snažan trenutak u dokumentu onaj u kojemu Crkva gleda u vlastito ogledalo i ne odvraća pogled. Priznaje spor i nedosljedan povijesni put prema osudi ropstva – kroz antiku, srednji vijek, pa sve do 19. stoljeća i pape Lava XIII. Ta šutnja i oklijevanje nazvana je „ranom u kršćanskom sjećanju” – ranom od koje se, kako Papa naglašava, „ne možemo odvojiti.” U ime Crkve, Papa iskreno traži oprost za svu onu „ogromnu patnju i poniženje koje su mnogi pretrpjeli u izrazitoj suprotnosti s njihovim neizmjernim dostojanstvom kao osoba koju Gospodin beskonačno voli.”
Taj povijesni ekskurs važan je papi Lavu XIV. u digitalnoj eri zato što se mehanizam ne mijenja: eksploatacija se predstavlja kao nešto normalno, opravdava ekonomskom nužnošću ili „civilizacijskim napretkom“, a oni koji pate ostaju izvan dosega moći. Da bi se izbjegla potreba da Crkva u budućnosti opet traži oprost „zbog nepoštivanja blaga ljudskog dostojanstva koje zahtijeva naša vjera”, mora se danas jasno i odlučno osuditi trgovinu ljudima u svim njezinim oblicima.
Posebnu pozornost u enciklici zaslužuje ono što se može nazvati ‘digitalnim kolonijalizmom’. Klasični kolonijalizamnije nije nestao – samo je promijenio oblik. Nekad su moćnici vladali ljudskim tijelima i teritorijima, a danas prisvajaju nešto drugo: osobne podatke. Cijele regije svijeta, posebno one siromašnije i slabije, izložene su novoj vrsti pljačke – prikupljanju zdravstvenih podataka, genetskih informacija i demografskih profila njihovih stanovnika. Ti podaci postali su novo zlato. Onaj tko ih posjeduje, ima ogromnu moć: može predviđati što će se dogoditi, odlučivati gdje će se ulagati novac i čak određivati kome će biti dostupni lijekovi i zaštita. Pritom se ti podaci često prikupljaju pod krinkom pomoći ili znanstvenih istraživanja – dakle, ljudi ni ne znaju da su zapravo izvor moći za nekoga drugoga.
„Ovdje leži jedan od najhitnijih moralnih izazova našeg vremena: osigurati da zajedničko znanje postane istinsko zajedničko dobro, a ne instrument dominacije.”
Znanje i podaci trebali bi biti zajedničko dobro koje koristi svima, a ne oruđe dominacije u rukama nekolicine. Svaki čovjek mora imati pravo znati koje se informacije o njemu prikupljaju, tko ih koristi i u koje svrhe. Ako se to ne osigura, digitalno doba, upozorava papa Lav XIV., neće biti oslobođenje od kolonijalizma – bit će samo njegov novi, moderniji oblik.
Dokument ne ostaje na razini dijagnoze. Predlaže konkretne smjerove djelovanja na „nekoliko frontova.” Prvo, lanci opskrbe koji podupiru tehnološku industriju i digitalnu ekonomiju moraju postati transparentniji, „kako nijedna konkurentska prednost ne bi bila izgrađena na skrivenom iskorištavanju.” Drugo, tvrtke i investitori moraju usvojiti „jasne kriterije preventivne etičke provjere”, stavljajući među svoje prioritete zaštitu radnika, borbu protiv prisilnog rada i procjenu društvenog učinka poslovnih modela temeljenih na podacima. Nadalje, digitalne platforme moraju odgovorno surađivati s vlastima i civilnim društvom kako bi spriječile da alati za komunikaciju, plaćanje i profiliranje postanu kanali za regrutiranje i kontrolu žrtava. Sve su to mjere koje nadilaze dobre namjere i ulaze u domenu pravnih i ekonomskih mehanizama. Etika koja nema institucionalni oblik ostaje pobožna želja. Dostojanstvo čovjeka mora biti ugrađeno u arhitekturu sustava, a ne samo proglašavano u deklaracijama.
Papa Lav XIV. upozorava: „Rastuća moć digitalnih sustava mogla bi nas odvesti prema novim strahotama koje nisu ništa manje sramotne od onih iz prošlosti koje danas osuđujemo, dok nastavimo predstavljati sebe kao ‘napredna’ i ‘civilizirana’ društva.”
Digitalna era nije po sebi ni dobra ni loša. Ona je ogledalo naših vrijednosti i naših odnosa moći. Hoćemo li u tom ogledalu vidjeti sebe dovoljno jasno da, citirajući redak iz Gospodara prstenova, papa Lav XIV. piše da „nije na nama da savladamo sve plime ovoga svijeta, nego da učinimo što možemo da pomognemo u godinama u kojima smo se našli, da iskorjenjujemo zlo u poljima koja poznajemo, tako da će oni koji dolaze poslije nas obrađivali čistu zemlju.”
Prva UI enciklika u povijesti, je među ostalogm, hobitski dokument. Izbor pred vjernicima i ljudima dobre volje, piše papa Lav XIV., jest biti „graditelji zajedništva, a ne arhitekti Babela.” To je mjerilo prema kojemu bi katolička savjest trebala vrjednovati svaki proizvod, svaki ugovor, svaki zahtjev politike, svaki algoritam, svaki sastanak dioničara koji se tiče dostojanstva ljudske osobe (fratellanza.net).
[1]Potpuna raščlamba enciklike nije moguća u jednom kratkom prilogu. Ovdje je riječ o razmišljanju temeljenom na paragrafima 173-179