Giuliano da Empoli: Google i kineska KP imaju jednaku koncepciju čovjeka
U svom romanu “Mag iz Kremlja”, kao i u svom eseju “Inženjeri kaosa”, pisac Giuliano da Empoli osvjetljava potencijal destabilizacije društvenih mreža za demokraciju. Izazov koji, prema njemu, nije ništa u poređenju sa onim što nas očekuje u vremenu umjetne inteligencije. Sa novim tehnologijama mogućnosti manipulacije postaju beskonačne. Upozorava da su u konačnici ugroženi politički model, i čak naše pojmovanje čovjeka.
Može li umjetna inteligencija duboko promijeniti demokraciju? Da li to ona već radi?
- Polazeći od trenutka kad se umjetna inteligencija uvlači u odnose između ljudi i postaje sučelje kroz koje se svako od nas odnosi prema svijetu i prema drugima, jasno je da to proizvodi učinak na demokraciju. Mnogo se govori o ulozi društvenih mreža, ali mislim da je fenomen već sada mnogo obimniji.
Algoritmi prijete
Činjenica da pojedinac danas provodi značajan dio svog vremena pred ekranom mijenja ne samo demokraciju, nego ljudsko iskustvo. Na kraju dana - šta smo uistinu doživjeli, ako izuzmemo iskustvo medijatizirano ekranom?
Da li korištenje algoritama učenja i opsežnih podataka u cilju političke marketinške kampanje predstavlja prijetnju?
- Jasno je da upotreba podataka nudi političkim kampanjama mogućnosti obraćanja glasačima, bez presedana, na potpuno nov način. U SAD-u već sada tradicionalne kampanje, u toku koje je kandidat jednostavno pokušavao uvjeriti glasače u utemeljenost svojih ideja, više ne postoje. Sada direktori kampanja tačno znaju koja je orijentacija svakog glasača. Nastoje na svaki način dakle mobilizirati one za koje znaju da su im naklonjeni, demobilizirati protivnike podstičući ih da ostanu kući na dan izbora, a nekolicini neodlučnih poslati prilagođene poruke da ih u pravom trenutku preusmjere na pravu stranu. Izborne kampanje postaju borbe softvera, koliko i političke borbe. U Europi je, na svu sreću, pravna zaštita osobnih podataka jaka, ali veliki trendovi su jednaki.
Kao što smo nedavno mogli vidjeti, upravo sa lažnim fotografijama Donalda Trumpa, umjetna inteligencija je sposobna ni iz čega proizvesti hiperrealistične fotografije. Ulazimo li u eru manipulacije masama?
- Danas su dovoljne tri sekunde snimljenog ljudskog glasa da se sintetizira ostatak i napravi da glas govori ono što se želi. Jednako je za slike i za video snimke. Tako su mogućnosti manipulacije beskonačne. Na kraju si možemo predstaviti da će mogućnost manipuliranja, ili stvaranja ni iz čega bilo koje fotografije ili video snimka, promijeniti naš odnos prema audiovizualnim medijima, uspostavljajući izvjestan oblik generalizirane sumnjičavosti. Ljudi će se oslanjati samo na izvore informacija koje oni smatraju pouzdanim, ali ti će izvori slijediti vrlo različite norme i orijentacije: neki će se držati novinarske etike, drugi neće. Imaćemo dakle bezbroj “proizvođača realnosti” koji će se sustavno proturječiti. Pomalo kao što se već dešava sa medijima i različitim sajtovima orijentacije, ali uz podršku audiovizualnih medija, istinskih ili lažnih, napravljenih da izazovu maksimum emocija.
U Vašem eseju “Inženjeri kaosa”, kao i u Vašem romanu “Mag iz Kremlja”, pokazujete kako su populistički lideri koristili algoritme da destabiliziraju svoje društvo. Da li te nove tehnologije naglašavaju fragmentaciju društva, posebno u zapadnim demokracijama?
- Ovdje smo dodirnuli u srce problema. Neće samo fake news ili deepfakes uskoro osvojiti naše ekrane. Istinski problem je ponderiranje. U svijetu preobremenjenom informacijama, algoritmi koji upravljaju novim medijima čine da svako vidi samo onaj dio realnosti koji potvrđuje njegovo mišljenje. Nevažno je da li su informacije istinite ili lažne. Mogu biti i sve realne - ima ih toliko! Važno je kakvu relativnu težinu pripisujete tim činjenicama, a rezultat je da stara fraza “Imate pravo na vaše vlastito mišljenje, ali ne na vaše vlastite činjenice” više ne vrijedi. Od sada svako ima pravo imati svoje vlastito mišljenje, ali i svoje vlastite činjenice. I to ne važi samo za Trumpove glasače u dubokoj Americi ili za pristalice nacional-populizma u Europi. To vrijedi za sve: progresivne sveučilišne profesore na kampusu, likove establishmenta, G. i Gospođu XY... Osim ako ne učinimo svjesne i stalne napore da se izložimo radikalno različitim stajalištima. Umjetna inteligencija će pojačati taj fenomen, jer će mnogo bolje od starih algoritama zadovoljiti naše želje i iskoristiti naše strasti. Pružaće sve osobnije sadržaje - po mjeri za svakog od nas - i potpuno imersivne.
U vrijeme nereda u predgrađima Francuske Emmanuel Macron je spomenuo ideju o ukidanju društvenih mreža. Nije li to bio način da se slomi termometar?
- Društveni mediji su alati zamišljeni proizvoditi i umnožavati emocije, poput epidemije ili šumskog požara. Razumljivo je, kad se emocije pretoče u fizičko nasilje, da jedan od lijekova kojeg vlasti razmatraju bude njihovo ukidanje. To se uostalom i primjenjuje u nekim državama, kao što su Indija i Iran. Korištenje takvog instrumenta u zemljama kao što je Francuska se čini komplikovanije. Ono što treba poduzeti je učiniti funkcioniranje društvenih mreža kompatibilnim sa temeljnim principima liberalne demokracije. Što danas nije slučaj. Dugoročno, da li naša sve više rascijepljena društva mogu ostati demokratična? Nije li ta podijeljenost prije svega plod našeg potrošačkog i individualističkog modela, prije nego je bio model novih tehnologija ili ‘populista’? Naravno, nove tehnologije samo pojačavaju dinamike koje već postoje u društvu i gospodarstvu. One ne stvaraju ni iz čega, nego predstavljaju akcelerator i umnožitelj vrlo moćnih trendova. Do te mjere da, u brojnim slučajevima, stvaraju nerješive probleme, koji bi se u stvari, mogli vrlo jednostavno riješiti. Naša društva su suočena sa značajnim izazovima koje klima histerije, koja vlada u javnom prostoru, potaknuta ekosustavom novih medija, čini još težim za prevazilaženje. Jednako vrijedi i za populiste. Jasno je da oni nisu uzrok, nego simptom problemā i podjelā koje postoje u našem društvu. Ali svojim djelovanjem ih samo produbljavaju, umjesto da daju rješenja.
Da li u diktaturama umjetna inteligencija omogućava, naprotiv, naglašavanje vertikalnosti moći i još veću kontrolu društva? Je li to već slučaj u Kini? A šta je sa Rusijom?
- Umjetna inteligencija, čije se funkcioniranje temelji na gomilanju sulude mase podataka, sama po sebi je fantastičan alat koncentracije moći u rukama onih koji su sposobni kontrolirati i koristiti te podatke. To vrijedi koliko za demokratske sustave, gdje su podaci u ovom stadiju prvenstveno skoncentrisani u privatnim rukama, toliko i u autoritarnim sustavima, gdje podatke kontrolira država. Kina je danas, više nego Rusija, najimpresivniji i primjer koji najviše zabrinjava, načina na koji nove tehnologije mogu biti upotrijebljene za stvaranje savršene diktature. Nije koincidencija što su, prije nekoliko godina, prodemokratski demonstranti u Hongkongu, napadali “pametne svjetiljke”, koje je režim postavio na ulice nekadašnje britanske kolonije.
”Kineska Komunistička partija i Silicon Valley rade na post-ljudskoj budućnosti”, napisali ste u časopisu Grand Continent. To je neočekivano povezivanje. Šta pod tim podrazumijevate?
- U vrijeme hladnog rata bile su suočene dvije suprotstavljene koncepcije ljudskog bića: s jedne strane kapitalistički pojedinac, slobodan zadovoljiti svoje instinkte i želje, s druge strane novi komunista, dužan staviti kolektivno dobro ispred svojih vlastitih neposrednih interesa.
Danas se govori o novom hladnom ratu, ali Google i Komunistička partija imaju potpuno jednaku koncepciju čovjeka: pojedinca čije ponašanje i težnje mogu u potpunosti biti svedeni na slijed cifara i upravljani sve sofisticiranijim algoritmima. Cilj je različit - profit za Google i politička kontrola za kinesku KP, ali alati i vizija društva su u potpunosti jednaki.
Silicon Valley paradoksalno tvrdi da je napredna. Jesmo li u scenariju à la Frankenstein sa kreaturom koja je umakla svom stvoritelju?
- Silicon Valley je ekosustav u kojem ekstremno sofisticirana tehnologija koegzistira sa zapanjujućim političkim i kulturnim siromaštvom. Dovoljno je pogledati glavne aktere sustava: marke zuckerberge, jeffove bezose, elone muske. Njihov kapacitet da stave tehnologiju u službu neograničene volje za moći, koja ide tako daleko da žele privatizirati svemir i pobijediti smrt, može samo impresionirati obične smrtnike kakvi mi jesmo. S druge strane, čim se upuste na teren politike, ili čak jednostavno na onaj njihovih odnosa sa drugima ili njihove životne filozofije, nama je zbog njih neugodno, njihove su ideje do te mjere naivne i pojednostavljene. Neki za sebe kažu da su progresivni, drugi više liberterijanci, ali sve ih ujedinjuje izvjestan oblik oholosti - ideja da stvaraju svijet na svoju sliku i priliku - što ih čini fundamentalno ravnodušnim prema političkim i društvenim reperkusijama njihovog djelovanja.
Društvene mreže su najprije bile predstavljene kao demokratski alat i istinski su unijele izvjestan pluralizam u zatvoreni medijski prostor, da ne spominjemo njihovu pozitivnu ulogu u arapskim revolucijama ili danas u Iranu. Možemo li ih kontrolirano koristiti uprkos pojavi umjetne inteligencije?
- Nemamo izbora. U toku svoje povijesti, naše su demokracije uspostavile uređen javni prostor, koji garantira poštivanje temeljnih ljudskih i političkih prava. Ali čim zakoračimo u digitalnu dimenziju, to je kao da smo u Jemenu ili u Somaliji, propaloj državi gdje čak ni najelementarnija demokratska prava nisu zagarantirana. Jedan, sve značajniji dio naše javne debate, odvija se u dekadentnom sustavu kojim upravljaju digitalni feudalci.
Digitalni barbari
Kroz oblik psihološke podložnosti dopustili smo se uvjeriti da se tu nema šta poduzeti. Da je naša sudbina pasivno prihvatiti da horde novog digitalnog barbarstva raskomadaju naša najelementarnija načela civilizirane koegzistencije. U suštini - nije tako. Svako društvo ima mogućnost - čak i dužnost - prilagoditi nove tehnologije vrijednostima i principima koji uređuju njegovo funkcioniranje. Uprkos njihovim razlikama, europska društva imaju zajednički društveni i politički model, građanske koegzistencije, i rekao bih čak kvaliteta života, koji ih istovremeno razlikuje od novih autoritarnih carstava, Kine i Rusije, i od američkog utilitarizma. Ako smo privrženi tom modelu, jedini način da mu zajamčimo budućnost je da ga prilagodimo digitalnoj dimenziji, sa sviješću da je izazov, kojeg predstavljaju društvene mreže - ništa, u poređenju sa onim što nas čeka u vremenu umjetne inteligencije.
(Sa francuskog prevela Nada Zdravič)
