Priča o spasenju kroz mašine: Ako u budućnosti nema mjesta za čovjeka kakav jeste - za koga se ona, zapravo, gradi?

Zamislite da vam neko kaže da budućnost čovječanstva ne zavisi od toga hoćemo li smanjiti nejednakosti, riješiti klimatsku krizu ili učiniti društva pravednijim — nego od toga hoćemo li uspjeti da stvorimo superinteligentnu mašinu i pošaljemo je u svemir. Zvuči kao loš SF? Nažalost, za dio najmoćnijih ljudi u tehnološkoj industriji, to je vrlo ozbiljan plan.

AI evanđelisti

Upravo taj način razmišljanja opisuje pojam TESCREAL -akronim koji su skovali filozof Émile Torres i istraživačica Timnit Gebru kako bi imenovali jednu čudnu, ali utjecajnu ideološku mješavinu koja danas kruži Silicijskom dolinom. Nije riječ o jednoj teoriji ili pokretu, nego o svjetonazoru koji dijele neki od najpoznatijih tehnoloških milijardera i AI evanđelista: Elon Musk, Peter Thiel, Sam Altman i njima slični.

TESCREAL je sastavljen od sedam ideja: transhumanizma, ekstropijanizma, singularitarianizma, kosmizma, racionalizma, efektivnog altruizma i longtermizma. TESCREAL obuhvata skup ideja koje se nadovezuju jedna na drugu i zajedno grade specifičan pogled na budućnost: transhumanizam polazi od toga da se čovjek može i treba unaprijediti tehnologijom, poput implantata, genetičkih intervencija ili umjetne inteligencije, kako bi se prevazišla ograničenja tijela, bolesti i starenja. Ekstropijanizam taj stav radikalizira vjerovanjem u neprekidan tehnološki napredak i stalno samousavršavanje, pri čemu se sve prirodne granice posmatraju kao prepreke koje treba ukloniti; singularitarianizam dodaje ideju da je dolazak trenutka kada će umjetna inteligencija nadmašiti ljudsku inteligenciju neizbježan i poželjan, te da ga treba aktivno ubrzati.

Kosmizam širi fokus izvan Zemlje i tvrdi da je širenje inteligencije i života kroz svemir moralni cilj sam po sebi, čak i kada to potiskuje brigu za sadašnje čovječanstvo; racionalizam u ovom kontekstu podrazumijeva uvjerenje da se društveni i etički problemi mogu riješiti matematičkim modelima, proračunima i optimizacijom, često zanemarujući emocije, kulturu i političke odnose moći; efektivni altruizam nastoji maksimizirati dobro tako što računa gdje će resursi imati najveći učinak, ali pri tome često daje prednost apstraktnim, budućim koristima nad konkretnom patnjom ljudi danas. Na kraju, longtermizam tvrdi da su životi ljudi u dalekoj budućnosti moralno važniji od života sadašnjih generacija, pa se današnje žrtve mogu opravdavati u ime hipotetične dugoročne dobrobiti.

Ne morate ih sve zapamtiti - dovoljno je shvatiti zajedničku nit. A ona glasi otprilike ovako: čovjek kakav danas postoji nije naročito bitan. On je samo prelazna faza prema nečemu boljem, pametnijem i, naravno, tehnološki unaprijeđenom.

U tom narativu, nije presudno kako žive stvarni ljudi danas - s računima, bolestima, ratovima i brigama - već koliko vrijednosti možemo proizvesti u budućnosti. Ta vrijednost se ne mjeri srećom, dostojanstvom ili solidarnošću, nego količinom inteligencije, svijesti ili digitalnih umova koje bismo jednog dana mogli stvoriti. Drugim riječima: važniji su hipotetički budući entiteti nego stvarni ljudi od krvi i mesa.

Kakva je budućnost poželjna?

Neki od zagovornika ovih ideja sanjaju kolonije na Marsu, digitalne svjetove u koje ćemo uploadati svoju svijest ili superinteligentne AI sisteme koji će, navodno, riješiti sve probleme umjesto nas. Drugi idu i dalje, pa otvoreno govore da ljudska vrsta možda uopće ne treba preživjeti u sadašnjem obliku - jer će je zamijeniti nešto naprednije.

Problem s ovakvim razmišljanjem nije samo u tome što zvuči hladno i distopijski nego što ima stvarne posljedice. Ako vjeruješ da su budući trilioni digitalnih umova važniji od današnjih osam milijardi ljudi, onda postaje lakše opravdati nebrigu, nejednakost i žrtvovanje stvarnih života u ime apstraktne budućnosti. Socijalni problemi, radnička prava, javno zdravstvo ili obrazovanje postaju sporedne teme - jer velika slika, navodno, leži negdje daleko, u svemiru ili u serverima.

Kritičari TESCREAL-a upozoravaju da se iza jezika racionalnosti i “činjenja dobra” često krije elitizam: mali broj izuzetno bogatih i moćnih ljudi odlučuje kakva je budućnost poželjna, dok se glas običnih ljudi uopće ne pita. Još gore, humanizam - ideja da su ljudska bića sama po sebi vrijedna - u toj viziji postaje zastario koncept.

Na kraju, TESCREAL nije samo skup ideja o tehnologiji. To je mit našeg vremena: priča o spasenju kroz mašine, o bijegu od ljudske krhkosti i o svijetu u kojem se smisao života pretvara u inženjerski problem. Pitanje je samo jedno: ako u toj budućnosti nema mjesta za čovjeka kakav jeste - za koga se ona, zapravo, gradi?