Algoritmi koji predviđaju sudbinu: Novi etički i metodološki izazovi

Algoritam mašinskog učenja pod nazivom life2vec koji su napravili istraživači iz Danske predviđao je ishod života i postupke osobe kada mu se pruže visokospecifični podaci o toj osobi. To pokreće pitanje etike algoritama. Kritičari upozoravaju na potencijalnu zloupotrebu takvih algoritama u osiguranju, ali i ističu da predviđanje života može ukloniti misteriju i vrijednost življenja.

Zloupotreba algoritma

Postoje etički i metodološki izazovi, uključujući ograničenje podataka na danskim demografskim karakteristikama i nedostatak pristupa podacima najugroženijih. Objavljena u časopisu Nature Computational Science, pod naslovom “Using sequences of life-events to predict human lives”, 18. decembra 2023. studija istražuje povezanost između podataka iz stvarnog života i predviđanja budućnosti putem AI algoritma.

Ljude su uvijek privlačili oni koji proriču sudbinu. Treba priznati jedno - većina nas nekad pročita horoskop čak i ako nam je to totalni BS. Ali šta ako bismo imali “naučno kreiran horoskop”?

Ovaj algoritam, koji je analizirao ogromnu količinu podataka, pokazao je sposobnost predviđanja životnih ishoda s impresivnih 78% tačnosti. On nije samo predvidio dohodak tokom života pojedinca već je takođe identifikovao faktore koji povećavaju rizik od prijevremene smrti, uključujući niski prihod, dijagnozu mentalnog zdravlja i muški pol.

Problem s ovim algoritmom je u tome, kao uostalom za sve algoritme, što je on onoliko dobar koliko su dobri podaci koje mu date. Ako mu date smeće - produciraće smeće. Još jedan problem je i to kako bi se u budućnosti ovaj algoritam mogao koristiti. Da li bi se koristio u cilju da pomogne ljudima da smanje rizik obolijevanja od neke bolesti i promijene svoje ponašanje ili bi doprinio jačanju algoritamske pristranosti u kojoj bi se koristio prilikom zapošljavanja ili davanja osiguranja?

Sune Lehmann, vodeći autor spomenute studije i profesor Tehničkog univerziteta Danske, izjavio je: “S tim podacima možemo napraviti bilo kakva predviđanja”. Međutim, istraživači napominju da je to “istraživački prototip” i da trenutno nije sposoban obavljati “stvarne zadatke”.

Lehmann i njegovi koautori koristili su podatke iz nacionalnog registra u Danskoj koji detaljno opisuje raznovrsnu grupu od 6 miliona ljudi. Uključili su informacije od 2008. do 2016. o ključnim aspektima života poput obrazovanja, zdravlja, prihoda i zanimanja. Inače, Danska je poznata upravo po pažljivo vođenim nacionalnim i zdravstvenim registrima, pa stoga oni rade dosta longitudinalnih studija. Prosto imaju uredne i dostupne podatke. U zemljama gdje podaci nisu ovako dobro arhivirani i ne vode se dobro, model bi imao značajno lošije pretpostavke da bude visokoprecizan.

Istraživači su prilagodili tehnike obrade jezika i generisali vokabular za događaje u životu kako bi life2vec mogao tumačiti rečenice na temelju podataka. Algoritam je zatim učio iz tih podataka i bio je sposoban predviđati određene aspekte života ljudi, uključujući to kako bi mogli razmišljati, osjećati se i ponašati, pa čak i hoće li osoba možda umrijeti u narednim godinama.

Da bi predvidio kada bi neko mogao umrijeti, tim je koristio podatke od 1. januara 2008. do 31. decembra 2015. o grupi od preko 2,3 miliona ljudi od 35 do 65 godina. Life2vec je koristio podatke kako bi zaključio vjerovatnost preživljavanja osobe u četiri godine nakon 2016.

Algoritam je pravio pojedinačna predviđanja o tome je li neko živio nakon 2016. godine. Rezultati su bili impresivni: algoritam je bio tačan u 78% slučajeva. Life2vec je također nadmašio druge modele i osnovne modele za najmanje 11%, predviđajući smrtonosne ishode preciznije, navodi izvještaj. Muškarci su bili skloniji umiranju nakon 2016.

Biti stručnjak poput inženjera ili imati dijagnozu mentalnog problema poput depresije ili anksioznosti također je dovodilo do ranije smrti, zaključili su istraživači. S druge strane, biti na menadžerskoj poziciji ili imati visok prihod često je guralo ljude prema “preživjeti” stupcu. Logično i očekivano. Nije da to nismo znali bez algoritma.

Međutim, istraživanje ima nekoliko ograničenja. Eksperimenti nisu bili randomizirani, niti je rađena dvostruka slijepa proba. Istraživači su pregledali samo podatke u osmogodišnjem razdoblju, ali može biti sociodemografskih pristranosti u uzorkovanju iako se svaka osoba u Danskoj pojavljuje u nacionalnom registru.

Predvidjeti rizike

Istraživanje je provedeno u bogatoj zemlji s jakom infrastrukturom i zdravstvenim sistemom. Nejasno je mogu li se life2vecova saznanja primijeniti u drugim zemljama poput Sjedinjenih Američkih Država, s obzirom na njihove ekonomske i društvene razlike. Ili na Bosnu i Hercegovinu ili Sudan.

Life2vec ne predviđa u kojoj dobi će osoba umrijeti ili kako. Ne može predvidjeti hoće li osoba poginuti u prometnoj nesreći. Može predvidjeti rizike povezane s kraćim životnim vijekom poput navika koje skraćuju život (alkohol, pušenje) ili procijeniti rizik mentalnih bolesti, ali ne može predvidjeti nesreće. Također, ne može predvidjeti ni da neko kod koga je povećan rizik ipak donese odluku da usvoji zdravije životne navike ili prosto igrom slučaja ne dopadne u lošu stranu statistike.

No da li ovakvi algoritmi oduzimaju iz života misteriju? Ne zaboravimo - ni horoskopi i drugi načini predviđanja života nisu uništili tananu misteriju življenja. A čak i astrolozi kažu da je moguće da neka naša odluka promijeni tok i da se proreknuto ne ostvari.

AI neće nikad moći predvidjeti neke slučajne događaje i odstupanja, slučajnosti i rijetke događaje u našim životima. Ali problem je u tome što bi se birokrate mogle osloniti na ovakva predviđanja i onda bismo mogli imati slučajeve da jednostavno ljudi postaju zarobljenici svoje kaste - da ne mogu izaći iz svojih životnih okolnosti, bez obzira na individualni potencijal, jer je algoritam dao neka predviđanja koja su utjecala na to da li će tu osobu primiti na studij, dati joj osiguranje ili je primiti na posao.

Napomena: Naslovna slika je generisana pomoću AI-ja.