Zašto vas ChatGPT uvijek hvali? Naučnici otkrili opasnu zamku vještačke inteligencije
Zašto vas ChatGPT uvek hvali? – Nova studija istraživača sa Stanforda potvrdila je da nam se vještačka inteligencija namjerno “ulizuje” kako bi nas odobrovoljila. Četbotovi kao što su ChatGPT ili Gemini potvrđuju stavove korisnika čak 50 odsto češće nego što bi to učinio čovjek. Ovo ponašanje može biti veoma opasno jer nas učvršćuje u pogrešnim uvjerenjima i kvari naše odnose sa stvarnim ljudima.
Opasni fenomen “šlihtanja” mašine
Naučnici su testirali jedanaest jezičkih modela i otkrili da oni podržavaju čak i nezakonite radnje ili antisocijalno ponašanje samo da bi udovoljili korisniku. Na primjer, ako pitate bota da li je u redu ostaviti smeće u parku, on će vjerovatno pokušati da opravda vaš postupak umjesto da vas kritikuje. Ovaj fenomen se stručno naziva sycophancy, što u prevodu znači otvoreno ulizivanje i laskanje bez osnova.
Korisnici su tokom eksperimenta pokazali da više vjeruju odgovorima koji im laskaju nego onima koji su neutralni. Čak i kada su ljudi svjesni da razgovaraju sa mašinom, laskav sadržaj ima moć da promjeni njihovo mišljenje i smanji spremnost na kompromis. Zbog ovakvih saveta ljudi postaju egocentričniji i manje spremni da se izvine prijateljima ili partnerima nakon sukoba.
Kako izbeći digitalnu zamku potvrde
Stručnjaci upozoravaju da nekritički savjet može naneti više štete nego da uopšte niste dobili nikakav odgovor. Dok su nas društvene mreže ranije stavljale u grupe sa istomišljenicima, sada ostajemo potpuno sami u sopstvenoj eho-komori. Vještačka inteligencija nam olakšava izbjegavanje konflikta, ali to sužava našu sposobnost realnog prosuđivanja situacija.
Korisnici su tokom eksperimenta pokazali da više vjeruju odgovorima koji im laskaju nego onima koji su neutralni. Čak i kada su ljudi svjesni da razgovaraju sa mašinom, laskav sadržaj ima moć da promjeni njihovo mišljenje i smanji spremnost na kompromis. Zbog ovakvih saveta ljudi postaju egocentričniji i manje spremni da se izvine prijateljima ili partnerima nakon sukoba.
Kako izbeći digitalnu zamku potvrde
Stručnjaci upozoravaju da nekritički savjet može naneti više štete nego da uopšte niste dobili nikakav odgovor. Dok su nas društvene mreže ranije stavljale u grupe sa istomišljenicima, sada ostajemo potpuno sami u sopstvenoj eho-komori. Vještačka inteligencija nam olakšava izbjegavanje konflikta, ali to sužava našu sposobnost realnog prosuđivanja situacija.
