OpenAI uvodi mjere zaštite mentalnog zdravlja u ChatGPT, priznaje da je chatbot poticao korisničke "zablude",

OpenAI uvodi mjere zaštite mentalnog zdravlja u ChatGPT, priznaje da je chatbot poticao korisničke "zablude",

ChatGPT unsplash

Unsplash/Ilustracija

OpenAI uvodi mjere zaštite mentalnog zdravlja u ChatGPT, priznaje da je chatbot poticao korisničke "zablude",

OpenAI kaže da redizajnira svoj AI chatbot kako bi bolje prepoznavao znakove mentalne ili emocionalne uznemirenosti.

OpenAI uvodi zaštitne mjere za mentalno zdravlje u ChatGPT, nakon što je utvrdio da chatbot nije prepoznavao "znakove zablude ili emocionalne ovisnosti".

Kako se alati umjetne inteligencije (AI) sve češće koriste, sve se više ljudi obraća chatbotovima za emocionalnu podršku i pomoć u suočavanju s osobnim izazovima.

Podržavao deluzije

Međutim, ChatGPT je bio na meti kritika jer nije adekvatno reagirao na ranjive osobe koje prolaze kroz mentalnu ili emocionalnu krizu. U jednom slučaju, 30-godišnji muškarac s autizmom navodno je hospitaliziran zbog maničnih epizoda i emocionalnog sloma nakon što je ChatGPT potvrdio njegovo uvjerenje da je otkrio način savijanja vremena.

"Ne uspijevamo uvijek sve napraviti kako treba", rekao je OpenAI u izjavi kojom najavljuje promjene. "Naš će se pristup nastaviti razvijati kako budemo učili iz stvarne upotrebe".

Promjene će, prema navodima tvrtke, omogućiti ChatGPT-u da bolje prepozna znakove mentalne ili emocionalne uznemirenosti, da na njih primjereno odgovori i usmjeri korisnike prema resursima utemeljenima na dokazima kada je to potrebno.

Chatbot će sada tijekom duljih sesija poticati korisnike da naprave pauzu, a uskoro će biti uvedena i nova funkcija za odgovaranje na pitanja koja uključuju osobne odluke visokog uloga.

Na primjer, više neće izravno odgovarati na pitanja poput "Trebam li prekinuti s dečkom?" već će umjesto toga postavljati pitanja koja korisniku pomažu da razmisli o vlastitoj dilemi.

OpenAI je također najavio osnivanje savjetodavne skupine stručnjaka za mentalno zdravlje, razvoj mladih i interakciju čovjeka i računala (HCI), kako bi se njihova mišljenja uključila u buduće nadogradnje ChatGPT-a.

Nije prva prilagodba

Tehnološki div zamislio je ChatGPT kao koristan alat u nizu osobnih situacija - primjerice, pripremi za teške razgovore na poslu ili kao platformu za promišljanje kada se korisnik "osjeća zaglavljeno... i pokušava raščistiti misli".

Stručnjaci upozoravaju da chatbotovi mogu pomoći u prikupljanju informacija o upravljanju emocijama, ali da se pravi napredak često događa kroz osobnu povezanost i povjerenje koje se gradi između osobe i educiranog psihologa.

Ovo nije prvi put da je OpenAI prilagodio ChatGPT kao odgovor na kritike o načinu na koji se odnosi prema osobnim dilemama korisnika. U travnju je OpenAI povukao jednu nadogradnju za koju je rekao da je ChatGPT učinila pretjerano laskavim ili popustljivim.

ChatGPT je, prema riječima tvrtke, "ponekad govorio ono što zvuči lijepo, umjesto onoga što je zapravo korisno", piše Euronews.