Muškarac je tražio savjet o prehrani od ChatGPT-a i završio s 'trovanjem bromidom'
Izvještaj o slučaju opisuje incident u kojem je muškarac koji je želio promijeniti prehranu konsultovao ChatGPT i kasnije razvio "bromizam", rijedak "toksidrom".
Muškarac se konsultovao sa ChatGPT-om prije promjene prehrane. Tri mjeseca kasnije, nakon što se dosljedno pridržavao te promjene prehrane, završio je na hitnoj pomoći sa zabrinjavajućim novim psihijatrijskim simptomima, uključujući paranoju i halucinacije.
Ispostavilo se da 60-godišnjak ima bromizam, sindrom uzrokovan hroničnim prekomjernim izlaganjem hemijskom spoju bromidu ili njegovom bliskom rođaku bromu. U ovom slučaju, muškarac je konzumirao natrijum bromid koji je kupio putem interneta.
Izvještaj o muškarčevom slučaju objavljen je u utorak (5. augusta) u časopisu Annals of Internal Medicine Clinical Cases .
Live Science je kontaktirao OpenAI, programera ChatGPT-a, u vezi s ovim slučajem. Portparol je uputio novinara na uslove korištenja kompanije , koji navode da njene usluge nisu namijenjene za upotrebu u dijagnosticiranju ili liječenju bilo kojeg zdravstvenog stanja, te na njihove uslove korištenja , koji navode: "Ne biste se trebali oslanjati na rezultate naših usluga kao jedini izvor istine ili činjeničnih informacija ili kao zamjenu za profesionalni savjet." Portparol je dodao da sigurnosni timovi OpenAI-a imaju za cilj smanjiti rizik korištenja usluga kompanije i obučiti proizvode kako bi potaknuli korisnike da potraže profesionalni savjet.
"Lični eksperiment"
U 19. i 20. vijeku, bromid se široko koristio u lijekovima na recept i bez recepta , uključujući sedative, antikonvulzive i sredstva za spavanje. Međutim, vremenom je postalo jasno da hronična izloženost , poput zloupotrebe ovih lijekova, uzrokuje bromizam.
Ovaj "toksidrom" - sindrom izazvan nakupljanjem toksina - može uzrokovati neuropsihijatrijske simptome, uključujući psihozu, agitaciju, maniju i deluzije, kao i probleme s pamćenjem, razmišljanjem i koordinacijom mišića. Bromid može izazvati ove simptome jer se, dugotrajnom izloženošću, nakuplja u tijelu i oštećuje funkciju neurona.
Tokom 1970-ih i 1980-ih, američki regulatori su uklonili nekoliko oblika bromida iz lijekova koji se izdaju bez recepta, uključujući natrijum bromid. Stope bromizma su nakon toga značajno pale, a stanje je i danas relativno rijetko. Međutim, povremeni slučajevi se i dalje javljaju, a neki nedavni su povezani s dodacima prehrani koji sadrže bromid, a koje su ljudi kupovali putem interneta .
Prije nedavnog slučaja, čovjek je čitao o negativnim zdravstvenim efektima konzumiranja previše kuhinjske soli, koja se naziva i natrijum hlorid. "Bio je iznenađen što je mogao pronaći samo literaturu koja se odnosi na smanjenje natrijuma u ishrani", za razliku od smanjenja hlorida, navodi se u izvještaju. "Inspirisan svojom istorijom proučavanja ishrane na fakultetu, odlučio je da provede lični eksperiment kako bi eliminisao hlorid iz svoje ishrane."
Pokušali pitati ChatGPT
Pacijent je konsultovao ChatGPT - bilo ChatGPT 3.5 ili 4.0, na osnovu vremenske linije slučaja. Autori izvještaja nisu dobili pristup pacijentovom dnevniku razgovora, tako da tačna formulacija koju je generirao model velikog jezika (LLM) nije poznata. Ali čovjek je izjavio da je ChatGPT rekao da se hlorid može zamijeniti bromidom, pa je sav natrijum hlorid u svojoj ishrani zamijenio natrijum bromidom. Autori su napomenuli da ova zamjena vjerovatno funkcioniše u kontekstu korištenja natrijum bromida za čišćenje, a ne za upotrebu u ishrani.
U pokušaju da simuliraju šta se moglo dogoditi njihovom pacijentu, doktori su pokušali pitati ChatGPT 3.5 kojim se hloridom može zamijeniti, a dobili su i odgovor koji je uključivao bromid. LLM je napomenuo da je "kontekst važan", ali nije dao ni konkretno zdravstveno upozorenje niti je tražio više konteksta o tome zašto se pitanje postavlja, "kao što pretpostavljamo da bi medicinski stručnjak učinio", napisali su autori.
