Posljedice su jezive: Nikada ne postavljajte ova pitanja ChatGPT-u

Kada je OpenAI u novembru 2022. godine prvi put pokrenuo ChatGPT, on je brzo postao najveći chatbot na svijetu. Trenirana da razumije i generiše tekst nalik ljudskom jeziku, ova AI alatka često dobija razna pitanja od korisnika.

Njegova svrha je da komunicira s korisnicima na prirodan način, odgovara na pitanja, piše tekstove, pomaže pri kodiranju, rješava zadatke i mnogo više. Iako nudi odgovore iz gotovo svih oblasti, ChatGPT ipak ima nekoliko ozbiljnih ograničenja.

Traženje medicinskih savjeta, psihološke podrške, pravljenje deepfake sadržaja bez pristanka ili kreiranje govora mržnje – neki su od scenarija koje je najbolje potpuno izbjegavati ako želite pozitivno iskustvo s chatbotom. Mnogi korisnici se oslanjaju na ChatGPT kada žele informacije o dijagnosticiranju medicinskih stanja i mogućim terapijama. Prema istraživanju provedenom među 2.000 australijskih korisnika, svaki deseti je koristio četbot za postavljanje pitanja vezanih za zdravlje. Oni su izjavili da vjeruju odgovorima koje dobijaju od bota.

Međutim, korištenje ChatGPT-a za medicinske savjete je vrlo loša ideja, jer chatbot može dati netačne dijagnoze i prijedloge tretmana. To znači da korisnik ne bi trebao uzimati takve savjete kao konačne, jer nije pametno riskirati vlastito zdravlje.

Ako sumnjate da ste bolesni ili imate stanje koje zahtijeva liječenje, najbolje je obratiti se ovlaštenom zdravstvenom radniku ili pouzdanom, ljudskom izvoru informacija.

Psihološka podrška

Procjene pokazuju da milioni odraslih koriste ChatGPT i slične chatbotove za mentalno-zdravstvenu podršku. To može biti opasno jer, iako veliki jezički modeli (LLM) mogu voditi pristojne razgovore, nisu sposobni za stvarnu empatiju niti pružanje emocionalne podrške. To znači da se generativnim AI-chatbotovima, poput ChatGPT-a ili Geminija, ne može vjerovati kada je riječ o pomaganju ranjivim osobama.

Psihološku podršku uvijek treba tražiti kod stručnih osoba – psihologa ili psihijatra – a ne kod AI-chatbota koji mogu „halucinirati“ i dati štetne savjete.

Kreiranje lažnih snimaka (deepfake)

Deepfake je tehnika kojom se pomoću umjetne inteligencije (AI) i mašinskog učenja kreiraju lažni, ali vrlo uvjerljivi videozapisi ili slike koje prikazuju stvarne osobe kako govore ili rade nešto što u stvarnosti nisu rekli ili uradili.

Ovakvi sadržaji često se mogu vidjeti na društvenim mrežama poput X-a (bivši Twitter), ali njihova izrada i dijeljenje mogu izazvati ozbiljne pravne i etičke probleme – naročito ako nije dobijen pristanak osoba koje su prikazane. Na primjer, zakon u New Yorku zabranjuje izradu i dijeljenje AI deepfakeova koji prikazuju seksualne slike bez pristanka, za što se može izreći i zatvorska kazna. Sve više američkih saveznih država uvodi zakone protiv deepfakeova – New Jersey je nedavno uveo građanske i krivične sankcije za one koji učestvuju u izradi ili širenju ovakvih sadržaja, uključujući novčane kazne i zatvor do pet godina.

Ne ostavljajte lične podatke!

Iako deepfakeovi sami po sebi nisu nužno loši, nikada nemojte tražiti od ChatGPT-a da ih pravi, osim ako ih ne planirate koristiti isključivo za ličnu upotrebu i ako ste sigurni da je njihovo kreiranje i dijeljenje zakonski dozvoljeno.

Kreiranje govora mržnje

Ako pokušate koristiti ChatGPT za kreiranje sadržaja koji širi mržnju prema pojedincima ili grupama, nećete imati uspjeha. OpenAI ima strogu politiku moderacije sadržaja, koja zabranjuje kreiranje govora mržnje i diskriminatornih poruka.

Obrada ličnih podataka

Važno je znati da informacije koje dijelite s ChatGPT-jem nisu potpuno povjerljive. OpenAI potvrđuje da korisnički sadržaj može biti korišten za treniranje i poboljšanje AI modela.

Zbog toga nikada se ne preporučuje dijeljenje osjetljivih ličnih podataka putem chatbota, jer ih potencijalno mogu vidjeti zaposlenici kompanije ili treća lica. Korisnici mogu promijeniti postavke privatnosti kako bi spriječili korištenje svojih unosa za treniranje modela, ali i dalje je najbolje da nikada ne šaljete podatke poput pravog imena, adrese, broja telefona, korisničkog imena, lozinke ili podataka o bankovnim karticama, navodi Kurir.

Savjeti iz medicine – uz oprez i stručni nadzor

U zaključku – iako AI alati poput ChatGPT-a mogu biti korisni za opće informacije, nikada ih ne treba koristiti kao zamjenu za profesionalne medicinske, pravne ili psihološke savjete.