Šef OpenAI-a otkriva: Zašto ljubazne riječi prema ChatGPT-u donose milionske troškove?

Izvršni direktor OpenAI-a Sam Altman otkrio je da pristojnost prema ChatGPT-ju, poput izraza "molim" i "hvala", kompaniju košta milione dolara u operativnim troškovima.

Altman je odgovorio korisniku na X-u koji je pitao koliko je kompanija potrošila na struju zbog ljudi koji su ljubazni prema njihovim modelima. "Desetke miliona dolara dobro potrošenih — nikad ne znaš", odgovorio je Altman.

Izgleda da je neko gledao što je operativni sustav HAL učinio u filmu 2001: Odiseja u svemiru, pa odlučio biti pristojan prema svom AI pomoćniku. Stručnjaci su također otkrili da će chatbot vjerovatnije uzvratiti ljubaznošću ako mu se korisnik tako obrati, piše Index.hr.

Sudeći po Altmanovu šaljivom tonu, cifra od nekoliko desetaka miliona dolara vjerovatno nije precizna. Ipak, svaka poruka ChatGPT-ju, bez obzira koliko bila trivijalna ili besmislena, zahtijeva od AI modela da generira puni odgovor u stvarnom vremenu, zbog čega se oslanja na moćne računalne sustave, što povećava ukupno računalno opterećenje, a to, ipak, znači i masovnu potrošnju električne energije.

AI kao energetski potrošač budućnosti

AI modeli uveliko se oslanjaju na energiju pohranjenu u globalnim podatkovnim centrima, koji već sada troše oko 2 posto ukupne svjetske električne energije. Prema podacima Goldman Sachsa, svaki upit GPT-4 modelu troši oko deset puta više električne energije nego standardna Google pretraga.