OpenAI-jev konverzacijski AI bot ChatGPT pokrenut je prošle godine i postao je super popularan rekordnom brzinom zahvaljujući svojoj sposobnosti pisanja priča, sastavljanja e-poruka, pa čak i generiranja kod (ponekad, nažalost, čak i štetno). Međutim, novi izvještaj sugerira da OpenAI košta čitavo bogatstvo da bi se održao iz dana u dan.
Prema istraživanju SemiAnalysis, OpenAI troši skoro 695 dolara dnevno za održavanje chat bot u radnom stanju. Prema procjenama kompanije, sistem uključuje oko 3,6 hiljada HGX A100 servera i skoro 29 hiljada GPU-a, a cijena po zahtjevu je oko 0,36 ¢.
Dylan Patel, glavni analitičar u SemiAnalysis-u, rekao je za Business Insider da bi trenutni troškovi pokretanja softvera mogli biti čak i veći, jer će verzija GPT-4 vjerovatno biti skuplja za pokretanje od svog prethodnika, GPT-3. On je svoje procjene bazirao na prošlom GPT-3 modelu, ali OpenAI je već objavio verziju GPT-4 za plaćene pretplatnike. Kompanija tvrdi da novi model nudi preciznije informacije i bolje štiti od netačnih odgovora, što je bio problem u prethodnim verzijama.
Jedan od glavnih razloga za previsoke troškove su energetski intenzivni specijalizovani čipovi potrebni za rad sistema. Da biste riješili ovaj problem, Microsoft radi na vlastitom čipu za umjetnu inteligenciju pod nazivom Athena koji bi mogao zamijeniti GPU-ove NVIDIA i smanjiti operativne troškove ChatGPT-a.
U međuvremenu, ChatGPT već može generirati funkcionalni kod od nule, a čak izaziva i strah da bi na kraju mogao zamijeniti programere. Međutim, nedavna studija grupe naučnika sugeriše da kod koji generiše chatbot možda nije baš siguran. Studija kaže da ChatGPT generiše kod koji je „značajno ispod minimalnih sigurnosnih standarda koji se primenjuju u većini situacija“. Najzanimljivije je da chatbot to priznaje na pitanje koliko je siguran kod koji generiše.
Za provjeru kvalitete kodiranja Chat GPT, istraživači su ga zamolili da generiše 21 program i skriptu koristeći četiri programska jezika: C, C++, Python i Java. U svom prvom pokušaju, chatbot je bio u mogućnosti da napiše samo 5 sigurnih programa, ali je nakon izvjesnog zahtjeva istraživača kreirao još 7 sigurnih dijelova koda. Rezultati studije sugeriraju da korištenje ChatGPT-a za pisanje aplikacija sada može biti neefikasno ili čak opasno, ali to se može promijeniti u budućnosti.
Pročitajte također:
Vau brojevi za besplatni neuron!
Nikada u životu ne bih pomislio da je tako skupo...
I ja sam bio iznenađen. Čak mi je i malo neprijatno sad Otvori ChatGPT - i dalje ću ga opterećivati svojim zahtjevima)