Koliko energije košta svaki upit Chat GPT-u

Autor: N. D. Objavljeno: 16.01.2025. 🕜 12:45 Lokacija: Zagreb
  • Tipkovnica računala (izvornik: Liv Friis-Larsen / Shutterstock, 2007.)

• računala, programiranje
    Izvor: Liv Friis-Larsen / Shutterstock

Ekološkije je pitati Google, koji troši deset puta manje električne energije od umjetne inteligencije

Potrošnja električne energije sustava umjetne inteligencije vrtoglavo je porasla. Novo izvješće otkrilo je da bi godišnja količina električne energije potrebna samo za ChatGPT, jedan od najvećih takozvanih jezičnih modela, mogla napuniti 95% električnih vozila u Sjedinjenim Državama ili opskrbiti Finsku ili Belgiju cijeli jedan dan. 

OpenAI-jev ChatGPT-ove mogućnosti, od izrade eseja do rješavanja složenih matematičkih problema i pisanja koda, su impresivne, ali dolaze s velikim troškom energije, napisao je BestBrokers u novom izvješću. Svaki ChatGPT upit troši procijenjenih 2,9 Wh električne energije, gotovo deset puta više od standardnog Google pretraživanja. BestBrokers je izračunao da ChatGPT troši više od milijarde kWh godišnje, što košta oko 139 milijuna USD računano po prosječnoj komercijalnoj cijeni električne energije u SAD-u od 0,132 USD po kWh. 

Svaki ChatGPT upit troši procijenjenih 2,9 Wh električne energije, gotovo deset puta više od standardnog Google pretraživanja. Početkom prosinca OpenAI je objavio na X da se ChatGPT sada može pohvaliti s 300 milijuna aktivnih korisnika tjedno, dvostruko više od broja koji je izvijestio CEO Sam Altman u rujnu 2023. Štoviše, tih 300 milijuna korisnika generira 1 milijardu upita dnevno.

 
Kompleksniji upit = više energije

 

Za obradu ovih upita i generiranje odgovora, chatbot koristi otprilike 2,9 milijuna kWh svaki dan. Konteksta radi, prosječno kućanstvo u SAD-u troši oko 29 kWh električne energije dnevno. To znači da ChatGPT troši 100 tisuća puta više energije nego tipično kućanstvo.

Podnošenje upita (prompta) AI modelu kao što je ChatGPT poznato je kao zaključivanje. Potrošnja energije ovisi o mnogim varijablama kao što su duljina upita, broj korisnika i učinkovitost modela. Tim tvrtke grubo je izračunao ukupnu godišnju potrošnju električne energije samo za generiranje odgovora. ChatGPT troši 226,8 GWh svake godine za obradu 78 milijardi upita. Dovoljan je za potpuno punjenje oko 3,13 milijuna električnih vozila, od kojih svako ima prosječni kapacitet baterije od 72,4 kWh, navodi se u prezentaciji. To bi bilo 95% električnih automobila na američkim cestama krajem 2023.

Drugim riječima, tolika količina električne energije, za obradu zahtjeva, također bi mogla napajati 21.602 domova u zemlji cijelu godinu ili 0,02% od ukupnog broja. 

TAGOVI