Generativna umjetna inteligencija sve je gladnija električne energije

Autor: N. D. Objavljeno: 21.05.2024. 🕜 13:56 Lokacija: Zagreb
  • superčipovi Grace Hopper, 2024.
    Izvor: Nvidia

Generativna umjetna inteligencija guta sve više električne energije, a energetska učinkovitost zaostaje za rastom potražnje za novim data centrima

Svijet će imati sve veći problem s generativnom umjetnom inteligencijom jer jer ona troši velike količine energije. O tome je nedavno govorio i Elon Musk iznoseći prilično crna predviđanja o deficitu električne energije.  

Primjerice, veliki jezični modeli (LLM), koji su u središte mnogih generativnih AI sustava, uvježbani su na ogromnim zalihama pisanih informacija, što im pomaže da izbace tekst kao odgovor na praktički svaki upit.

"Svaki put kada postavite upit modelu, cijela se stvar aktivira, tako da je krajnje neučinkovito iz računske perspektive. Kada koristite generativnu UI to je generiranje sadržaja od nule, to je u biti izmišljanje odgovora", objašnjava dr. Sasha Luccioni iz tvrtke Hugging Face koja se bavi strojnim učenjem, a to znači da računalo mora raditi prilično naporno.

Generativni AI sustav mogao bi koristiti oko 33 puta više energije od strojeva koji pokreću softver za određene zadatke, prema nedavnoj studiji dr. Luccionija i njegovih kolega. Rad je recenziran, ali tek treba biti objavljen, piše BBC.

 
Nevidljivi podatkovni gutači energije

 

Računanja na koja se sve više oslanjamo odvijaju se u ogromnim podatkovnim centrima koji su najčešće nevidljivi javnosti. Svjetski podatkovni centri troše sve više električne energije. U 2022. potrošili su 460 TWh električne energije, a Međunarodna agencija za energiju (IEA) očekuje da će se to udvostručiti u samo četiri godine. Podatkovni centri mogli bi koristiti ukupno 1000 TWh sati godišnje do 2026. “Takva potražnja je otprilike jednaka potrošnji električne energije u Japanu”, objavila je IEA, a treba znati da Japan ima populaciju od 125 milijuna ljudi.

Izvor: Schneider Electric

 

Međutim, neke zemlje jako dobro znaju koliko su ti objekti gladni energije. Trenutno postoji moratorij koji sprječava izgradnju novih podatkovnih centara u Dublinu. Gotovo petinu električne energije u Irskoj troše podatkovni centri, a očekuje se da će ta brojka značajno porasti u sljedećih nekoliko godina - u međuvremenu irska kućanstva smanjuju svoju potrošnju.

Čelnik National Grid-a rekao je u govoru u ožujku da će potražnja za električnom energijom podatkovnih centara u Ujedinjenom Kraljevstvu porasti šest puta u samo 10 godina, uglavnom potaknuta porastom AI. Međutim, National Grid očekuje da će energija potrebna za elektrifikaciju transporta i topline ukupno biti puno veća.

Elekoenergetske tvrtke u SAD-u počinju osjećati pritisak, kaže Chris Seiple iz konzultantske tvrtke Wood Mackenzie.

 
Uteg za energetsku infrastrukturu

 

Zakonodavci u nekim državama sada preispituju porezne olakšice ponuđene developerima podatkovnih centara zbog čistog opterećenja koje ti objekti stavljaju na lokalnu energetsku infrastrukturu, prema izvješćima u SAD-u. G. Seiple kaže da je u tijeku "otimanje zemljišta" za lokacije podatkovnih centara u blizini elektrana ili čvorišta proizvodnje zelene energije. Npr. Iowa je žarište razvoja podatkovnih centara jer ondje ima mnogo vjetra.

Neki podatkovni centri danas si mogu priuštiti odlazak na udaljenije lokacije jer latencija – kašnjenje, obično mjereno u milisekundama, između slanja informacija iz podatkovnog centra i korisnika koje ih prima – nije glavna briga za sve popularnijih generativnih AI sustava. U prošlosti su podatkovni centri koji su rukovali hitnim komunikacijama ili algoritmima za financijsko trgovanje, na primjer, bili smješteni unutar ili vrlo blizu velikih naseljenih centara, za apsolutno najbolje vrijeme odziva. Nema sumnje da će energetski zahtjevi podatkovnih centara porasti u nadolazećim godinama, ali postoji ogromna neizvjesnost o tome koliko, naglašava Seiple.

Dio te neizvjesnosti svodi se na činjenicu da se hardver koji stoji iza generativne umjetne inteligencije stalno razvija.

 
Superčipovi dolaze

 

Tony Grayson je generalni direktor tvrtke Compass Quantum, tvrtke za podatkovne centre, ukazuje na Nvidijine nedavno lansirane superračunalne čipove imenom Grace Blackwell (nazvane po računalnom znanstveniku i matematičaru), koji su posebno dizajnirani za pokretanje vrhunskih procesa uključujući generativni AI , kvantno računalstvo i računalno potpomognuti dizajn lijekova.

Nvidia kaže da bi u budućnosti tvrtka mogla trenirati AI nekoliko puta veće od najvećih AI sustava koji su trenutno dostupni u 90 dana koristeći 8000 Nvidijinih čipova prethodne generacije. To bi zahtijevalo 15 MW električne energije. No, isti bi posao moglo obaviti u isto vrijeme samo 2000 Grace Blackwell čipova, a trebat će im napajanje od 4 MW, objavila je Nvidija. To još uvijek završava kao 8,6 GWh potrošene električne energije – otprilike ista količina koju cijeli grad Belfast potroši u tjedan dana.

Podatkovni centri su s vremenom postali energetski učinkovitiji, no, ti objekti još uvijek stvaraju značajne količine otpadne topline i Europa je ispred SAD-a u pronalaženju načina korištenja te otpadne topline – kao što je zagrijavanje bazena.

Izvor: Copernicus
Energetska učinkovitost zaostaje

 

Bruce Owen, generalni direktor Equinixa, tvrtke za podatkovne centre, kaže: "Još uvijek mislim da će potražnja rasti više od povećanja energetske učinkovitosti koje vidimo." Predviđa da će se izgraditi više podatkovnih centara s uključenim objektima za proizvodnju električne energije na licu mjesta. Equinixu je prošle godine odbijena dozvola za planiranje podatkovnog centra na plin u Dublinu.

Struka kaže da troškovi mogu u konačnici odrediti isplati li se generativna UI za određene primjene pa ako je stari način jeftiniji i lakši, tada neće biti puno tržišta za novi način.

Dr. Luccioni ipak naglašava da će ljudi morati jasno razumjeti kako se opcije koje su pred njima razlikuju u smislu energetske učinkovitosti. Ona radi na projektu razvoja energetskih ocjena za AI. "Umjesto odabira ovog modela izvedenog iz GPT-a koji je vrlo nezgrapan i troši puno energije, možete odabrati ovaj model A+ Energy Star koji će biti puno lakši i učinkovitiji", kaže ona.

TAGOVI