Spotřeba energie AI: trénink, provoz a datová centra

Spotřeba energie AI je téma, o kterém se mluví stále častěji, a není divu. Každá odpověď chatbota, každý vygenerovaný obrázek a každý přeložený dokument vznikají ve výkonných počítačích, které potřebují elektřinu a chlazení. V tomto článku se podíváme, kde přesně energetická náročnost umělé inteligence vzniká, proč se odhady tolik rozcházejí a co můžete jako uživatel nebo firma udělat pro to, abyste AI používali rozumně. Širší souvislosti, tedy jak AI naopak pomáhá chránit klima, najdete v článku AI a klimatická změna.

Proč umělá inteligence vůbec spotřebovává energii

Moderní AI modely, například ty, na kterých stojí ChatGPT, Claude nebo Gemini, jsou ve skutečnosti obrovské matematické struktury. Když jim položíte otázku, počítač musí provést ohromné množství násobení a sčítání, aby z nich vznikla odpověď. Tyto výpočty běží na specializovaných čipech, nejčastěji grafických kartách, které jsou pro tento typ práce mnohem rychlejší než běžné procesory.

Čím je model větší a čím delší text zpracovává, tím víc výpočtů je potřeba. A každý výpočet znamená spotřebu elektřiny a vznik tepla, které je nutné odvést. Proto je spotřeba energie AI úzce spojená se dvěma věcmi: s velikostí modelů a s tím, kolik lidí je používá.

Trénink versus provoz: dvě fáze spotřeby energie AI

Při úvahách o ekologii AI je užitečné rozlišit dvě fáze života modelu.

Trénink modelu

Než model začne odpovídat, musí se naučit. Během tréninku prochází obrovské množství textů, obrázků nebo jiných dat a postupně ladí své vnitřní nastavení. Tato fáze trvá dlouho a probíhá na velkém počtu čipů současně. Je to jednorázová, ale velmi intenzivní zátěž. K tomu se přidávají pokusné tréninky, které nevedou k finálnímu modelu, a pozdější dolaďování. Jak trénink probíhá krok za krokem, vysvětlujeme v článku jak se trénují AI modely.

Provoz neboli inference

Když je model hotový, začne odpovídat uživatelům. Odborně se tomu říká inference. Jedna odpověď spotřebuje mnohem méně energie než celý trénink, jenže odpovědí jsou každý den nepředstavitelná kvanta. Navíc se modely stále častěji používají pro náročnější úlohy: dlouhé dokumenty, generování obrázků a videa, agenti, kteří samostatně provádějí řadu kroků, nebo režimy, kdy model před odpovědí dlouho „přemýšlí“. Všechno to znamená více výpočtů.

Z dlouhodobého hlediska proto nejde jen o to, kolik stál trénink jednoho modelu, ale hlavně o to, jak intenzivně a k čemu se pak používá.

Datová centra AI, chlazení a voda

Výpočty neprobíhají „v oblaku“, ale v konkrétních budovách plných serverů, tedy v datových centrech. Datová centra AI mají několik specifik:

• Vysoká hustota výkonu – servery s grafickými kartami vyzařují na malém prostoru hodně tepla.
• Chlazení – teplo je nutné odvádět. Používá se vzduchové chlazení, kapalinové chlazení přímo u čipů nebo odpařovací systémy. Některé způsoby chlazení spotřebovávají vodu, což je v suchých oblastech citlivé téma.
• Napájení a záložní zdroje – datové centrum potřebuje stabilní přívod elektřiny, a pokud vzniká nové velké centrum, může to vyžadovat posílení místní sítě.
• Zdroj elektřiny – výsledná uhlíková stopa AI závisí na tom, odkud elektřina pochází. Stejný výpočet může mít úplně jiný dopad v regionu s obnovitelnými zdroji a v regionu, kde převažuje uhlí.

Velcí poskytovatelé proto hledají lokality s dostupnou čistou energií, chladnějším klimatem nebo možností využít odpadní teplo, například pro vytápění budov.

Hardware: skrytá část uhlíkové stopy AI

Často se zapomíná, že energie se nespotřebovává jen při výpočtech. Výroba čipů, serverů a dalšího vybavení je sama o sobě náročná na suroviny, vodu i energii. Hardware navíc rychle zastarává, protože nové generace čipů jsou výkonnější a úspornější, takže se vybavení obměňuje častěji než u běžné kancelářské techniky. Do celkové stopy patří i doprava, stavba budov a nakonec recyklace nebo likvidace vyřazeného zařízení.

Proč se odhady spotřeby tolik liší

Pokud jste narazili na články, které uvádějí, kolik energie spotřebuje jeden dotaz nebo kolik elektřiny „sní“ AI celosvětově, možná jste si všimli, že se čísla dramaticky liší. Má to několik důvodů:

1. Poskytovatelé nezveřejňují všechno. Přesná velikost modelů, vytížení serverů a spotřeba datových center často nejsou veřejné, takže výzkumníci musí odhadovat.
2. Různá metodika. Někdo počítá jen spotřebu čipů, jiný i chlazení, sítě, výrobu hardwaru nebo nevyužité kapacity.
3. Různé modely a úlohy. Krátká odpověď malého modelu a dlouhý rozbor velkého modelu se mohou ve spotřebě výrazně lišit.
4. Rychlý vývoj. Hardware i software se rychle zefektivňují, zároveň ale roste počet uživatelů a náročnost úloh. Odhad starý pár let už nemusí platit.

Na otázku, jaká je energie ChatGPT na jeden dotaz, tedy neexistuje jedna správná odpověď. Rozumné je dívat se na každé číslo kriticky a zjistit, co přesně zahrnuje.

Jak snížit spotřebu energie AI: tipy pro uživatele

I jako běžný uživatel můžete svou stopu ovlivnit, a často tím zároveň ušetříte čas.

• Pište jasné prompty. Dobře zadaný dotaz vede k použitelné odpovědi napoprvé, bez zbytečných opakování. Jak na to, vysvětlujeme v článku jak psát prompty pro AI.
• Nevolte vždy nejsilnější model. Na jednoduché přeformulování e-mailu nepotřebujete model určený pro složité uvažování. Při výběru pomůže článek jaký model ChatGPT vybrat.
• Generujte s rozmyslem. Obrázky a hlavně video jsou výrazně náročnější než text. Desítky variant „pro jistotu“ málokdy dávají smysl.
• Nevkládejte zbytečně dlouhé podklady. Pokud potřebujete shrnout jednu kapitolu, nevkládejte celou knihu.
• Používejte AI tam, kde přináší hodnotu. Na zjištění otevírací doby obchodu často stačí běžné vyhledávání.

Co mohou udělat firmy

Pro firmy, které AI nasazují ve větším rozsahu, je ekologie AI zároveň otázkou nákladů.

• Menší a specializované modely. Pro třídění e-mailů, výtah informací z faktur nebo odpovědi na časté dotazy často stačí menší model, který je rychlejší, levnější a úspornější.
• Lokální modely. Vlastní server s otevřeným modelem dává kontrolu nad daty i nad tím, jaký hardware a zdroj energie se používá. Více najdete v článku open source AI modely a na stránce AI server pro firmy.
• Vyrovnávací paměť a opakované odpovědi. Pokud se zákazníci ptají stále na totéž, není nutné odpověď pokaždé generovat znovu.
• Výběr poskytovatele. Při výběru cloudové služby se ptejte na zdroje energie a umístění datových center.
• Měření. Sledujte, které procesy AI skutečně využívají a jaký přinášejí užitek. Co se neměří, to se těžko optimalizuje.

Pokud řešíte, jak AI ve firmě nastavit efektivně, můžete využít AI konzultaci.

Závěr

Umělá inteligence energii spotřebovává a s rostoucím používáním je to téma, které nelze přehlížet. Zároveň ale neplatí jednoduché poučky ani dramatická čísla vytržená z kontextu. Rozhoduje velikost modelu, typ úlohy, hardware, chlazení a hlavně zdroj elektřiny. Nejvíc můžete ovlivnit tím, jak AI používáte: jasným zadáním, vhodnou volbou modelu a rozumnou mírou generování.

Chcete se naučit psát prompty, které vedou k dobré odpovědi napoprvé? Vyzkoušejte online kurz psaní promptů. Základní pojmy si můžete osvěžit v článcích co je hluboké učení a co je generativní AI.