AI datacentra narážejí na limit, který nejde vyřešit jen nákupem dalších čipů. Nový areál může mít peníze, pozemek i servery, ale připojení k elektrické síti dostane až ve chvíli, kdy se najde dostatečná výrobní a přenosová kapacita. Aliance kolem Emerald AI, Googlu, Nvidie a Anthropicu teď zkouší problém obejít jinak: nechtějí síť pouze posílit, ale část výpočetní spotřeby podle jejího stavu pružně řídit.
Oznámení navazuje na čerstvou zprávu o alianci pro AI datacentra. Její myšlenka se označuje jako demand response. Když je elektřiny ve špičce málo, datacentrum by dočasně odložilo nekritické úlohy, přesunulo část výpočtů do jiného regionu nebo snížilo odběr. Když se situace uklidní, práce by pokračovala.
Sto gigawattů není nový zdroj elektřiny
Emerald AI podle TechCrunchu tvrdí, že podobný přístup by mohl uvolnit až 100 gigawattů kapacity pro další připojené provozy. To je číslo, které zní jako záchrana celého problému. Jenže je důležité číst ho jako odhad potenciálu, ne jako nově vyrobenou elektřinu nebo garantovanou kapacitu, kterou mohou energetici zítra rozdat developerům.
Demand response nevykouzlí další elektrárny, vedení ani transformátory. Pouze mění okamžik, kdy se elektřina spotřebuje. Pokud datacentrum odloží trénink modelu z odpolední špičky na noc, síti to může výrazně pomoci. Pokud ale chybí dlouhodobá výroba nebo přenosové vedení v celém regionu, přesun úlohy problém jen odloží.
Podobný princip není nový. Google už dříve popsal přesouvání neurgentních výpočtů do hodin, kdy je k dispozici více solární a větrné energie. U AI se ale tento nápad dostává do ostřejšího střetu s ekonomikou výpočetního výkonu: GPU za miliony dolarů má běžet co nejvíc, ne čekat na lepší počasí nebo volnější síť.
Ne každý výpočet může počkat
Nejlépe se k pružnému řízení hodí dávkové úlohy. Patří sem například část tréninku, vyhodnocování modelů, generování syntetických dat, předpočítávání embeddingů nebo interní analýzy, u nichž nikdo nečeká na výsledek v řádu sekund. Takové úlohy lze plánovat, checkpointovat a v některých případech i přesouvat mezi datacentry.
Horší je to s inference pro uživatele. Chatbot, vyhledávač nebo API mají slíbenou odezvu a jejich provoz nelze jednoduše vypnout pokaždé, když se v síti objeví problém. Komplikované jsou také velké synchronní tréninkové běhy. Když vypadne část tisíců propojených akcelerátorů, nemusí se jen zpomalit jeden server – může se zhoršit využití celého clusteru nebo být nutný návrat k poslednímu checkpointu.
Proto bude rozhodovat detailní rozdělení práce, ne marketingová nálepka flexibilní datacentrum. Provozovatel sítě musí vědět, kolik výkonu lze skutečně uvolnit, na jak dlouho a s jakou jistotou. Provozovatel datacentra zase potřebuje zaplaceno za to, že část svého drahého hardwaru nepoužije v okamžiku, kdy by na něm mohl vydělávat.
Kdo zaplatí za poslušné datacentrum?
Tady se z technického triku stává obchodní a politický problém. Pokud datacentrum díky flexibilitě dostane připojení rychleji, část nákladů může nést provozovatel sítě, stát nebo ostatní odběratelé. Pokud bude firma odměňována za snižování odběru, musí být jasné, zda skutečně snížila spotřebu, nebo jen přesunula výpočet do jiné oblasti, kde problém pokračuje pod jiným názvem.
Aliance mluví také o omezení potřeby záložních dieselových generátorů. To může být užitečný vedlejší efekt, ale samo o sobě to neřeší emise ani místní dopady výstavby. Datacentrum stále potřebuje obrovské množství energie, chlazení, přenosové kapacity a hardware, který se bude obměňovat. O flexibilitě je proto férové mluvit jako o nástroji pro zvládání špiček, ne jako o odpovědi na celou energetickou bilanci AI.
Muskův útěk do vesmíru řeší jiný problém
Druhá cesta je mnohem dramatičtější: pokud na Zemi není dost místa, energie nebo ochoty stavět další datacentra, proč je neposlat na oběžnou dráhu? Muskova vize orbitálních datacenter stojí na jednoduché představě: ve vesmíru je prostoru dost a solární panely tam mohou podle zvolené oběžné dráhy využívat dlouhé úseky slunečního osvitu.
To je ovšem zatím hlavně infrastrukturní vize, ne běžně dostupná alternativa k pozemnímu areálu. Kolem orbitálního počítání vznikají konkrétní firmy a projekty – například Starcloud získal peníze na vývoj AI satelitů – ale existence startupu nebo oznámeného satelitu ještě neznamená, že lze na orbitě levně provozovat výpočetní továrnu v měřítku dnešních datacenter.
První potíž je chlazení. Vakuum není obří klimatizace. NASA popisuje tepelnou regulaci malých kosmických systémů jako samostatný konstrukční problém, protože ve vakuu nefunguje konvekce vzduchem. Teplo ze serverů je nutné odvádět hlavně radiátory. U výpočetního systému s výkonem v řádu megawattů by radiátory nebyly drobným doplňkem, ale jednou z hlavních částí celé konstrukce.
Druhá potíž je datový provoz. AI trénink potřebuje dostat na místo obrovské datasety a synchronizovat práci mnoha akcelerátorů. Inference zase potřebuje stabilní spojení s uživateli a službami na Zemi. Komunikační architektura kosmických systémů může být pro satelitní úlohy dostačující, ale to ještě neznamená, že nahradí optickou páteř připojenou přímo k pozemnímu datacentru.
Pak je tu servis, radiace a rychlé stárnutí čipů. Pozemní server lze vyměnit během odstávky a celý areál průběžně rozšiřovat. Na orbitě potřebujete redundanci, ochranu elektroniky, robotickou nebo lidskou údržbu a způsob, jak starý hardware bezpečně nahradit. To je nepříjemná kombinace pro AI, kde se akcelerátory mění rychleji než velká část kosmické infrastruktury.
Co je realističtější?
Porovnání těchto dvou nápadů je vlastně srovnáním dvou časových horizontů. Demand response se dá testovat na existujícím datacentru, s existujícím softwarem a smlouvou s provozovatelem sítě. Neodstraní nedostatek energie, ale může zmenšit špičky a uvolnit část kapacity, která by jinak zůstala ležet jako rezerva.
Orbitální datacentrum by naopak muselo vytvořit úplně nový průmyslový řetězec: levné a časté starty, velké konstrukce, radiátory, komunikaci, radiační ochranu, servis a recyklaci. Veřejné nabídky kosmických startů mohou postupně zlevňovat dopravu nákladu, ale samotné vynesení serverů je jen začátek účtu. Každý kilogram navíc znamená nejen cenu startu, ale také konstrukci, napájení, chlazení a zálohování, které ho musí na orbitě udržet při životě.
Vesmír tedy nabízí prostor, ale ne automaticky levnější infrastrukturu. Demand response zase nabízí flexibilitu, ale ne novou elektrárnu. Pro příští roky je pravděpodobnější kombinace pozemních řešení: lepší umístění datacenter, smlouvy na čistou výrobu, baterie, přesouvání odložitelných úloh a menší energetická náročnost modelů. Orbitální výpočty mohou jednou dávat smysl pro specifické úlohy, ale jako únik před pozemskou energetikou jsou zatím spíš velmi drahým způsobem, jak problém přestěhovat.
