Představme si úřad, který slavnostně představí vlastního AI asistenta. Umí zdvořile odpovědět, vysvětlit formulář a napsat žádost. Jenže občan ji nakonec musí vytisknout, podepsat a odnést na přepážku, kde ji někdo znovu přepíše do jiného systému. Na tiskové konferenci jsme dohnali budoucnost. V čekárně zůstalo všechno při starém.
Právě proto stojí za pozornost dnešní komentář Nitina Paie o závodu o AI. Jeho hlavní námitka není, že se nemají vyvíjet lepší modely. Je to otázka, proč z jedné podoby technologické soutěže děláme jediný správný návod pro celou ekonomiku. Pro firmu prodávající modely je prvenství obchodní argument. Pro stát ještě není odpovědí na to, za co má utratit veřejné peníze.
Cílová páska, na které se nikdo neshodl
Pai v textu zveřejněném 19. října rozebírá představu, že první dosažení obecné umělé inteligence, tedy AGI, zajistí vítězi trvalou převahu. Podle něj chybí shoda na cíli i důkaz, že výhody zůstanou jen tomu prvnímu. Připouští přitom silný protiargument: AI by mohla pomáhat vytvářet lepší AI. Aby z toho ale vznikl nedostižný náskok, muselo by zlepšování dostatečně rychle růst, nešířit se ke konkurenci a nenarážet na klesající přínosy dalších investic.
To je argumentační komentář, nikoli experiment dokazující, že technologické prvenství nemá cenu. Pai také používá slovo závod úžeji, než ho používáme v běžné řeči. Firmy spolu samozřejmě soutěží o zákazníky, lidi i výpočetní kapacitu, i když žádná konečná páska neexistuje. Jeho užitečná námitka leží jinde: ze skutečné soutěže neplyne, že vítěz získá všechno a ostatním nezbude nic.
Podle nás je právě tento skok nejdražší částí celé metafory. Jestliže se prohlásí, že druhé místo znamená bezvýznamnost, přestává být nutné vysvětlovat konkrétní přínos investice. Stačí říct, že nesmíme zůstat pozadu. Takový argument se hodí skoro na jakoukoli částku a skoro na jakoukoli výjimku. Občanovi přitom neřekne, zda se rychleji dostane ke službě, kterou potřebuje.
Výrobce technologie a její uživatel nehrají stejnou hru
Pai svou úvahu vztahuje hlavně k Indii. Doporučuje jí soustředit veřejnou politiku na rychlé rozšíření a praktické využití AI, nikoli jen na soupeření se Spojenými státy a Čínou. To není hotový recept pro Česko. Je to ale dobrý důvod přestat směšovat průmyslovou ambici vybudovat silného dodavatele s ambicí zlepšit fungování země. Mohou se podporovat, nejsou však totožné.
Vlastní výzkum má smysl. Stejně tak dává smysl umět technologie provozovat, rozumět jejich omezením a nebýt vydaný napospas jedinému dodavateli. Z toho ale automaticky nevyplývá, že každý stát potřebuje model, který porazí všechny ostatní v globálním žebříčku. Veřejná investice musí vysvětlit, jakou schopnost získáme a proč ji nelze rozumněji zajistit jinak. Národní hrdost není měřítko kvality odpovědi ani smlouva o dostupnosti služby.
Užitečný doplněk nabízí Rahul Matthan v eseji The Absorption Frontier, kterou ORF zveřejnila 2. října. Tvrdí, že pro využití AI potřebuje organizace tři věci: srozumitelná data, možnost prostřednictvím systémů skutečně jednat a způsob, jak ověřovat výsledky. Je to navržený rámec, ne nezávisle změřený recept na hospodářský růst. Přesto pojmenovává přesně to, co se do slavnostního představení chatbota často nevejde.
Převedeno do normální řeči: počítač musí poznat, která informace platí, musí mít bezpečně vymezenou možnost něco udělat a někdo musí umět poznat, zda to udělal správně. Bez první podmínky dostaneme uhlazené odpovědi nad zmatkem. Bez druhé jen další poradnu. Bez třetí rychlejší výrobu chyb.
Pořádek v systémech se na plakát nevejde
Vraťme se k našemu úřadu. Jestliže se pravidla mění na několika stránkách a nikdo neví, která verze je platná, nový model nevyřeší správu dokumentů. Jestliže asistent umí žádost sestavit, ale nesmí zjistit její stav, občan se stejně musí ptát člověka. A jestliže může rovnou měnit záznamy, přibývá otázka oprávnění, kontroly a návratu chybné změny. Každá z těchto situací vyžaduje jiné rozhodnutí než nákup schopnějšího chatu.
Pro stát je to nepříjemná zpráva. Skutečná práce může znamenat sjednotit evidenci, odstranit duplicitní postup a určit odpovědnost mezi odbory. To stojí úsilí, zasahuje zavedené zvyky a nenabízí tak efektní fotografii jako nová technická kapacita. Bez toho však hrozí, že se veřejná správa pouze naučí rychleji vysvětlovat vlastní neprůchodnost.
Podobný rozdíl jsme rozebírali u nákladů a úspor AI ve Sporteze. Ušetřený čas není automaticky hotový finanční výsledek a kvalitní odpověď zákazníkovi závisí také na znalosti skutečného stavu objednávky. Firemní zkušenost není důkazem, jak dopadne digitalizace státu. Ukazuje ale dobře otázku, kterou má smysl klást v obou prostředích: co se po nasazení změnilo v celém procesu, nejen při vytváření první odpovědi?
Ani ověřování nesmíme zjednodušit na zelenou kontrolku. Matthan ve své eseji staví software do role oboru, který už má potřebnou infrastrukturu testů a verzování. To je užitečná inspirace, ale podle nás příliš široký závěr. Program, který se přeloží a projde připravenými testy, ještě nemusí bezpečně a správně řešit skutečnou potřebu. Test ověřuje to, na co se ptá; nevyplní sám mezery v zadání. U rozhodnutí s dopadem na člověka je tato hranice ještě důležitější.
Bezpečnost není univerzální omluvenka
Pai varuje také před tím, že závodní rétorika přesouvá technologická rozhodnutí do bezpečnostní a geopolitické roviny. Jeho kritika míří na situaci, kdy otázka národní převahy vytlačí soutěžní pravidla a kontrolu bezpečnosti. To neznamená, že všechny obavy o závislost nebo infrastrukturu jsou zástěrka. Znamená to, že samotné slovo bezpečnost nemá ukončit debatu o podmínkách zakázky.
Právě skutečná odolnost potřebuje mnohem konkrétnější odpovědi. Dokážeme službu přesunout, když dodavatel změní cenu? Máme přístup k vlastním podkladům a historii změn? Víme, kdo může systém vypnout a jak se pracuje při výpadku? Tyto otázky jsou podle nás pro provoz státu důležitější než pořadí modelu v testu, který s danou agendou nemusí souviset.
Stejně tak nesmíme zaměnit dostupnost dat pro AI s právem použít je na cokoli. Lépe propojené evidence mohou usnadnit užitečnou službu i chybný zásah. Rozsah oprávnění proto musí odpovídat konkrétnímu úkolu. Příslib vyšší produktivity není souhlas občana s libovolným přesouváním jeho údajů a není důvodem zrušit odpovědnost člověka, který o nasazení rozhodl.
Stát nemusí být první. Musí poznat, co si koupil
Pro české veřejné projekty bychom proto doporučili prostý test: před nákupem pojmenovat službu, kterou má změna zlepšit, a způsob, jak se pozná výsledek. U žádostí to může být doba vyřízení, počet oprav nebo množství případů, které se musí znovu otevírat. Součástí mají být i náklady na integraci a následnou kontrolu. To je naše redakční doporučení, nikoli metodika ověřená Paiovým komentářem.
Projekt, který uspěje, má dostat šanci růst. Projekt, který pouze vyrobí více textu a další práci pro kontrolory, nemá chránit politická prestiž. Zastavit špatné nasazení není prohra v závodě. Je to normální správa peněz. A používat cizí technologii dobře není automaticky méně hodnotné než vyvinout vlastní technologii, pro kterou se teprve hledá důvod existence.
Nejsilnější otázka tedy nezní, kdo jednou vyhraje AI. Zní, komu už dnes pomůže a kdo bude odpovídat, když nepomůže. Stát, který na ni umí odpovědět, nemusí vyhrát titulní stránky. Může ale ušetřit čas lidem, kteří na jeho služby čekají. To je mnohem lepší cíl než běžet za páskou, jejíž polohu si průběžně mění její prodejci.
