Donald Trump oznámil, že Spojené státy vytvoří AI Force a dostanou také nového AI cara. Jak jsme psali v dnešní rychlé zprávě, podrobnosti o pravomocích zatím chybějí. Na první pohled to zní jako vznik úřadu, který bude řídit nejdůležitější technologii současnosti. Zatím ale není jasné, jestli se rodí skutečná mocenská struktura, nebo jen další washingtonský název pro koordinační tým. Podle NBC News Trump oznámení zveřejnil 19. září a jméno budoucího cara neuvedl.
To nejdůležitější v celé zprávě proto není samotné slovo Force. Důležitější je, co bude nový útvar smět dělat, komu bude podléhat a jestli bude mít vlastní rozpočet. V oznámení zatím chybí pravomoci, harmonogram i popis vztahu k ministerstvům a úřadům, které už dnes řeší bezpečnost, obranu, hospodářskou politiku nebo ochranu spotřebitelů.
Velký název, malá právní jistota
Trump AI Force přirovnal ke Space Force. To je politicky srozumitelná zkratka: nová oblast, nový protivník a nová instituce, která má dát Spojeným státům pocit, že technologický závod někdo opravdu řídí. Jenže přirovnání ke kosmickým silám automaticky nevytváří žádnou pravomoc. Z task force se nestává federální úřad jen proto, že dostane vojensky znějící název.
V praxi může AI Force znamenat několik velmi rozdílných věcí. Může jít o pracovní skupinu uvnitř Bílého domu, která bude sladit postup jednotlivých agentur. Může to být koordinační centrum pro veřejné zakázky, výzkum a obranu. A teprve v nejambicióznější variantě by šlo o samostatný orgán s možností vydávat závazná pravidla nebo vynucovat bezpečnostní testy.
Mezi těmito možnostmi je obrovský rozdíl. Koordinátor může svolávat schůzky a připravovat doporučení. Regulátor může požadovat dokumentaci, nařizovat nápravu a v krajním případě zastavit nasazení systému. Bez jasného právního základu by ale AI car mohl být především dobře viditelným prostředníkem mezi vládou a technologickými firmami.
Trumpův kompromis: růst ano, škody řešit později
Trump v oznámení spojil dvě teze, které se na papíře doplňují, ale v praxi mohou narazit. Na jedné straně nechce vývoj umělé inteligence brzdit ani dusit regulací. Na druhé straně tvrdí, že škodlivé použití lze řešit existujícím trestním a civilním právem. Celý plán tak zatím stojí spíše na rozdílu mezi podporou průmyslu a trestáním konkrétních následků než na novém systému prevence.
To je pohodlný politický rámec. Vláda nemusí předem rozhodovat, které modely jsou příliš rizikové, a firmy dostanou signál, že se nemají obávat plošných zákazů. Jenže trestní nebo civilní právo nastupuje většinou až ve chvíli, kdy už někdo utrpěl škodu. U některých systémů může být právě tohle pozdě – zvlášť pokud se chyba v automatizovaném rozhodování zopakuje ve velkém měřítku.
Neznamená to, že každý model potřebuje nový úřad a povolení k provozu. Znamená to ale, že vláda musí rozlišit mezi běžným nástrojem, systémem používaným v kritické infrastruktuře a technologií nasazenou ve zpravodajství nebo armádě. Jedna obecná věta o existujícím právu takovou práci nenahradí.
Kdo bude mít klíče od americké AI?
Největší otázkou není, jak bude AI car vypadat na tiskové konferenci. Jde o to, jestli bude mít přístup k rozhodování, nebo jen k mikrofonu. Pokud má koordinovat politiku, musí mít možnost řešit spory mezi úřady, nastavovat priority veřejných investic a říct, kdo odpovídá za bezpečnostní testy. Pokud tyto nástroje mít nebude, zůstane z něj spíš politický překladač mezi Bílým domem, armádou a Silicon Valley.
Americká vláda už dnes používá AI v bezpečnostním a obranném prostředí. Dřívější Trumpovo memorandum o rychlejším nasazování AI v národní bezpečnosti ukazovalo, že administrativa chce technologii využívat rychle, současně ale mluvila o dohledu a ochraně občanských svobod. AI Force by tedy mohla být snahou sjednotit směr, který už existuje, ne začátkem úplně nové politiky.
Právě tady se rozhodne, jestli bude nová iniciativa užitečná. Pokud pouze přidá další kancelář k dlouhému seznamu institucí, firmy získají další místo, kam posílat prezentace, ale veřejnost nezíská jasnější odpověď na otázku, kdo nese odpovědnost. Jestli však AI Force dostane konkrétní mandát, může se stát centrem průmyslové politiky, bezpečnosti i státního nákupu výpočetní kapacity.
AI car nemusí být regulátor
Slovo car svádí k představě člověka, který dostane pravomoc rozhodovat za všechny. Ve Washingtonu ale podobné označení často znamená hlavně politického koordinátora. Bez jména, úřadu a popisu kompetencí proto zatím nelze říct, zda půjde o technického odborníka, manažera státní politiky, nebo politickou figuru, která má uklidnit veřejnost a současně nepopudit technologický průmysl.
Volba člověka bude důležitější než samotný titul. AI car bude muset rozumět vývoji modelů, veřejným zakázkám, vojenskému použití i právní odpovědnosti. Pokud bude jeho hlavním úkolem pouze přesvědčovat firmy, že vláda jejich růst podporuje, nebude to dohled nad AI. Bude to průmyslová diplomacie s atraktivnější vizitkou.
Zajímavé je i srovnání s jinými představami o řízení AI. Demis Hassabis dříve navrhoval globální dozorčí rámec pro nejpokročilejší modely, v němž by se rizika posuzovala ještě před nasazením. Trumpův první nástřel je mnohem méně konkrétní a politicky opatrnější: růst podporovat, škody řešit podle existujících pravidel.
Rozhodnou až pravomoci, ne tisková zpráva
Z dnešního oznámení tedy nelze vyvozovat, že Spojené státy právě vytvořily americký protějšek evropského regulátora nebo novou federální agenturu. Zatím vznikl plán, politický rámec a výrazný název. Všechno podstatné – rozpočet, obsazení, odpovědnost, pravomoc vyžadovat testy a vztah k armádě i civilním úřadům – teprve čeká na zveřejnění.
Pro technologické firmy je to zatím dobrá zpráva. Nemají nové povinnosti a dostaly ujištění, že administrativa nechce růst sektoru brzdit. Pro veřejnost je to zpráva méně uklidňující: pokud má stát sledovat škodlivé použití až pomocí existujícího práva, bude záležet na tom, zda dokáže problém odhalit dříve, než se z něj stane série žalob, bezpečnostní incident nebo politický skandál.
AI Force tak může být začátkem skutečné koordinace, ale také jen další institucí s velkým názvem a malým dosahem. O tom nerozhodne Trumpovo přirovnání ke Space Force ani titul AI cara. Rozhodne až odpověď na jednoduchou otázku: může nový útvar něco nařídit, nebo může jen někoho požádat o schůzku?
