Evropský parlament si pozval Anthropic, aby mu vysvětlil bezpečnost pokročilých modelů umělé inteligence, jejich dostupnost v Evropě a rostoucí technologickou závislost EU. Firma mu místo člověka odpovědného za veřejnou politiku poslala na videohovor z New Yorku technického zaměstnance, který do ní nastoupil letos v dubnu.
Donny Greenberg se navíc hned v úvodu představil tím nejméně vhodným způsobem: je technický člověk, nikoli člověk pro politiku.
A právě na politiku, strategii, bezpečnost a evropskou digitální suverenitu se ho poslanci chtěli ptát.
Výsledek byl přesně takový, jaký mohl čekat každý kromě organizátorů slyšení. Greenberg dokázal popsat část technického kontextu, na řadu politických a strategických otázek ale odpověď neměl. Poslanci následně dávali najevo zklamání a kritizovali, že firma neposlala kompetentnějšího zástupce.
Možná měla. Otázkou je, proč by to dělala.
Anthropic ukázal Bruselu, jak vážně ho bere
Volba zástupce firmy působila téměř jako diplomatická urážka.
Evropský parlament chtěl jednat o strategických dopadech frontier modelů. Anthropic neposlal ředitelku pro veřejnou politiku, člena vedení ani člověka s pravomocí něco slíbit nebo změnit. Poslal přes obrazovku technika, který se do firmy dostal před několika měsíci.
Nemusel říkat, že Evropský parlament nepovažuje za důležitý. Stačilo ukázat organizační schéma a vybrat člověka z jeho spodní poloviny.
Evropští poslanci se samozřejmě urazili. Zazněla výtka, že firma měla vědět, koho na takové jednání posílá, i varování, že Parlament bude příště při výběru účastníků opatrnější.
To je ovšem velmi bruselské řešení. Evropská unie nemá vlastní srovnatelnou technologii, ale příště bude přísnější při výběru lidí, kterým dovolí vysvětlit, proč ji nemá.
EU chtěla rozdávat lekce, ale sama stojí před mnohem větším problémem
Za běžných okolností by šlo jen o další nepovedené slyšení, kterých evropské instituce vyrábějí dostatek na to, aby jimi bylo možné vytápět Štrasburk.
Tentokrát je však v pozadí vážnější problém. Pokročilé modely s kybernetickými schopnostmi nejsou jen další chatboty na psaní e-mailů. Mohou pomáhat hledat chyby v rozsáhlém kódu, analyzovat zranitelnosti a v rukou obránců významně urychlit zabezpečování systémů. Stejné schopnosti se ale mohou při špatném použití změnit v nástroj útoku – a jak ukazuje nedávný případ autonomního mazání souborů modelem GPT-5.6 Sol, rizika agentních AI systémů jsou už dnes reálná.
Právě proto je přístup k takovým modelům stále více strategickou otázkou. Evropské organizace mohou být závislé na nástrojích, o jejichž dostupnosti se nerozhoduje v Bruselu, ale ve Washingtonu a v amerických firmách.
Evropská komise může vydat prohlášení, zahájit posouzení dopadů a svolat další výbor. Model tím ale znovu nezapne.
Evropská digitální suverenita existuje hlavně v prezentacích
Evropská unie o digitální suverenitě mluví už roky. Přijímá strategie, zakládá iniciativy, rozděluje dotace a vyrábí dokumenty s názvy, které znějí skvěle do okamžiku, než je někdo porovná s realitou.
Na jedné straně stojí Spojené státy s OpenAI, Googlem, Anthropicem, Metou a dalšími technologickými giganty – stejnými firmami, které si mezi sebou vedou vlastní tvrdý obchodní boj, přestože Evropa v něm nefiguruje ani jako divák. Na druhé Čína s rychle se rozvíjejícími laboratořemi a otevřenými modely. Evropa má Mistral AI, technicky zajímavou firmu, která se v některých oblastech drží konkurence. Celkovým kapitálem, výpočetní kapacitou, ekosystémem ani rozsahem však evropské firmy zatím nedosahují síly americké a čínské špičky.
Není to selhání inženýrů Mistralu. Je to selhání prostředí, ve kterém mají soupeřit.
Evropa nedokázala vytvořit dostatečně silné technologické firmy, infrastrukturu ani kapitálový trh, který by dokázal dlouhodobě financovat vývoj nejdražších modelů světa. Zato dokázala vytvořit nejpropracovanější systém pravidel pro technologie, které převážně vyvíjí někdo jiný.
To je jako nemít automobilku, ale být světovým lídrem v předpisech o tvaru zpětných zrcátek.
Hackerům je AI Act lhostejný
Evropská odpověď na technologická rizika je tradičně založená na regulaci. Poskytovatel musí vyhodnotit rizika, vést dokumentaci, plnit informační povinnosti, zavést bezpečnostní opatření a respektovat další požadavky AI Actu.
To může mít smysl u firem, které chtějí v Evropě podnikat legálně.
Jenže útočníci provozující ransomware z Ruska, Číny, Íránu, Severní Koreje nebo z pronajatého serveru pod falešnou identitou se evropským nařízením řídit nebudou. Neprovedou posouzení dopadů, nevyplní formulář, nebudou spolupracovat s regulátorem a pravděpodobně si nepřečtou ani tiskovou zprávu Komise.
Pokud se pokročilý kybernetický model jednou dostane na veřejnost, uniknou jeho váhy nebo vznikne srovnatelný otevřený model, zákaz jeho používání v Evropské unii útočníky nezastaví.
Může však zpomalit evropské firmy, bezpečnostní výzkumníky a veřejné instituce, které budou při jeho legálním používání muset plnit pravidla, jež jejich protivníci jednoduše ignorují.
Evropa by se tak mohla dostat do absurdní situace: útočníci budou používat nejvýkonnější dostupné nástroje bez omezení, zatímco obránci budou čekat na právní stanovisko, zda je smějí zapnout.
Tentokrát už nejde všechno zakázat
Brusel si zvykl, že problémy lze řešit zákazem, pokutou nebo nařízením. U umělé inteligence však naráží na hranici své moci.
EU může regulovat firmy působící na jednotném trhu. Může jim ukládat povinnosti a rozdávat pokuty. Nemůže ale zabránit tomu, aby laboratoř mimo Evropu vyvinula nový model. Nemůže zabránit Číně zveřejnit jeho váhy. Nemůže zabránit hackerům, aby si jej stáhli a provozovali na infrastruktuře mimo dosah evropských úřadů.
A především nemůže nařídit Spojeným státům, aby Evropě poskytovaly své nejcitlivější technologie.
Celá léta budovala regulační moc. Nyní zjišťuje, že regulační moc bez vlastní technologické síly znamená hlavně možnost určovat pravidla vlastním občanům a firmám. Zbytek světa může pokračovat bez ní.
Anthropic se zachoval povýšeně. EU mu to ale usnadnila
Anthropic měl na slyšení poslat seniorního člověka schopného odpovědět na politické a strategické otázky. Poslat nového technického zaměstnance přes videohovor bylo přinejmenším necitlivé a nejspíš i povýšené.
Jenže respekt se nedá vynutit pozvánkou do parlamentního výboru.
Evropská unie chce být považována za rovnocenného hráče v oblasti umělé inteligence, zatímco je technologicky závislá na amerických modelech, americkém cloudu, amerických čipech a stále více také na rozhodnutích americké vlády.
Její hlavní odpovědí zůstávají regulace, zákazy, příkazy a požadavky na transparentnost. Ty mohou usměrnit slušné firmy. Nezastaví státní hackerské skupiny ani anonymně šířené otevřené modely.
Slyšení tak nakonec nepůsobilo jen jako ukázka arogance jedné americké společnosti. Působilo hlavně jako ukázka evropské bezmoci.
EU chtěla školit Anthropic. Anthropic jí na videohovor poslal juniora z New Yorku.
A nejhorší na tom pro Brusel je, že si to mohl dovolit.
Zdroje a související podklady
