Mezinárodní pravidla pro autonomní zbraně se nerodí v okamžiku, kdy technologie začne fungovat. Rodí se v jednacích místnostech, kde státy rozhodují, jaké rozhodnutí smějí delegovat na stroj a za co ponese odpovědnost člověk. Zpráva Radyzu o oslabení pojistek při jednání OSN ukazuje, jak křehká může být dohoda právě v okamžiku, kdy se má z politických prohlášení stát konkrétní pravidlo.

Důležitý kontext přineslo srpnové stanovisko Mezinárodního výboru Červeného kříže (ICRC). Skupina vládních expertů Úmluvy o některých konvenčních zbraních (CCW) se sešla v Ženevě od 31. srpna do 4. září 2026 a ICRC předložil pracovní dokument, který žádá zachovat dosavadní prvky návrhu a doplnit další. Rychlá zpráva Radyzu uvádí, že Spojené státy a Rusko při závěru jednání prosadily změny oslabující část ochranných záruk. Bez veřejně ověřeného znění těchto změn není namístě domýšlet, které formulace přesně zmizely. Podstatná je ale otázka, zda výsledný text dokáže stanovit srozumitelné a vymahatelné hranice.

Nejde jen o to, zda zbraň zasáhne cíl

Autonomní zbraňový systém může po aktivaci vybírat cíle a použít proti nim sílu na základě informací ze senzorů, aniž člověk jednotlivý zásah průběžně schvaluje. ICRC ve svém stanovisku k autonomním zbraním upozorňuje na právní, etické i humanitární obavy a žádá nové právně závazné mezinárodní limity.

Technická debata se často točí kolem přesnosti: jak dobře systém rozpozná objekt, v jakých podmínkách selhává a zda lze jeho chování předvídat. To je důležité, ale samo o sobě to nestačí. Zbraň může být přesná v laboratorním testu a přesto nebezpečná v prostředí, kde se mění podmínky, civilní osoby se pohybují mezi vojenskými cíli a informace ze senzorů jsou neúplné.

Pravidla války proto nestojí jen na technické spolehlivosti. Vyžadují schopnost rozlišovat mezi civilisty a bojovníky, posoudit přiměřenost útoku a přijmout opatření na ochranu civilního obyvatelstva. Člověk musí mít dost informací a času, aby mohl rozhodnutí skutečně ovlivnit. Pokud systém jedná příliš rychle nebo neprůhledně na to, aby ho operátor mohl zastavit, pouhá formální přítomnost člověka na velícím stanovišti není účinným dohledem.

Co vlastně znamená „lidský dohled“

Výraz „člověk v rozhodovací smyčce“ zní uklidňujícím dojmem, ale může popisovat velmi rozdílné situace. Někdy člověk schválí konkrétní cíl těsně před použitím síly. Jindy pouze předem nastaví oblast, časové okno nebo obecné parametry mise a systém následně jedná samostatně. Tyto modely nelze považovat za rovnocenné jen proto, že v obou případech někde figuruje člověk.

Pravidla by proto neměla stát na neurčitém slibu „smysluplné lidské kontroly“ bez vysvětlení, co musí být v praxi splněno. Má-li dohled něco znamenat, člověk potřebuje znát schopnosti i omezení systému, mít reálnou možnost misi změnit nebo zastavit a nést jasně vymezenou odpovědnost. Jinak se z dohledu stane jen formální kolonka v dokumentaci.

Tento problém rozebírá i náš dřívější článek o dronu, který sám hledá a vybírá cíl. Autonomie není jediný přepínač. Je to řetězec kroků – od vnímání situace přes výběr cíle až po použití síly – a pravidla musí určit, kde v něm lidské rozhodnutí zůstává skutečné.

Proč se státy neshodnou na závazném textu

Jednání v rámci CCW spojuje státy s odlišnými vojenskými doktrínami, bezpečnostními zájmy i představami o tom, jak rychle se má regulace přijmout. Dohoda dosažená konsenzem může mít širokou legitimitu, zároveň ale dává každému účastníkovi možnost brzdit ambicióznější návrh. Výsledný text pak může být přijatelný pro všechny právě proto, že některé nejspornější závazky z něj vypadnou.

To vytváří politické dilema. Slabší shoda může být lepší než žádná, pokud stanoví společný základ a umožní pokračovat v jednání. Může však také vytvořit dojem, že problém je vyřešen, přestože státy stále nemají jasnou odpověď na otázky lidské kontroly, předvídatelnosti a odpovědnosti. Rozdíl poznáme podle toho, zda dokument přináší praktická omezení a kontrolovatelné povinnosti, nebo jen potvrzuje obecné principy.

ICRC ve svém pracovním dokumentu z 28. srpna 2026 píše, že před závěrečným zasedáním skupiny expertů přezkoumává prvky obsažené v návrhu zprávy a navrhuje jejich zachování i doplnění. Organizace současně požaduje právně závazná pravidla. To je důležitý rozdíl oproti nezávaznému politickému prohlášení: závazná úprava může stanovit společné povinnosti, podle nichž bude možné posuzovat vývoj, testování i nasazení zbraní.

Odpovědnost se nesmí rozplynout mezi výrobce a armádu

Autonomní systém vzniká jako soubor technologií a rozhodnutí: někdo navrhne model, někdo integruje senzory a zbraň, někdo stanoví pravidla mise a někdo ji schválí. Pokud dojde k chybnému zásahu, odpovědnost se může rozdělit mezi vývojáře, dodavatele, velitele i operátora. Právě proto musí být jasné, kdo ověřuje schopnosti systému, kdo rozhoduje o jeho nasazení a kdo nese právní odpovědnost za konkrétní operaci.

Nejde o to přenést odpovědnost na software. Stroj nemůže nahradit právní a politickou odpovědnost lidí a států. Pravidla musí zajistit, aby člověk, který systém nasazuje, rozuměl jeho limitům a měl možnost zabránit použití síly v situaci, kterou stroj nedokáže bezpečně vyhodnotit.

Čas na pravidla se krátí, ale dohoda nesmí být jen symbolická

Generální tajemník OSN António Guterres a prezidentka ICRC Mirjana Spoljaricová 25. srpna 2026 společně vyzvali státy, aby urychleně přijaly nová mezinárodní pravidla pro autonomní zbraňové systémy. Jejich společná výzva potvrzuje, že tlak na dohodu nezmizel. Sama naléhavost ale nezaručí její kvalitu.

Pokud státy přijmou příliš obecný text, mohou získat diplomatický úspěch bez odpovídající ochrany lidí. Jestliže budou čekat na úplnou shodu o každém technickém detailu, mohou pravidla přijít až poté, co se autonomní funkce stanou běžnou součástí vojenských systémů. Smysluplná cesta leží mezi těmito krajnostmi: zakázat nejnepřijatelnější použití a současně stanovit jasné mantinely pro zbytek.

Spor o pojistky proto není právnickou drobností. Rozhoduje o tom, zda lidé zůstanou skutečnými nositeli odpovědnosti za použití síly, nebo zda se jejich role zúží na předem nastavené parametry a následné vysvětlení výsledku. Pokud má mezinárodní dohoda něco změnit, musí být konkrétní právě v okamžiku, kdy se člověk ještě může rozhodnout jinak.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.