Představme si kolegu, který si vezme zadání, na dlouho zmizí a pak položí na stůl hotovou práci. Na první pohled výkonný člověk. Jenže vy jste mezitím zjistili, že zadání potřebuje změnu, a netušíte, z čeho při práci vycházel. Teď máte dvě možnosti: všechno pečlivě projít, nebo mu věřit. U AI agentů se podobný pracovní vztah často prodává jako budoucnost produktivity. Podle nás je na čase přestat považovat nepřítomnost člověka za automatický důkaz pokroku.
Arvind Narayanan a ekonom Gabriel Unger ve společné eseji ze 14. října navrhují jiný směr: vyvíjet AI také pro průběžnou spolupráci, ne pouze pro převzetí celého úkolu. O jejich výzkumném programu jsme informovali v rychlé zprávě o spolupráci člověka a AI. Jejich text není novým experimentem dokazujícím vyšší produktivitu. Je to promyšlená námitka proti tomu, co vůbec považujeme za úspěch.
Člověk na konci ještě není spolupracovník
Rozdíl mezi delegováním a spoluprací známe z běžného života. Účetnímu můžete předat podklady a chtít hotové přiznání. S architektem ale nejspíš nechcete komunikovat jen při objednávce domu a při převzetí klíčů. Potřebujete vidět návrh, změnit priority, něco odmítnout a občas zjistit, že vaše původní představa nedávala smysl. U podobných činností vzniká dobré zadání teprve během práce.
Narayanan a Unger upozorňují, že dnešní pojetí lidského dohledu často nechává člověka právě u startu a cíle. Zadá práci, čeká a nakonec kontroluje. Označení human-in-the-loop pak může znít mnohem velkoryseji než skutečná pravomoc uživatele. Být ve smyčce totiž není totéž jako rozumět tomu, co se děje, a mít možnost včas změnit směr.
Představme si AI, která připravuje odpověď na zákaznickou reklamaci. Užitečná spolupráce není až tlačítko „odeslat“ pod hotovým dopisem. Operátor potřebuje poznat, z jakého záznamu systém vychází, zda nepřehlédl předchozí dohodu a jestli se zákazník právě neptá na něco jiného. Když lze chybný předpoklad opravit už v průběhu, nemusí se později přepisovat celý výsledek. To je návrhový cíl, který stojí za měření — ne předem prokázaná úspora.
Podobnou hranici rozebírá také poziční práce AI Agents Push Humans Out of the Loop od Margaret Mitchell, Avijita Ghoshe a Samira Passiho. Autoři argumentují, že současný návrh agentů účinný dohled nepodporuje dostatečně a že dlouhodobé spoléhání na automatizaci ohrožuje i schopnosti potřebné ke kontrole. Ani to není univerzální naměřený verdikt nad každým asistentem. Je to ale důležitá otázka pro firmu, která chce na lidskou kontrolu spoléhat: nechává svým lidem podmínky, aby ji vůbec zvládli?
Ukažte podklady, ne představení myšlení
První z navržených výzkumných směrů míří na srozumitelné mezikroky. Autoři používají označení „white-box“ agenti: systémy, které ukazují zdroje, předpoklady, metody, nejistoty a rozpracované podklady. Pro čtenáře smlouvy to může znamenat viditelné spojení mezi navrženou změnou a konkrétním ustanovením. Pro analytika zase možnost upravit výběr dat dřív, než z něj vznikne přesvědčivě vypadající závěr.
Tady bychom přidali zásadní požadavek: srozumitelnost nesmí být divadlo. Plynulý odstavec o tom, jak AI postupovala, sám o sobě nic nedokazuje. Uživatel potřebuje kontrolovatelný podklad a skutečně provedenou změnu, ne dodatečně vyrobený příběh. Ukázat použitý dokument, označit upravené místo a přiznat chybějící údaj je užitečnější než sebejistý monolog stroje.
Narayanan a Unger přitom upozorňují na problém tréninkových dat: hotový výsledek neobsahuje celou historii svého vzniku. Sbírka obrazů neukáže všechny opravy malíře, stejně jako hotová smlouva neukáže všechny úvahy právníka. Zachytit pracovní postupy dalších profesí proto považují za samostatný výzkumný úkol. Není to schopnost, kterou do libovolného systému přidáme přepínačem „vysvětluj“.
Stejně podstatné je, kdo má záznamy takové práce získávat. Zkušenost odborníka může posloužit lepšímu nástroji pro jeho profesi, ale také podrobnějšímu sledování zaměstnanců. Podle nás se spolupráce nedá věrohodně slíbit lidem, kteří nemají slovo ani v tom, jak se jejich vlastní postupy zaznamenávají a k čemu se použijí. Transparentnost má platit i pro zaměstnavatele a dodavatele, nejen pro model.
Čekání není drobná vada rozhraní
Další dvě oblasti programu spolu úzce souvisejí: rychlá odezva a společná práce bez povinného střídání tahů. Autoři chtějí systémy, které snesou přerušení, souběžné úpravy a průběžnou změnu směru. Nestačí agentovi poslat další zprávu a doufat, že si ji přečte dřív, než dokončí dávno nepotřebnou práci. Sdílené pracoviště musí udržet smysluplný stav i tehdy, když do něj zasáhne člověk.
Představme si editora, který s asistentem upravuje text. Když změní úvod, asistent má pracovat s novou verzí, ne mu za chvíli vrátit tu starou v elegantnějším balení. V plánování projektu zase potřebujete měnit omezení během hledání řešení. Nechcete po každé připomínce znovu vysvětlovat celý svět. Právě tady se rozhoduje, zda AI šetří pozornost, nebo ji spotřebovává na obsluhu sebe samé.
Autoři výslovně označují obnovení soustředěné práce s rychlejšími agenty za hypotézu. Není tedy poctivé tvrdit, že nižší zpoždění automaticky odstraní přetížení. Přesto mají pravdu v důležitějším bodě: odezva není jen kosmetický parametr. Nástroj, u kterého člověk ztratí nit před každou další úpravou, nabízí jiný způsob práce než nástroj, který reaguje v jejím rytmu.
Ten rozdíl jsme už popisovali u AI jako hudebního nástroje místo automatu na písně. Nejde o potvrzení dnešní dostupnosti ideálního spolupracujícího agenta. Je to dobrý způsob, jak si představit jiné zadání pro výrobce: člověk nechce vždy objednat hotový soubor. Někdy chce prostředek, se kterým může zkoušet, poslouchat a měnit vlastní nápad.
Vyhrát má tým, ne model v tabulce
Čtvrtý směr výzkumu se týká hodnocení. Jak dobře model samostatně splní úkol, je užitečná otázka. Neodpovídá ale na to, jak dobře se s ním pracuje člověku. Spolupracovník může nabídnout méně hotového textu a přesto být cennější, pokud rychle upozorní na chybný předpoklad. Naopak působivý výsledek může přinést tolik kontroly, že přesune práci z výroby na revizi.
Pro firmu z toho plyne konkrétní změna zkušebního provozu. Vedle kvality výsledku má sledovat čas pracovníka včetně oprav, počet nutných zásahů a to, zda člověk dokáže vysvětlit důvody konečného rozhodnutí. Důležité je také dlouhodobější hledisko: učí se zaměstnanec s nástrojem pracovat lépe, nebo už jen přebírá výstupy, které neumí posoudit? To jsou naše doporučení pro hodnocení, nikoli hotová metodika potvrzená novou studií.
Stejný účetní problém se objevil v rozboru nákladů a úspor AI ve Sporteze. Ušetřená hodina znamená kapacitu, ne automaticky peníze na účtu. U spolupráce platí obdobně, že více vygenerovaných návrhů ještě neznamená lepší práci. Rozhodující je, co s nimi tým zvládl udělat a kolik pozornosti ho to stálo.
Ekonom Erik Brynjolfsson už v textu The Turing Trap z roku 2022 rozlišoval náhradu lidské práce a rozšíření lidských schopností. Upozorňoval i na vyjednávací sílu: člověk, jehož znalosti jsou dál potřebné k tvorbě hodnoty, má jiné postavení než člověk, jehož úkol se stal zaměnitelným se strojem. Narayanan a Unger tuto debatu převádějí do konkrétnějších otázek návrhu agentů. Starší ekonomická argumentace ovšem není nezávislým testem jejich nového programu.
Automatizaci bychom kvůli tomu zakazovat neměli. Ani autoři eseje ji neodmítají: rutinní, snadno ověřitelné činnosti mají jiné nároky než práce s nejasným cílem a drahou chybou. Firma může rozumně chtít automatický převod formátu a zároveň průběžnou spolupráci při přípravě nabídky pro důležitého zákazníka. Snaha používat jeden režim na všechno je pohodlná hlavně pro produktovou prezentaci.
Podle nás je nejcennější část nového návrhu právě v tom, že zpochybňuje pohodlné měřítko pokroku. Samostatnější AI nemusí být užitečnější AI. Jestli vám systém ukáže podklady, přijme včasnou změnu a pomůže rozhodnout lépe, není vaše přítomnost jeho nedostatkem. Nedostatkem je nástroj, který vás z práce vytlačí a pak po vás chce podpis, že jste všechno zkontrolovali.
