Ještě před pár lety byla firemní umělá inteligence hlavně lepší našeptávač. Napsala e-mail, shrnula dokument, připravila prezentaci nebo vytáhla čísla z tabulky. Člověk pak výsledek zkontroloval a rozhodl, co s ním udělá. Jenže tahle fáze pomalu končí. AI agenti dostávají přístup k firemním systémům, penězům, interním pravidlům a také k rozhodování, které jsme dosud považovali za výhradně lidské.
Dobře to ukazuje experiment společnosti Andon Labs v San Franciscu. Jejich agentka Luna řídí kamenný obchod Andon Market a nehraje si jen na virtuální sekretářku. Vybírá sortiment, stanovuje ceny a otevírací dobu, plánuje směny, schvaluje volno a podílí se na náboru zaměstnanců. Nedávno pak doporučila jednoho pracovníka propustit.
Titulek „AI vyhodila člověka“ zní výborně pro sociální sítě, jenže realita je trochu složitější. A právě proto je zajímavější.
Když má místo šéfa Claude
Dotyčný zaměstnanec přišel pozdě na 17 z 23 směn. Luna přitom už dříve vytvořila zaměstnaneckou příručku, podle níž měly opakované pozdní příchody vést nejprve k varování a následně případně až k ukončení pracovního poměru. Problém byl v tom, že agentka na vlastní pravidla časem prakticky zapomněla.
Andon Labs ji proto muselo přimět, aby prošla svou paměť, našla příslušné předpisy a situaci znovu vyhodnotila. Teprve potom Luna dospěla k závěru, že zaměstnanec už není pro pozici vhodný, a doporučila jeho propuštění. Konečné rozhodnutí ještě zkontrolovali lidé a formální ukončení pracovního poměru provedl člověk.
Takže žádný terminátor s přístupem do personálního systému. Zatím. Podstatnější ale je, že AI už nebyla jen poradcem, kterého se manažer zeptal na názor. Byla přímo součástí řízení firmy a měla přístup k informacím i pravomocím, které běžně patří vedoucímu pracovníkovi.
Agent není chatbot
Rozdíl mezi běžným chatbotem a agentem je přitom zásadní. ChatGPT nebo Claude v klasickém režimu čekají, až jim člověk něco zadá. Agent může mít dlouhodobý cíl, vlastní paměť, přístup k nástrojům a oprávnění provádět konkrétní akce bez toho, aby člověk potvrzoval každý jednotlivý krok.
Luna například neumí jen navrhnout odpověď zaměstnanci. Může s ním komunikovat, pracovat s plánem směn, organizovat nákup zboží nebo řešit provoz obchodu. Andon Market navíc dnes používá víceagentní systém, kde má hlavní agent další specializované agenty pro různé oblasti firmy a podle potřeby může vytvářet dočasné subagenty pro konkrétní úkoly.
To už se začíná překvapivě podobat běžné organizaci. Jen místo několika lidí v kanceláři spolu komunikuje několik softwarových procesů.
Podobným směrem míří i další projekty. Munder Difflin například experimentuje s prostředím, kde může mít člověk vlastního AI „klona“ založeného na nástrojích jako Claude Code nebo Codex. Tito agenti si mohou předávat práci, komunikovat mezi sebou a držet si dlouhodobější kontext.
Firma budoucnosti tak nemusí mít deset zaměstnanců a deset notebooků. Klidně může mít deset zaměstnanců, deset notebooků a padesát agentů pracujících na pozadí.
Největší problém zatím není zlá AI, ale zapomnětlivá AI
Případ Luny zároveň dobře ukazuje, proč nejsou dnešní agentní systémy připravené na úplnou samostatnost. Agentka nebyla bezcitný algoritmus, který zaměstnance automaticky vyhodil po překročení nějakého limitu. Ve skutečnosti byla spíš nekonzistentní. Pravidla sice vytvořila, ale později je sama ignorovala, dokud jí lidé nepřipomněli, že existují.
To je pro firmu možná větší problém než oblíbené scénáře o „AI šéfovi bez emocí“. Podnik totiž potřebuje hlavně předvídatelné a konzistentní rozhodování. Pokud systém v dubnu vytvoří pravidlo, v květnu ho používá a v červnu už netuší, že existuje, těžko mu můžeš bez kontroly svěřit personální politiku, finance nebo větší provozní rozhodnutí.
Právě proto dnes kolem samotných modelů vzniká další softwarová vrstva: databáze paměti, auditní logy, řízení oprávnění, kontrolní mechanismy a systémy pro koordinaci více agentů. Samotný jazykový model přestává být celý produkt. Čím dál důležitější je to, co je postavené kolem něj.
Firma, která nikdy nespí
Pro zaměstnavatele je přitažlivost podobných systémů očividná. AI manažer nepotřebuje kancelář, dovolenou ani osm hodin spánku. Dokáže sledovat velké množství procesů najednou, průběžně kontrolovat čísla a během několika sekund projít historii komunikace, docházku nebo výsledky práce.
Ještě důležitější je ale jiný rozdíl. Klasický podnikový software potřeboval předem přesně definovaný postup: pokud nastane A, proveď B. Agent může dostat mnohem obecnější cíl, například udržovat obchod v provozu, zvyšovat tržby a dodržovat daná pravidla. Cestu k výsledku si pak hledá sám.
Právě to z agentů dělá mnohem užitečnější nástroj než staré automatizace, ale zároveň také méně předvídatelný. Čím větší volnost dostanou, tím víc se musí řešit kontrola, odpovědnost a možnost zpětně dohledat, proč konkrétní rozhodnutí udělali.
Kdo vlastně rozhodl?
Jakmile AI jen navrhne text e-mailu, odpovědnost je jednoduchá. Člověk ho přečte, případně upraví a odešle. Jenže s každým dalším automatizovaným krokem se hranice začíná rozmazávat.
Představ si firmu, kde jeden agent sleduje výkon zaměstnanců, druhý vyhodnocuje docházku, třetí přiděluje práci a čtvrtý navrhuje odměny. Nad nimi může sedět další agent, který celý systém koordinuje a člověku předkládá už jen finální doporučení.
Formálně může stále rozhodovat manažer. Prakticky se ale jeho role může postupně změnit v pouhé schvalování výsledků systému, podobně jako dnes lidé bez čtení odklikávají licenční podmínky.
Právě to bude pravděpodobně jeden z hlavních problémů příštích let. Ne otázka, zda AI může rozhodovat, protože technicky už může. Důležitější bude, kde přesně musí zůstat člověk a zda jeho přítomnost není jen formální razítko na rozhodnutí, které ve skutečnosti vytvořil software.
AI nemusí lidi nahradit. Může je začít řídit
Debata o umělé inteligenci a práci se pořád většinou točí kolem jednoduché otázky, kolik pracovních míst AI zruší. Andon Market ale ukazuje jiný možný scénář. Umělá inteligence nemusí zaměstnance nahradit. Může se stát jeho nadřízeným.
Software se totiž vyvíjí rychleji než robotika. AI může zvládat administrativu, plánování, kontrolu dat nebo rozhodování, ale stále neumí fyzicky otevřít obchod, vyložit zboží nebo opravit rozbitou polici. Pokud tento rozdíl vydrží, můžeme se dočkat firem, kde strategickou a administrativní část převezmou agenti a lidé zůstanou hlavně jejich rukama ve fyzickém světě.
Je to skoro opačný vývoj, než jsme dlouho čekali. Automatizace měla nejprve nahrazovat jednoduchou manuální práci a management měl zůstat nahoře. Umělá inteligence ale může začít automatizovat právě management, protože velká část této práce je ve skutečnosti práce s informacemi, pravidly a komunikací.
Největší změna nemusí přijít s další superinteligencí
Andon Market je pořád experiment a z jednoho malého obchodu nelze dělat důkaz budoucnosti celého pracovního trhu. Jenže technologie potřebné pro podobné systémy už nejsou exotické. Model, databáze, e-mail, kalendář, firemní systémy a několik API dnes může propojit prakticky každá technologicky schopná firma.
Nejdůležitější změnou proto možná nebude příchod nějaké magické superinteligence. Mnohem dříve může přijít obyčejnější a méně nápadný proces, kdy současným modelům postupně dovolíme dělat stále více věcí bez toho, aby člověk kontroloval každý krok.
Nejdříve AI napíše odpověď zákazníkovi a člověk ji odešle. Později ji odešle sama. Potom rozhodne o slevě, objedná zboží, naplánuje směny a vyhodnotí zaměstnance. Každý jednotlivý krok bude působit jako poměrně malá a logická automatizace.
Teprve zpětně možná zjistíme, že jsme během několika let neautomatizovali jen práci. Automatizovali jsme velkou část samotného řízení firmy.
