Hezky vysázený bankovní výpis už není dobrý důvod někomu věřit. Ale ani červená kontrolka detektoru není dobrý důvod označit člověka za podvodníka. Mezi těmito dvěma omyly se odehrává podstatná část debaty o AI ve financích: stroje mají pomoci ověřovat doklady, nikoli nahradit dokazování pohodlným skóre.
Česká Resistant AI se podle oznámení z 1. října 2026 zapojila do platformy Ocrolus Detect, která prověřuje finanční dokumenty pro poskytovatele úvěrů. Na Radyzu jsme popsali integraci kontroly padělaných dokladů do amerického úvěrování. Zajímavější než další obchodní partnerství je ale otázka, kterou otevírá: jak rozeznat obranu proti podvodu od automatizace nedůvěry vůči poctivému žadateli?
Podle nás je tahle technologie rozumnou odpovědí na skutečný problém. Její hodnotu však neurčí počet červených vlaječek, které vyprodukuje. Určí ji schopnost dodat konkrétní podklady pro kontrolu, nezahltit lidi planými poplachy a nechat klientovi cestu k vysvětlení. Detektor bez takového procesu je jen rychlejší způsob, jak dělat neprůhledná rozhodnutí.
Dokument může vypadat správně a přesto lhát
Bankovní výpis, výplatní páska nebo daňový formulář jsou pro úvěrovou společnost podklady o příjmu a finanční situaci. Generativní AI umí vytvářet přesvědčivý obsah; vzhled dokumentu proto sám o sobě jeho původ nedokládá. V tomto prostředí dává smysl zkoumat nejen uvedené částky, ale také způsob, jakým vznikl předložený soubor.
Přesně tím firmy ve společném oznámení partnerství zdůvodňují rozšíření Detectu. Resistant AI dodává forenzní analýzu dokumentů, kterou Ocrolus kombinuje se svou analýzou příjmových dokladů. Zkoumání metadat a struktury souboru má doplnit kontroly jeho obsahu. Firmy uvádějí, že rozšířená nabídka je už dostupná jejich zákazníkům; nejde tedy podle oznámení pouze o plán budoucího experimentu.
Rozdíl se dá vysvětlit bez technických kouzel. OCR převádí text z obrazového dokumentu do podoby, se kterou může pracovat software. Analýza obsahu potom řeší například to, co dokument tvrdí o příjmu. Forenzní kontrola přidává jinou otázku: vykazuje soubor stopy, které mohou naznačovat manipulaci? Ani správné přečtení všech číslic neodpovídá na otázku, zda jsou pravdivé.
Resistant AI na své produktové stránce kontroly dokumentů popisuje zkoumání struktury, složení a kontextu namísto spoléhání na čtení obsahu. To je popis přístupu od dodavatele, nikoli nezávislý důkaz úspěšnosti. Zároveň vysvětluje, proč nelze celou integraci zjednodušit na představu chatbota, který se podívá na PDF a odhadne, jestli se mu líbí.
Dvanáct procent podezření není dvanáct procent podvodníků
Ocrolus v oznámení uvádí, že přibližně 750 tisíc úvěrových žádostí měsíčně prochází jeho platformou a že 12 procent zpracovaných žádostí obsahuje podezřelou aktivitu. Oba údaje pocházejí od firmy. Důležitější než jejich velikost je význam druhého čísla: podezřelá aktivita není totéž co prokázaný podvod, natož úvěr skutečně vyplacený podvodníkovi.
Z těchto údajů nelze vyvodit přesnost nového detektoru. Neříkají, kolik skutečných manipulací zachytil, kolik přehlédl ani kolik poctivých žádostí zbytečně poslal na další kontrolu. Stejně tak tvrzení, že se forenzní nástroj učil na vzorcích hrozeb z více než 200 milionů dokumentů, popisuje rozsah deklarovaných podkladů. Nenahrazuje měření na odděleném testovacím souboru.
Tisková zpráva označuje spojení obou technologií za nejsilnější řešení na trhu. To je marketingový soud, který zde nepřebíráme jako fakt. V přečteném oznámení není zveřejněn nezávislý srovnávací test nové integrace ani podrobná metodika jejích chyb. Bez nich lze ověřit oznámení a popsané funkce, ne pořadí v pomyslné lize detektorů.
Právě tady by měli kupující přestat obdivovat velikost datové základny a začít klást nepříjemné otázky. Jak systém funguje na dokumentech jejich klientů? Co se změní při jiném jazyce, formátu nebo způsobu skenování? Kolik jeho upozornění skončí potvrzenou manipulací? Banka nekupuje medaili z tiskové zprávy. Kupuje součást procesu, jehož chyby mají skutečné následky.
Červená vlaječka musí mít vysvětlení
Ocrolus a Resistant AI slibují výsledky podložené strukturovanými upozorněními a kódy důvodů. Zákazník si podle oznámení může zachovat podrobné skóre autenticity a současně používat kategorie vysokého, středního či nízkého rizika propojené s doporučeným postupem. Možnost přizpůsobit výsledky vlastnímu procesu je podstatná. Stejný signál nemusí všude znamenat stejný zásah.
U výplatní pásky může být praktickým dalším krokem doložení původního souboru nebo ověření u vydavatele. U bankovního výpisu má smysl porovnat doložené údaje s jiným oprávněně získaným podkladem. U žádosti s více dokumenty může kontrolor prověřit jejich vzájemný soulad. To jsou příklady rozumného navazujícího procesu, nikoli tvrzení, že konkrétní integrace všechny tyto kroky automaticky provádí.
Naopak nebezpečný postup je překvapivě jednoduchý: vysoké riziko se bez dalšího promění v zamítnutí a klient dostane neurčitou odpověď, že neprošel kontrolou. Formálně proběhla kontrola, prakticky nikdo neobjasnil pochybnost. Přitom převod, komprese nebo skenování mohou změnit podobu souboru, aniž by tím samy dokazovaly podvod. Z toho neplyne, že tyto operace daný detektor zaměňují za manipulaci; plyne z toho potřeba měřit a vysvětlovat jeho chování.
V článku o pasti sebejistoty při rozpoznávání falešného obsahu jsme řešili důvěru lidí ve vlastní úsudek. U finančních institucí hrozí její strojová obdoba: když výsledek dodá specializovaný systém, považujeme ho za jistější, než odpovídá podkladům. Kontrolor potřebuje důvod, který umí posoudit. Samotná barva indikátoru mu nestačí.
Poctivý klient nemá být vedlejší škodou
Rozumné nasazení by mělo začít pilotem na reprezentativních dokumentech a předem stanovenými pravidly, co se bude při jednotlivých výsledcích dít. Vedle zachycených manipulací je nutné sledovat mylně označené doklady, dobu dodatečného prověřování a výsledky opakované kontroly. Jinak lze optimalizovat detektor tak, že označí téměř všechno a problém pouze přehodí na zaměstnance. Červené vlaječky se pak stanou levným výstupem, zatímco vysvětlování zůstane drahé.
Před podpisem smlouvy by si poskytovatel úvěrů měl vyjasnit čtyři věci: kdo rozhoduje o následném zásahu, jaké podklady uvidí kontrolor, jak klient doloží vysvětlení a jak se měří chyby systému v provozu. Vedle toho potřebuje znát zacházení s finančními dokumenty, dobu uchovávání a přístup k nim. Ochrana proti padělání nedává dodavateli automaticky nárok na neomezené využití klientských údajů.
Tato pravidla nejsou argumentem proti automatizaci. Naopak vytvářejí podmínky, za kterých může automatizace ušetřit práci a pomoci soustředit pozornost na skutečné problémy. Dobrý systém nemusí každému dokladu vystavit konečný rozsudek. Musí umět rozlišit situaci bez relevantního upozornění od situace vyžadující další prověření a dodat použitelný podklad pro další krok.
Pro Resistant AI je integrace s americkou úvěrovou platformou zajímavou obchodní zprávou. Pro žadatele o půjčku má větší význam něco jiného: zda kontrola ochrání proces, nebo jen přidá další neprůhlednou překážku. Podle nás má detekce padělaných dokumentů v úvěrování jasné místo. Podezření ale musí spustit ověřování, ne ho ukončit. Pokud banka tento rozdíl neuhlídá, nebude problém v tom, že si pořídila AI. Bude v tom, že na její výstup přenesla odpovědnost, kterou měla nést sama.
