Lidé si věří, že poznají falešný obsah vytvořený umělou inteligencí. Když ale přijde na vlastní životopis, pracovní dokument nebo finanční údaje, opatrnost se často vypaří rychleji než sebevědomí po první halucinaci chatbota. Průzkum citovaný Radyzem ukazuje nepříjemný rozpor: 66 procent dospělých na Novém Zélandu si myslí, že AI podvod rozpozná, zatímco 40 procent uvedlo, že citlivé informace do AI nástroje poslalo nebo o tom uvažovalo.
Čísla neukazují hloupost. Ukazují falešný pocit kontroly
Výzkum pochází ze zprávy Avast 2026 Safe Tech Report a jeho výsledky zveřejnil novozélandský Radio New Zealand. Neříká, že 40 procent lidí bez rozmyslu odevzdává chatbotům kompletní osobní archiv. Formulace zahrnuje jak skutečné sdílení, tak pouhé zvažování. Přesto je to důležitý signál: lidé si riziko dokážou pojmenovat, ale při praktickém použití ho často odsunou stranou.
Konkrétně 21 procent respondentů uvedlo, že do AI nástroje poslalo nebo zvažovalo poslat životopis, a stejný podíl zmínil pracovní dokument. Tato dvě čísla nejde jednoduše sečíst – část lidí mohla označit obě možnosti. Pointa je jinde. Dokumenty, které bychom cizímu člověku na ulici nepodali, najednou vkládáme do okna s přátelskou ikonou a tlačítkem Odeslat.
Rozpoznat podvod není totéž jako chránit vlastní data
V hlavě nám běží dvě odlišné otázky. První zní: Poznám, že je tento obrázek, hlas nebo e-mail falešný? Druhá: Co se stane s informací, kterou právě posílám službě, již provozuje někdo jiný? Člověk může být velmi opatrný u první otázky a úplně bezbranný u druhé.
Tohle je jádro takzvané pasti sebejistoty. Uživatel si vytvoří dojem, že když dokáže odhalit podvod, má situaci pod kontrolou. Jenže rozpoznání podvodu je obrana proti cizímu útoku. Odeslání citlivého dokumentu je rozhodnutí, které dělá sám. A právě tam se do hry dostává pohodlí, rychlost a přesvědčení, že tentokrát se přece nic nestane.
Chatbot navíc nevypadá jako anonymní internetová služba. Odpovídá okamžitě, pamatuje si kontext konverzace a používá jazyk, který připomíná ochotného kolegu. To je uživatelské rozhraní, ne smlouva o mlčenlivosti. Přátelský tón není bezpečnostní vlastnost.
AI odstranila staré signály, podle kterých jsme podvody poznávali
Bezpečnostní rady dlouho stály na jednoduchých pravidlech: podvodný e-mail má podivnou gramatiku, falešný web vypadá lacině a hlas v telefonu zní nepřirozeně. Umělá inteligence tyto nedokonalosti postupně obrušuje. Text může být bez chyb, web může přesně napodobit oblíbený obchod a hlasová zpráva může znít jako někdo, koho známe.
Radio New Zealand popisuje případ, v němž zaměstnanec po převodu peněz dostal videohovor údajně od generálního ředitele a finančního ředitele. Údajně šlo o tajnou transakci spojenou s akvizicí za 20 milionů dolarů. Lidé na obrazovce vypadali známě, příkaz zapadal do pracovního kontextu a celé video bylo podle popisu falešné.
Nejde o důkaz, že každý videohovor je podezřelý. Je to ale ukázka, proč stará rada „podívej se, jestli to vypadá opravdově“ přestává stačit. Deepfake není jen internetová legrace s obličejem celebrity. V kombinaci s naléhavostí a znalostí pracovního prostředí může vytvořit situaci, v níž člověk udělá přesně to, co by za normálních okolností považoval za rozumné.
Citlivá data nezmizí tím, že je vložíme do chatovacího okna
U veřejného AI nástroje je největší problém často méně dramatický než špionážní film. Nemusí dojít k okamžitému úniku. Stačí, že uživatel neví, jak dlouho se data uchovávají, kdo k nim může mít přístup, jaká nastavení služby platí nebo jestli se používají pro další účely. Podmínky se liší podle poskytovatele, tarifu, účtu i konkrétní funkce.
To neznamená, že každý chatbot automaticky trénuje na každém nahraném souboru. Znamená to, že bez znalosti konkrétní služby a jejích nastavení nemá uživatel právo předpokládat ideální scénář. Životopis může obsahovat adresu a telefon. Pracovní dokument může odhalit interní procesy, ceny, smlouvy nebo informace o zákaznících. Lékařský záznam a finanční výpis jsou ještě méně vhodné suroviny pro experiment s promptem.
Problém se netýká jen textu. Fotografie občanského průkazu, screenshot interního systému, hlasová nahrávka nebo tabulka s kontakty mohou být citlivé stejně jako dlouhý dokument. AI aplikace je umí zpracovat pohodlně – a právě proto svádí k tomu, abychom přestali přemýšlet, co jsme vlastně odeslali.
Proč lidé vědí, co dělat, a přesto to neudělají
Bezpečnostní chování obvykle neprohrává s neznalostí, ale s motivací. Uživatel ví, že nemá klikat na podezřelý odkaz. Jenže zpráva tvrdí, že účet bude za deset minut zablokovaný. Ví, že nemá sdílet pracovní soubory. Jenže dokument potřebuje rychle shrnout před poradou. Ví, že má ověřit telefonát. Jenže na druhé straně zní hlas člověka, kterému důvěřuje.
Pohodlí přitom není drobná výhoda. Je to hlavní obchodní model celé generativní AI. Čím méně kroků mezi problémem a odpovědí služba nabídne, tím méně prostoru zůstane pro otázku, jestli do ní patří i data, která právě kopírujeme. Uživatel neudělá chybu proto, že by chtěl riskovat. Udělá ji proto, že rozhraní z rizik odstraní tření.
Pět pravidel, která dávají větší smysl než slepá důvěra v detektory
- Do veřejného chatbota neposílejte dokument v podobě, v jaké byste ho nepověsili na internet. Nejprve odstraňte jména, adresy, telefonní čísla, identifikátory, podpisy a interní názvy.
- Pokud potřebujete pracovat s citlivými údaji, zjistěte si konkrétní podmínky služby, nastavení historie a pravidla pro používání dat. Nezaměňujte placený účet za automatickou záruku soukromí.
- Ptejte se, zda úkol opravdu vyžaduje celý dokument. Často stačí anonymizovaný výňatek, vlastní shrnutí nebo uměle vytvořená ukázka dat.
- U naléhavých požadavků na peníze, přístup nebo změnu účtu použijte druhý komunikační kanál. Zavolejte na známé číslo, ne na číslo z právě doručené zprávy.
- Berete-li výstup AI jako podklad pro rozhodnutí, ověřte ho z nezávislého zdroje. Sebejistota v rozpoznání podvodu není důkaz, že tentokrát máte pravdu.
Evropa může přidat povinnosti. Tlačítko Upload ale zůstává stejné
Pro české firmy a uživatele je lákavé spoléhat na to, že evropská pravidla ochrany dat vyřeší problém za ně. Nevyřeší. Mohou ukládat povinnosti organizacím, které s osobními údaji pracují, ale samy nezabrání zaměstnanci, aby omylem nahrál klientský dokument do nesprávné služby. Regulace může určit odpovědnost. Neumí vrátit data, která už jednou odcestovala.
Rozumný přístup proto není AI zakázat. Je potřeba oddělit práci s běžným obsahem od práce s informacemi, jejichž zveřejnění by bolelo. U prvního typu si můžeme dovolit experimentovat. U druhého je lepší začít anonymizací, firemním pravidlem a kontrolou nastavení – ne vírou, že hezké rozhraní má automaticky čisté úmysly.
Největší slabinou není AI. Je to náš vlastní odhad rizika
Průzkum z Nového Zélandu neukazuje generaci beznadějně důvěřivých uživatelů. Ukazuje něco méně pohodlného: lidé si mohou osvojit správné bezpečnostní fráze a přesto se v konkrétní situaci zachovat opačně. Vědět, že existují deepfaky, nestačí. Stejně jako vědět, že existují phishingové kampaně, nestačí k tomu, abychom jim neodevzdali heslo.
Technologie budou dál zlepšovat podvody i nástroje, které je mají odhalovat. Lidská intuice v tom závodě nebude vždycky vítězit. Nejbezpečnější otázka proto není „poznám, že je to falešné?“, ale „co nejhoršího se stane, když se spletu – a proč tam ty údaje vůbec posílám?“ Pokud na ni nemáme dobrou odpověď, chatbot si náš dokument nezaslouží.
Zdroje
