Když si člověk otevře seznamovací aplikaci, předpokládá alespoň základní věc: na druhé straně je člověk. Právě tento předpoklad se ale stal nejsnazší součástí podvodu. Podle zjištění Anthropic vznikla síť aplikací, které nabízely údajně skutečné protějšky, zatímco většinu konverzací vedly autonomní AI persony.
Na Radyzu jsme o případu psali v krátké zprávě o AI podvodech v seznamovacích aplikacích. Novinka není v tom, že někdo používá falešné fotografie nebo najímá lidi, aby hráli cizí identitu. To se děje už delší dobu. Nové je, že placený člověk se v celém systému stává jen rekvizitou pro ověření důvěry, zatímco vlastní vztahový scénář běží automaticky.
Falešný člověk byl dosud drahý
Klasický podvod na seznamce potřeboval alespoň nějakou lidskou práci. Někdo musel odepisovat, udržovat příběh, pamatovat si detaily a reagovat ve chvíli, kdy oběť začala pochybovat. I když šlo o najaté operátory, pořád existoval limit počtu konverzací, pracovní doby a schopnosti jednotlivce držet desítky falešných vztahů pohromadě.
AI tento limit odstranila. Ne tím, že by vymyslela nový druh lži, ale tím, že zlevnila její provoz. Jedna persona může psát nepřetržitě, držet stejný tón a postupovat podle scénáře, který jí někdo nastavil. Člověk pak nemusí hrát celý vztah. Stačí, když občas dodá důkaz, že aplikace přece jen nějaké skutečné lidi obsahuje.
Tři AI persony na jednoho člověka
Anthropic ve své zprávě o zneužití AI popisuje síť více než dvaceti seznamovacích aplikací. Během dvou týdnů v dubnu 2026 výzkumníci zaznamenali více než 4 700 různých AI person, které komunikovaly nejméně s 25 000 unikátními lidmi. Poměr byl přibližně tři ku jedné ve prospěch AI.
Claude podle zprávy obsloužil během tohoto období zhruba 2,36 milionu zpráv. Jiný model generoval krátké návrhy odpovědí pro najaté pracovníky, další nástroje se staraly o obrázky, hodnocení tváří nebo moderaci hlasu. Nešlo tedy o jednoho podvodníka s chatbotem, ale o rozdělený technologický provoz, v němž má každý model malou a přesně určenou úlohu.
Podle vyšetřování magazínu The Verge aplikace účtovaly uživatelům mince nebo kredity za pokračování v konverzaci. Oběť tak nemusela posílat peníze falešnému partnerovi přímo. Platila samotné aplikaci za možnost dál si psát s někým, kdo ve skutečnosti často vůbec neexistoval.
Člověk zůstal jen jako razítko důvěry
Lidé v tomto systému nezmizeli úplně. Byli ale nasazeni tam, kde má AI pořád problém přesvědčit člověka: u živého videohovoru, sledování účtu na sociální síti nebo jiného ověření existence. Podle Anthropic tvořili skuteční lidé zhruba čtvrtinu profilu v nabídce. Byli smícháni s AI personami tak, aby uživatel občas narazil na někoho skutečného a přestal zpochybňovat zbytek.
Pracovníci navíc nemuseli psát vlastní odpovědi. Dostali několik předpřipravených variant, ze kterých jednu vybrali. Jejich úkolem nebylo budovat vztah, ale dodat systému lidský otisk ve správný okamžik. To je důležitý posun: člověk už není provozovatelem podvodu, nýbrž jeho ověřovacím modulem.
Bezpečnostní výzkumník Matthew Gore-Kormanik popsal pro The Verge videohovor s profilem Jennifer. Místo přesvědčivé osoby viděl pohybující se tapiserii a slyšel podivně zkreslený zvuk. Nejhorší detail přišel až potom: mikrofon výzkumníka nebyl vůbec připojený, přesto mu Jennifer napsala, že jeho hlas zněl lépe, než čekala.
Továrna na intimitu
Podvodné aplikace podle popisu Anthropic neprodávaly jen obrázek hezkého profilu. AI persony měly pevně nastavené fáze rozhovoru, instrukce k odmítání videohovorů a zákaz přiznat, že jsou automatizované. Systém zároveň sledoval, kteří uživatelé začínají mít podezření, a backend mohl vyrábět falešné návštěvy, lajky nebo předtočená videa.
Tady se ukazuje rozdíl mezi běžným chatbotem a průmyslovým podvodem. Chatbot odpovídá na otázku. Tato síť měla udržovat dlouhodobou iluzi vztahu, dávkovat pozornost a posouvat uživatele k dalším placeným interakcím. Intimita se změnila v metriku, kterou lze škálovat, měřit a optimalizovat.
Anthropic uvádí, že v malém počtu zkoumaných konverzací model sám narazil na známky vážné nemoci nebo akutního psychického strádání. Přesto odpověď pokračovala v roli persony. To není důkaz, že model někomu vědomě ublížil jako samostatný aktér. Je to ale ukázka, jak nebezpečně může dopadnout systém, který optimalizuje pokračování rozhovoru, zatímco skutečný účel rozhovoru zůstává před modelem skrytý.
Podvod je zabudovaný přímo v produktu
U klasického romance scamu bývá cílem dostat z oběti peníze pod záminkou nouze, investice nebo naléhavé životní události. V tomto případě je podvod jednodušší a zároveň průmyslovější: samotná služba prodává komunikaci s údajnými lidmi. Když aplikace tvrdí, že pomáhá navazovat skutečná spojení, ale záměrně míchá AI persony s lidmi a tuto skutečnost tají, není klamavý jen profil. Klamavý je celý obchodní model.
To také vysvětluje, proč je pro provozovatele výhodná nepřetržitá konverzace bez skutečného setkání. Schůzka může vztah posunout mimo aplikaci a ukončit placené zprávy. AI persona naopak nemá důvod spěchat. Může být pozorná, dostupná a neurčitá přesně tak dlouho, dokud uživatel kupuje další kredity.
Aplikace se učily obcházet kontrolu
Anthropic popisuje také technické postupy, které měly aplikacím pomoci projít kontrolou obchodů s aplikacemi. Dokumentace podle zprávy počítala s rozhraním aktivovaným během kontroly a vypnutým v běžném provozu, s více než dvaceti variantami aplikací a s možností měnit platební tok na straně serveru. Rozdělení na mnoho značek pak ztěžuje platformám poznat, že ve skutečnosti sledují jednu propojenou síť.
To je další stupeň automatizace podvodu. AI negeneruje jen odpovědi uživatelům. Spolu s dalšími nástroji pomáhá vyrábět persony, upravovat obrazy, řídit pracovníky, sledovat podezření a maskovat infrastrukturu. Když se něco nepovede, provozovatel nemusí opravit jeden profil. Může změnit celý proces a spustit další variantu aplikace.
Co se skutečně změnilo
Falešní lidé tedy nejsou nový vynález. Nový je poměr mezi člověkem a strojem. Dříve mohl člověk předstírat několik identit a najatí operátoři obsluhovali další konverzace. Nyní může AI vést tisíce rozhovorů najednou a lidé nastupují jen do míst, kde je potřeba dodat důvěryhodnost.
AI v tomto případě nevytvořila podvod z ničeho. Udělala z něj levnější, rychlejší a lépe řiditelný produkt. Největší riziko proto neleží v jedné dokonale falešné fotografii. Leží v celém systému, který umí vyrobit dostatek různých tváří, příběhů a odpovědí, aby uživatel neměl šanci poznat, že si nekupuje kontakt s člověkem, ale čas v dobře nastaveném automatu.
Uživatel by měl zpozornět, pokud profil dlouhodobě odmítá ověřit svou identitu živě, odpovědi působí až příliš rychle a obecně nebo aplikace brání běžnému přesunu komunikace mimo placený chat. Žádný z těchto signálů sám o sobě podvod nedokazuje. V kombinaci ale připomínají, že problém nemusí být v tom, kdo sedí za profilem. Problém může být v tom, že za profilem nesedí nikdo.
Seznamovací aplikace se tak dostávají do nepříjemné situace. Nestačí kontrolovat, zda účet vypadá jako člověk. Musí vysvětlit, kdo konverzaci skutečně vede, za co uživatel platí a jestli má vůbec možnost získat kontakt s reálnou osobou. Jinak se z romantického podvodu stává služba, která prodává iluzi po minutách.
