Rychlá zpráva Radyzu o DraftKings popisuje případ, který působí jako nepříjemná parodie na personalizaci. Systém nemá hledat hráče, kterým hazard škodí, aby je včas zastavil. Má hledat ty, u nichž je největší šance, že po prohře znovu vsadí – a nabídnout jim důvod vrátit se.
Podle New York Times používá DraftKings záznamy o sázení k trénování modelu strojového učení, který vyhledává zákazníky s pravděpodobností dalších proher a zároveň s ochotou reagovat na hazardní propagaci. Electronic Frontier Foundation ten případ popisuje jako ukázku toho, jak může behaviorální reklama využít zranitelnost člověka místo toho, aby ji zmírnila.
Stejná data, opačný účel
Na první pohled nejde o nic úplně nového. Online služby dlouho sledují, co lidé dělají, a podle toho jim nabízejí další obsah, produkty nebo slevy. Rozdíl je v tom, co se z dat vyvozuje a jaký cíl má následná nabídka.
U zodpovědného hazardu by se historie sázek mohla použít k upozornění na rizikové chování, k nabídce pauzy nebo k omezení marketingu. V popisovaném modelu se ale stejná historie používá opačně: má najít člověka, který pravděpodobně prohraje, ale současně se nechá přesvědčit k dalšímu hraní. Z pohledu provozovatele je to cenný zákazník. Z pohledu člověka může jít o chvíli, kdy potřebuje ochranu před vlastním impulzem, ne další bonus.
Tady se personalizace láme. Ne ve chvíli, kdy reklama ví, že někdo sází. Zlom přichází ve chvíli, kdy systém rozpozná, že uživatel na svém chování prodělává, a tuto znalost použije k tomu, aby ho udržel ve stejném cyklu.
Predikce prohry není ochrana před prohrou
DraftKings podle popisu necílí na každého hráče stejným způsobem. Model má vytipovat kombinaci dvou vlastností: pravděpodobnost, že člověk prohraje, a pravděpodobnost, že zareaguje na nabídku a vrátí se. Výsledkem není obecná reklama na sportovní sázky, ale výběr lidí, u kterých se očekává nejvýnosnější další kolo.
To je důležité i kvůli jazyku, kterým se podobné systémy obvykle obhajují. Firma nemusí tvrdit, že chce někoho poškodit. Může mluvit o relevanci, personalizaci, lepším načasování kampaně nebo efektivnějším využití vlastních dat. Model přitom nemusí rozumět závislosti ani lidskému utrpení. Stačí, že najde statistický vzorec, který zvyšuje pravděpodobnost další sázky.
Právě v tom je problém. Optimalizace na kliknutí nebo návrat uživatele vypadá technicky neutrálně, ale u hazardu má každý další krok jinou váhu než u reklamy na boty. Provozovatel ví, že cílem není jen návštěva webu. Cílem je další finanční rozhodnutí v prostředí, kde část lidí ztrácí kontrolu nad tím, kolik a jak často sází.
Když se zranitelnost stane obchodní signál
Pojem problémový hráč se často používá jako kategorie pro prevenci, odpovědné hraní a práci s rizikem. V tomto případě se však zranitelnost může proměnit v obchodní signál. Člověk, který opakovaně prohrává a přesto se vrací, není pro model jen někým, komu je třeba nabídnout pomoc. Může být vyhodnocen jako někdo, komu se vyplatí poslat další pobídku.
To převrací obvyklou představu o personalizaci. Užitečné doporučení by mělo člověku šetřit čas nebo mu nabídnout něco, co skutečně hledá. Tady systém hledá okamžik, kdy se uživatel rozhoduje pod tlakem předchozí ztráty, frustrace nebo naděje na vyrovnání účtu. Reklama pak nevyužívá lepší znalost vkusu. Využívá znalost slabého místa.
Podobná hranice se objevuje i mimo hazard. V případu Meta a profilování jsme řešili, jak může AI z veřejného nebo uživatelského obsahu vytvořit závěr, který člověk nikdy sám neformuloval. U DraftKings je mechanismus přímočařejší: systém bere historii chování a převádí ji na rozhodnutí, komu nabídnout další důvod pokračovat.
První strana dat neznamená první stranu odpovědnosti
DraftKings má podle EFF používat především takzvaná first-party data – tedy informace, které získává přímo od vlastních zákazníků. To může znít méně děsivě než nákup profilů od datových brokerů. Firma přece pracuje s vlastní historií sázek, ne s tajným souborem z úplně jiné služby.
Jenže původ dat neřeší účel jejich použití. Uživatel mohl souhlasit s vedením účtu, vyhodnocením sázek nebo zobrazováním nabídek. Z toho automaticky neplyne, že očekává model, který ho označí za člověka s vysokou pravděpodobností další prohry a podle tohoto odhadu mu načasuje reklamu.
To je podobné jako rozdíl mezi tím, že služba data má, a tím, že smí z dat odvodit libovolný citlivý závěr. Historie sázek není jen seznam kliknutí. Může vypovídat o finanční situaci, návycích, stresu i o tom, jak člověk reaguje na ztrátu. Čím přesněji AI takové vzorce hledá, tím méně přesvědčivě působí argument, že jde jen o běžnou marketingovou segmentaci.
Reklama v ChatGPT ukazuje stejný směr
Na Radyzu jsme psali také o tom, jak se reklamy v ChatGPT posouvají od jednoduchého prostoru pro inzerát k cílení podle kontextu a zájmů. Samotné kontextové zobrazování reklamy není totéž co cílení na hráče, kteří pravděpodobně znovu prohrají. Společný je ale směr: platforma se snaží z uživatelských interakcí vytěžit přesnější odhad toho, co člověka přiměje k dalšímu kroku.
Rozdíl mezi užitečnou personalizací a manipulací proto nebude možné určit jen podle toho, zda firma používá vlastní nebo cizí data, ani podle toho, zda reklama odpovídá tématu právě otevřené stránky. Důležitější je, zda systém pracuje s citlivou zranitelností a zda jeho úspěch znamená pro uživatele skutečný prospěch, nebo jen vyšší pravděpodobnost další transakce.
Co by měla znamenat odpovědná personalizace
U hazardu by dávalo smysl nastavit hranici opačně než u běžné reklamy. Čím silnější signály ztráty kontroly systém vidí, tím méně marketingových pobídek by měl člověk dostávat. Model by mohl pomoci nabídnout pauzu, limity nebo informace o pomoci. Neměl by hledat nejúčinnější způsob, jak člověka po prohře dostat zpět na platformu.
To vyžaduje víc než obecnou možnost vypnout personalizované reklamy. Uživatel by měl vědět, zda je zařazen do segmentu podle svého chování, jaké typy signálů se pro marketing používají a zda lze takové cílení skutečně odmítnout. Nestačí skrýt volbu v nastavení, zatímco samotný obchodní model zůstane postavený na tom, že ztráty některých lidí jsou pro platformu předvídatelným zdrojem příjmů.
Regulace může řešit sdílení dat, prodej profilů nebo transparentnost reklamy. Případ DraftKings ale ukazuje, že problém může vzniknout i bez třetí strany. Firma může mít dost informací sama a může je zpracovat přesně tak, aby našla člověka, který je pro další nabídku nejzranitelnější.
Kdo má z personalizace skutečný prospěch?
Na reklamě není samo o sobě nic podezřelého jen proto, že je cílená. Systém, který nabídne běžnému zákazníkovi relevantnější produkt, může být pohodlnější než náhodná reklama. U hazardu však nestačí ptát se, zda nabídka odpovídá minulému chování. Je potřeba ptát se, zda toto chování neukazuje na problém, který by měl spustit ochranu.
Případ DraftKings je proto větší než spor o jeden model nebo jednu marketingovou kampaň. Ukazuje, že AI umí z běžných provozních dat vytvořit predikci, která je pro firmu velmi cenná právě proto, že popisuje lidskou slabost. A jakmile se z pravděpodobné prohry stane signál pro další nabídku, personalizace už neslouží člověku. Slouží systému, který chce, aby se vrátil a zkusil to znovu.
