AI asistent může o člověku zjistit leccos z e-mailů, kalendáře nebo historie nákupů. Dazzle, nový projekt bývalé šéfky Yahoo Marissy Mayerové, zkouší jinou cestu: bere si jako hlavní zdroj kontextu fotografie uložené v telefonu. Zní to osobněji než další chatbot napojený na schránku. A právě proto je namístě ptát se, co všechno se z takové galerie dá vyčíst.
Mayerová službu představila v rozhovoru pro TechCrunch. Dazzle má podle jejího popisu rozpoznávat opakující se zájmy, místa, jídlo nebo aktivity a využít je při doporučování výletů či dárků. Zprávu jsme shrnuli také v rychlé zprávě o představení Dazzle.
Fotky nejsou jen obrázky z dovolené
Galerie v telefonu působí jako soubor jednotlivých okamžiků. Když se ale snímky poskládají dohromady, mohou prozradit, kam člověk jezdí, s kým tráví čas, co kupuje, jaké má koníčky nebo jak se mění jeho rutina. Dazzle chce podobné vzorce využít k tomu, aby nabídlo doporučení, která nejsou zaměnitelná s obecnou odpovědí z jazykového modelu.
V ukázce pro TechCrunch asistentka navrhla nová místa pro rodinný výlet na základě opakujících se zájmů zachycených na fotkách. Reportérka dostala tipy na aktivity, které jí připadaly osobnější než návrhy asistenta, jenž zná pouze kalendář a e-mail. Zároveň se ukázala i obyčejná slabina: systém přehlédl, že dítě už umí jezdit na kolečkových bruslích, přestože to mohl vyvodit z dřívějšího kontextu.
To je důležitý rozdíl mezi působivou demonstrací a spolehlivým osobním asistentem. Fotografie mohou nabídnout bohatý kontext, ale ne vždy vysvětlují, co na nich je nebo proč je to pro člověka důležité. Model může odhadnout, že někdo rád cestuje, a přitom minout praktický detail, který by člověk považoval za samozřejmý.
Soukromí se nedá vyřešit jednou větou
Mayerová podle TechCrunch tvrdí, že Dazzle upřednostňuje soukromí a zahazuje osobní informace, které systém vyhodnotí jako citlivé. To je ale popis firmy zprostředkovaný novinářským rozhovorem, nikoli nezávislý bezpečnostní audit nebo důkaz, že se s fotografiemi zachází bez rizika. Z dostupného článku také nelze vyvozovat konkrétní technické detaily o ukládání, šifrování, době uchování nebo přístupu zaměstnanců.
Právě tady se láme důvěra. Fotka může zachytit nejen majitele telefonu, ale i děti, přátele, adresu na balíku, školní dokument nebo člověka, který netuší, že se jeho podoba stane součástí analýzy. Souhlas s používáním vlastní aplikace proto automaticky neznamená, že každý člověk v galerii souhlasil s tím, aby se jeho přítomnost proměnila v další datový bod.
Podobná otázka se objevuje i u dalších osobních asistentů. V článku o předávání citlivých údajů AI jsme řešili rozpor mezi obavou z falešného obsahu a ochotou svěřovat službám vlastní data. U Dazzle je rozdíl v tom, že část informací nemusí uživatel vůbec zadat: systém je může odvozovat z obrázků, jejich opakování a souvislostí.
To samo o sobě neznamená, že Dazzle fotografie zneužívá. Znamená to, že obecné ujištění o soukromí nestačí k posouzení služby. Uživatel potřebuje vědět, zda fotografie opouštějí zařízení, které údaje se uchovávají, zda se používají k trénování modelů, jak lze historii smazat a jak služba zachází s lidmi zachycenými na snímcích. Bez jasných odpovědí zůstává rozhodnutí hlavně sázkou na důvěru.
Užitečnost roste spolu s citlivostí kontextu
Dazzle ukazuje, proč se firmy snaží dát AI asistentům dlouhodobou paměť a osobní kontext. Čím více o člověku systém ví, tím méně generické mohou být jeho návrhy. Jenže stejný posun zvyšuje cenu chyby: nepřesný odhad může být trapný, zatímco únik nebo špatné použití osobních údajů zasáhne lidi, kteří s aplikací nikdy přímo nekomunikovali.
Osobní asistent proto nebude dobrý jen proto, že si pamatuje více. Musí také umět ukázat, z čeho své závěry odvodil, opravit mylný profil a nechat člověka rozhodnout, které části jeho života do něj vůbec patří. To je podstatnější test než to, zda dokáže z fotografie přečíst leták nebo vymyslet víkendový program.
Dazzle je zatím příslib konkrétního produktu, ne důkaz, že je problém vyřešený. Pokud se jeho přístup osvědčí, může nabídnout osobnější pomoc bez prohledávání každé schránky a konverzace. Zároveň ale připomíná, že soukromí není jen otázka toho, zda AI čte e-mail. Někdy stačí, že se dívá na fotografie, které jsme si ukládali pro sebe.
