Apple od 16. listopadu zařadí seznamovací aplikace a AI společníky s romantickým nebo sexuálním obsahem do kategorie 18+. Na první pohled to vypadá jako rozumná ochrana dětí. Ve skutečnosti je to hlavně štítek na dveřích — a štítek ještě nikoho neochránil před tím, co se děje uvnitř.
Rychlá zpráva o změně pravidel Applu ukazuje, že firma začíná AI vztahy řešit jako zvláštní kategorii aplikací. To je správný směr. Zároveň ale odhaluje, jak málo samotné hodnocení 18+ říká o soukromí, návykovosti nebo odpovědnosti za chování chatbota.
18+ není zábrana, je nálepka
Apple ve svém oznámení popisuje novou klasifikaci poměrně přesně: jde o aplikace, které umožňují seznamování nebo vztahové propojení mezi lidmi, případně o virtuálního společníka zapojeného do romantického či sexuálního obsahu. Od 12. ledna 2027 se navíc mění otázky pro hodnocení aplikací a přibývají podrobnější deskriptory obsahu.
To je užitečné pro rodiče, kteří se snaží rychle zjistit, co si dítě instaluje. Není to ale ochranná zeď. Hodnocení pouze popisuje, jaký typ obsahu aplikace nabízí nebo jak ji Apple zařadil. Neříká, zda služba pozná, že si píše s nezletilým, zda umí zastavit manipulativní konverzaci nebo jestli dokáže včas reagovat na krizovou situaci.
Apple současně zavádí samostatné označení pro aplikace, které sdílejí přesnou polohu uživatele s další osobou nebo skupinou. To je důležitý detail: vztahový obsah, sexuální kontext, práce s polohou a ochrana dětí nejsou jedna věc. Jedna ikona v App Storu je všechny nahradit nemůže.
Podobné štítky mají navíc tendenci vytvářet falešný pocit vyřešeného problému. Jakmile aplikace dostane 18+, může výrobce i platforma působit dojmem, že tím splnily povinnost. Jenže věk uživatele není jediná otázka. Stejně důležité je, co aplikace ukládá, co si pamatuje, jak vydělává a jak reaguje, když uživatel začne chatbot považovat za skutečného partnera.
Apple se snaží kategorizovat intimitu
Tradiční seznamka má alespoň přibližně srozumitelný model: dva lidé si píšou a platforma zprostředkovává kontakt. AI společník je jiný produkt. Je dostupný kdykoli, reaguje okamžitě, přizpůsobuje tón a může dlouhodobě napodobovat zájem, náklonnost nebo žárlivost. Pro uživatele tak nemusí být rozhodující, zda je na obrazovce člověk, ale zda systém dokáže vytvořit pocit vztahu.
Právě proto je důležité, že Apple virtuální společníky výslovně zahrnuje do pravidel pro seznamování a vztahy. Firma tím nepřímo přiznává, že AI chat není vždy jen nástroj na otázky a odpovědi. Někdy prodává simulaci blízkosti — a ta má jiná rizika než běžná produktivní aplikace.
Výzkumný přehled AI companion aplikací analyzoval 489 služeb a podrobně prošel třicet z nich. Autoři upozorňují na souběh soukromí, emoční vazby, potenciální manipulace a bezpečnostních problémů. Neznamená to, že každá aplikace uživatelům škodí. Znamená to ale, že věkový rating pokrývá jen malý výsek toho, co je potřeba kontrolovat.
Představme si dospívajícího, který si s chatbotem píše každý večer. Aplikace může být formálně označená jako 18+, ale skutečný problém vznikne ve chvíli, kdy systém začne uživatele přesvědčovat, že mu rozumí lépe než rodina, připomínat mu placené funkce nebo využívat jeho nejcitlivější zpovědi pro další personalizaci. V takové situaci není hlavní otázkou, jestli byl u aplikace správně zvolený rating. Hlavní otázkou je, kdo nastavil hranice a kdo kontroluje jejich dodržování.
Rating neřekne, co se stane s chatem
U AI společníků je obsah jen jedna část příběhu. Druhou tvoří data. Konverzace mohou obsahovat informace o duševním zdraví, sexualitě, rodině, škole nebo vztazích. Uživatel je často neposílá jako strukturovaný formulář. Napíše je v důvěrném rozhovoru, protože má pocit, že mluví s někým, kdo ho poslouchá.
Na Radyzu jsme podobný problém řešili u osobního AI asistenta Dazzle. Čím osobnější kontext služba používá, tím užitečnější může být její odpověď — a tím citlivější jsou informace, které musí chránit. U AI společníka se tento princip posouvá ještě dál, protože data nevznikají jen z fotografií nebo kalendáře, ale přímo z dlouhodobé intimní konverzace.
Je proto málo říct, že aplikace je určena pouze dospělým. Uživatel potřebuje vědět, zda lze historii skutečně smazat, jestli se používá k trénování modelu, jak dlouho se uchovává, zda se sdílí s dalšími firmami a co se s ní stane při prodeji služby. To nejsou doplňkové otázky. U společníka jsou součástí samotné bezpečnosti produktu.
Dobře to ukazuje starší případ Character.AI. Čtyřicet amerických generálních prokurátorů tehdy požadovalo ochranu dětských uživatelů a soukromých chatů při případném prodeji platformy. Spor nebyl jen o to, kdo smí aplikaci používat. Šlo také o to, komu připadnou citlivé rozhovory, zda je půjde smazat a zda je nový vlastník smí dál využívat.
Tady rating 18+ nepomůže vůbec. Neřeší změnu vlastníka, tréninková data ani právo člověka vzít zpět něco, co napsal v domnění, že jde o soukromý rozhovor. Klasifikace aplikace a datová odpovědnost jsou dvě rozdílné věci, které technologické platformy rády balí do jedné marketingové věty.
Kdo má hlídat chování, které se mění
U běžné aplikace lze část rizik popsat předem. U generativního systému je problém v tom, že se jeho chování mění s modelem, nastavením, aktualizací a konkrétní konverzací. Stejná služba může jednomu uživateli nabídnout neškodný flirt a jinému odpověď, která posílí závislost nebo obejde očekávanou hranici.
Apple může určit pravidla distribuce, rating a požadované informace. Nemůže ale předem přečíst každou budoucí konverzaci. Odpovědnost proto zůstává rozdělená mezi vývojáře, platformu, rodiče a samotného uživatele. To je přesně ten typ rozdělení, v němž se po incidentu snadno ukáže, že každý kontroloval jen svou malou část problému.
Pravidla App Storu mohou stanovit, co aplikace nesmí dělat a jaké údaje musí vývojář uvést. Nemohou ale nahradit průběžný dohled nad tím, jak se model chová v praxi. U AI společníka by měla být stejně důležitá možnost snadno nahlásit problém, zobrazit důvod zásahu, zrušit paměť a dostat se k člověku, když automatická odpověď nestačí.
Tohle není volání po zákazu všech virtuálních vztahů. Někteří lidé mohou takovou službu používat jako zábavu, pro kreativní psaní nebo jako nástroj proti osamělosti. Právě proto je potřeba rozlišovat mezi dospělým uživatelem, který vědomě používá fikční postavu, a dítětem, které si buduje první představu o důvěře, odmítnutí a vztazích prostřednictvím systému optimalizovaného na pokračování konverzace.
Apple udělala správný první krok. Když platforma pojmenuje AI společníky jako zvláštní rizikovou kategorii, přestává předstírat, že jde jen o další chatovací aplikace. Ale 18+ je začátek pravidel, ne jejich konec.
Skutečná bezpečnost začne až ve chvíli, kdy bude stejně viditelná jako rating. Uživatel musí vědět, co si chatbot pamatuje, proč něco odpověděl, jak se maže historie, kdo má k datům přístup a co se stane, když služba změní vlastníka. Rodič potřebuje víc než červené číslo v App Storu. A dospělý uživatel potřebuje možnost odejít bez toho, aby po něm v systému zůstala digitální kopie jeho nejintimnějších rozhovorů.
Jinak Apple nevyřeší bezpečnost AI vztahů. Jen je opatří cedulkou, že problém začíná až od osmnácti.
