Google testuje funkci Call for Me, ve které Gemini zavolá firmě místo uživatele, projde automatickou nabídku, počká na volného pracovníka a vyřídí běžný požadavek. Zatím jde o experiment pro majitele telefonů Pixel 11 ve Spojených státech, kteří mají placené předplatné Gemini a beta verzi aplikace Telefon. Rychlá zpráva Radyzu popisuje funkci jako další posun od hlasového asistenta k agentovi, který jedná jménem člověka.
Na první pohled je to hlavně pohodlná drobnost. Nikdo nechce půl hodiny poslouchat hudbu na zákaznické lince kvůli tomu, aby zjistil, jestli má obchod určitou velikost bot, přesunul termín schůzky nebo rezervoval stůl v restauraci. Jenže telefonát není vyhledávání na webu. V hovoru se může objevit nečekaná otázka, nejasná odpověď, změna ceny nebo požadavek na údaj, který člověk původně vůbec nechtěl sdílet.
Asistent už neodpovídá. Začíná jednat
Dosavadní hlasová AI většinou fungovala jako rozhraní. Uživatel se zeptal, model odpověděl, případně něco vyhledal nebo připomněl. Call for Me je jiný typ úkolu: Gemini dostane cíl a musí ho naplnit v prostředí, které nemá pod kontrolou. Musí rozumět hovoru, reagovat na člověka, projít telefonní menu a poznat, kdy už je možné požadavek uzavřít.
Podle popisu funkce v TechCrunch může Gemini zjišťovat dostupnost zboží, rezervovat restauraci, přesouvat termíny nebo nechat výrobek odložit. Uživatel má sledovat živý přepis hovoru a kdykoli se do něj zapojit. Asistent navíc používá vlastní telefonní číslo uživatele a může sdílet osobní údaje, které mu člověk předem povolí.
Právě to je důležitá hranice. Když chatbot špatně pochopí otázku, člověk jeho odpověď přečte a může ji ignorovat. Když špatně pochopí telefonát, může vzniknout rezervace, přesunutý termín nebo příslib, který už bude někdo považovat za platný. AI se tím dostává z prostoru rad do prostoru následků.
Člověk nechce dalšího robota na druhé straně
Technologie má ještě jeden problém, který se v produktových oznámeních často ztrácí: lidé hlasovým asistentům nevěří tak snadno, jak by si výrobci přáli. Nejde jen o to, zda hlas zní přirozeně. Uživatel chce vědět, jestli systém správně pochopil jeho požadavek, jestli si nevymyslel odpověď a jestli během hovoru neudělal něco, co by člověk sám neschválil.
Přirozený hlas důvěru někdy zvyšuje, ale může ji také komplikovat. Když AI mluví příliš mechanicky, člověk rychle pozná, že komunikuje se softwarem, a podle toho si hlídá každé slovo. Když zní příliš lidsky, může naopak vzniknout falešný pocit, že na druhé straně je někdo, kdo situaci opravdu chápe. Jenže model nemá lidský úsudek ani odpovědnost. Má pouze pravděpodobný další krok.
Podobný rozpor jsme viděli už u hlasových chatbotů. Hlasový ChatGPT působí přesvědčivě hlavně díky rychlosti, intonaci a schopnosti nechat člověka domluvit. To je dobré rozhraní, ale samo o sobě to není důkaz porozumění. U telefonátu s firmou bude rozdíl ještě důležitější, protože výsledek může ovlivnit peníze, termín nebo službu, kterou člověk dostane.
Největší riziko není dramatická chyba. Je to nenápadný omyl
Představa, že AI během hovoru pronese úplný nesmysl, se dobře prodává v titulcích. V praxi mohou být horší drobné chyby, které znějí dost rozumně na to, aby si jich nikdo hned nevšiml. Model může zaměnit podobné názvy produktů, špatně zopakovat datum, přehlédnout podmínku rezervace nebo potvrdit něco, co pracovník řekl jen předběžně.
U běžného dotazu se dá chyba opravit. U změny termínu nebo rezervace už může uživatel zjistit problém až ve chvíli, kdy se na místo dostaví. Pak vzniká nepříjemná otázka: kdo nese odpovědnost? Google, protože vytvořil systém? Firma, která hovor přijala? Nebo uživatel, který stiskl tlačítko a nechal AI jednat?
Technické řešení proto nebude stát jen na kvalitnějším rozpoznávání řeči. Systém musí umět rozlišit mezi informací, návrhem a potvrzením. Musí vědět, kdy může něco pouze zjistit, kdy smí požadavek dokončit a kdy má hovor předat člověku. A uživatel by měl předem vidět nejen to, že AI zavolá, ale také co přesně smí během hovoru udělat.
- Co může AI sdělit za uživatele.
- Které osobní údaje smí použít.
- Zda může něco rezervovat, objednat nebo přesunout.
- Kdy se má hovor zastavit a předat člověku.
- Jak se řeší spor, pokud výsledek hovoru neodpovídá očekávání.
Tohle nejsou akademické detaily. Jsou to základní nastavení služby. Pokud je výrobce schová za několik obrazovek a obecné tlačítko „pokračovat“, lidé nebudou mít skutečnou kontrolu, i když aplikace bude technicky nabízet možnost hovor sledovat.
Nedůvěra může být zpočátku výhodou
Paradoxně může být dnešní nedůvěra uživatelů k AI zdravou brzdou. Člověk, který nevěří hlasovému asistentovi, si pravděpodobně přepis přečte, zkontroluje výsledek a citlivější hovor raději vyřídí sám. Uživatel, který má z přirozeného hlasu pocit spolehlivého osobního sekretáře, může naopak přestat kontrolovat, co se během hovoru skutečně stalo.
Výrobci budou chtít, aby používání bylo co nejplynulejší. Každé potvrzení navíc zpomaluje prostředí a připomíná, že za obrazovkou není člověk, ale pravděpodobnostní systém. Jenže právě tato připomínka může být užitečná. U úkolu, který má pouze vyhledat otevírací dobu, překáží. U hovoru, který mění rezervaci nebo pracuje s osobními údaji, je na místě.
Důvěra se navíc nedá vynutit marketingem. Lidé si budou pamatovat první nepříjemné případy: špatně přesunutou schůzku, falešně potvrzenou rezervaci nebo situaci, kdy pracovník na lince odmítl jednat s automatickým volajícím. Jeden takový zážitek může zničit ochotu používat funkci i u mnohem jednodušších úkolů.
Firmy dostanou na linku dalšího volajícího
Druhá strana hovoru se také mění. Firma, která dnes obsluhuje zákazníky, může brzy přijímat telefonáty od lidí i od jejich agentů. Některé hovory budou kratší a přesnější, jiné se mohou změnit v automatizované vyjednávání mezi dvěma systémy, které si navzájem předávají nabídky a podmínky.
To může být efektivní, ale také nepřehledné. Obchod bude potřebovat poznat, že volá AI, rozhodnout, jaké požadavky automat přijme, a zaznamenat výsledek tak, aby ho později dokázal vysvětlit. Pokud jedna strana tvrdí, že rezervace vznikla, a druhá tvrdí, že šlo jen o předběžnou nabídku, nebude stačit říct, že „to tak model pochopil“.
V tomto směru je zajímavé, že některé firmy už k automatizaci zákaznické podpory přistupují opatrněji. Omilia například upozorňuje, že AI nemá smysl nasadit na každý dotaz a že část případů má dál řešit člověk. Stejná logika platí i pro odchozí hovory: automatizovat lze rutinu, ale ne každou situaci, která na začátku vypadá jako jednoduchá.
Nejlepší použití bude nudné
Call for Me nemusí být začátkem éry osobních robotických sekretářů. Může zůstat skromnou funkcí, která za člověka vyřídí několik typů opakovaných telefonátů. A to by vůbec nebylo málo.
Největší smysl dávají situace, ve kterých je cíl přesně definovaný, výsledek snadno ověřitelný a případná chyba levná. Zjištění dostupnosti zboží, otevírací doby nebo volného termínu je jiná úloha než reklamace, změna smlouvy nebo řešení platby. Čím více prostoru má pracovník na druhé straně pro vlastní interpretaci, tím méně by měl AI hovor dokončovat bez člověka.
Google podle TechCrunch uvádí, že experiment spouští v malém, protože skutečné rozhovory jsou nuancované. To je možná nejpřesnější popis celé funkce. Problém není v tom, že by AI neuměla mluvit. Problém je v tom, že telefonní hovor je plný drobných významů, očekávání a společenských pravidel, která se obtížně převádějí na jednoduchý úkol.
Pokud má podobná funkce získat důvěru, nebude stačit působivý hlas ani rychlé demo. Uživatel potřebuje jasný přepis, možnost okamžitě zasáhnout, viditelné hranice oprávnění a spolehlivý záznam toho, co bylo skutečně potvrzeno. A firmy musí mít možnost říct, že s automatizovaným volajícím nechtějí uzavírat určité typy dohod.
AI, která čeká na lince místo nás, je užitečný nápad. AI, která za nás rozhodne, co během hovoru platí, je mnohem větší zásah do běžného života. Rozdíl mezi těmito dvěma věcmi nebude určovat kvalita hlasu, ale míra kontroly, kterou výrobci ochotně nechají člověku.
