Představme si školu, ve které žák odevzdá bezchybný matematický postup, ale neumí vysvětlit, proč v něm udělal jediný krok. Na papíře je všechno v pořádku. V hlavě se možná nestalo vůbec nic. Pokud takovou situaci prohlásíme za úspěch vzdělávání, problém není v příliš schopné umělé inteligenci. Problém je v tom, že jsme si spletli hotový výsledek s člověkem, kterého mělo jeho hledání něco naučit.
Právě k tomuto rozdílu se z nečekané strany dostává animátor a ilustrátor Mitchell Zemil. Jeho esej o AI v matematice zveřejnil 23. října Grant Sanderson na mailing listu 3Blue1Brown. Na Radyz jsme o ní psali v rychlé zprávě o lidské hodnotě matematiky. Zemil nepřináší nový matematický důkaz. Přináší zkušenost z oboru, který už musí obhajovat, proč má člověk něco tvořit, když si jiný člověk může objednat výstup od stroje.
Ta otázka je důležitější než další soutěž o to, který model vyřešil těžší zadání. I kdybychom pro účely úvahy dostali stroj, který se nikdy nemýlí, pořád bychom museli rozhodnout, co vlastně chceme automatizovat. Výpočet? Hledání důkazu? Nebo také příležitost vypěstovat si vlastní úsudek? To poslední není úspora stejného druhu.
Umělec se ptá na něco jiného než výrobce modelu
V původní eseji An artist’s take on AI in math Zemil otevřeně říká, že není matematik. Živí se animací, učí ji a věnuje se také dalším výtvarným činnostem. Sandersonův úvod potvrzuje, že jde o příspěvek nového člena týmu 3Blue1Brown, nikoli o Sandersonův vlastní text. Je dobré to nezaměnit: mluví tu umělec o zkušenosti s tvorbou, ne laboratoř oznamující naměřené schopnosti AI.
Zemil popisuje, proč se část uměleckého prostředí ke generování staví odmítavě. Vedle ohrožení obživy a otázek původu trénovacích dat upozorňuje na vztah mezi dílem a člověkem, který se naučil je vytvořit. Výsledek podle tohoto pohledu nese zkušenost autora, jeho vztah k nástrojům i jednotlivá rozhodnutí. Vybrat si z nabízených obrázků ten nejhezčí proto pro skeptika není stejná činnost jako obrázek nakreslit.
S tím nemusíme souhlasit ve všech důsledcích. I výběr, zadání a následné úpravy mohou být skutečnou tvůrčí prací. Nemá smysl předstírat, že každý uživatel generátoru jen mačká tlačítko, zatímco každé ručně vytvořené dílo oplývá hlubokým záměrem. Rozdíl ale nelze vymazat větou, že jsme pouze dostali další nástroj. Některé nástroje nám umožní činnost dělat lépe. Jiné nám umožní její podstatnou část vůbec nedělat.
Zemil si navíc všímá něčeho nepohodlného i pro odpůrce AI: umění má dlouhou historii rozšiřování přístupu. Nová technika nemusí být jen hrozbou pro zavedené profesionály. Může otevřít prostor lidem, kteří by dříve neměli prostředky ani dovednosti k určitému druhu vyjádření. Hájit lidskou tvorbu proto neznamená zakonzervovat seznam těch, kdo smějí tvořit. Znamená to nezredukovat tvorbu na zásobování trhu obrázky.
Pravdivý důkaz nikoho nenaučí rozumět sám od sebe
V matematice má hotový výsledek jinou povahu než obraz nebo skladba. Platnost tvrzení nezávisí na tom, zda se nám líbí autorův příběh. Zemil tento rozdíl uznává, ale odmítá představu matematiky jako seznamu úkolů, které stačí odškrtávat dostatečně rychlým strojem. Připomíná lidi, kteří dokážou výsledky vysvětlovat a předávat zájem o obor dál.
Naše redakční námitka proti kultu hotové odpovědi je jednoduchá: existence správného řešení a existence člověka, který mu rozumí, jsou dva různé výsledky. Když potřebujeme technický výpočet, může nás právem zajímat především ten první. Když vychováváme člověka, který bude jednou podobné problémy rozpoznávat a řešit, nemůžeme druhý odepsat jako zbytečný vedlejší náklad.
Podobnou hranici z jiného směru zachycuje rozlišení Alexe Rutara mezi porozuměním důkazu a strojovým ověřením. Kontrola platnosti a pochopení nejsou totožný cíl. Není to argument proti počítačové kontrole. Je to důvod přestat používat slovo „vyřešeno“ jako univerzální odpověď na otázku, zda se člověk něco naučil.
Představme si studenta, který dostane správně odvozený vztah. Učitel změní jeden předpoklad a zeptá se, co přestane platit. Teprve teď se ukáže rozdíl mezi převzetím postupu a orientací v problému. Tohle je náš příklad, nikoli výsledek experimentu popsaného v Zemilově eseji. Ukazuje ale, proč se ve vzdělávání nemáme spokojit s dokonalým odevzdaným dokumentem.
Zákaz AI by sám o sobě tuto potíž nevyřešil. Také opsaná učebnice může vypadat přesvědčivě a mechanicky naučený postup může fungovat až do první nezvyklé otázky. AI zvyšuje naléhavost starého problému: umíme rozpoznat porozumění, nebo jen hodnotíme jeho dobře upravené stopy?
Ne každá námaha je cenná. Některou ale přeskočit nemáme
Romantika utrpení u prázdného papíru není dobrá vzdělávací metoda. Člověk nemusí ztratit odpoledne přepisováním vzorce, aby si zasloužil poznání. Zemil ostatně sám připouští, že obdiv k uměleckému úsilí může sklouznout k přehnanému oslavování dřiny. Obhajovat učení nemá znamenat obhajovat každou nepohodlnost, kterou jsme kdysi museli snášet my.
Jenže z toho neplyne, že veškeré zdržení je odpad. Pokus, při kterém člověk zjistí, proč jeho nápad nefunguje, může být přesně tou částí práce, kterou potřebuje absolvovat. Generátor mu může dodat krásné vysvětlení chyby. Pokud se ovšem naučí jen čekat na další vysvětlení, ještě jsme mu nepomohli získat samostatnost.
Proto bychom se v hodině matematiky neptali pouze, zda student smí použít AI. Ptali bychom se, k čemu ji použil a co zvládne bez její okamžité nápovědy. Umí sám sestavit první úvahu? Dokáže označit krok, kterému nevěří? Pozná, že řešení odpovídá jiné otázce? Následná krátká diskuse může mít pro ověření porozumění větší cenu než další bezchybná stránka.
To je redakční doporučení, nikoli Zemilem ověřená výuková metoda. Jeho text je esej, ne studie vzdělávacích výsledků. Právě proto z něj nemá vzniknout další senzační zpráva o konci matematiků. Smysluplnější je vzít jeho otázku vážně a přenést ji do konkrétního rozhodování: kdy má asistent odstranit překážku a kdy by za člověka odstranil samotný důvod cvičení.
Stejný metr bychom měli použít i mimo školu. Kdo si chce nechat vytvořit ilustraci pro vlastní projekt, nemusí chtít absolvovat roky výtvarného vzdělání. To je legitimní volba. Kdo se chce stát ilustrátorem, sleduje jiný cíl než získání jednoho hotového souboru. Oběma lidem nabízet tutéž zkratku jako totožný pokrok je špatná rada.
Lidská hodnota nestačí, pokud na ni nikdo nedá čas
Zemil uzavírá esej důvěrou, že dokud lidé oceňují lidskou činnost, zůstane pro její nositele místo. Přirovnává to k baletu: dokud si vážíme návštěvy představení, budou existovat tanečníci. Je v tom rozumná připomínka, že hodnota činnosti nemusí zmizet jen proto, že lze vyrobit nějakou náhradu jejího výstupu.
Tady bychom ale byli méně uklidnění než autor. Kulturní obdiv ještě není rozpočet, pracovní místo ani čas učitele. Můžeme nadšeně vyprávět o hodnotě lidských matematiků a současně organizovat školu tak, aby se stihlo jen odevzdávání a známkování. Můžeme chválit originální umělce a jejich práci přitom považovat za náklad, který je nutné co nejrychleji odstranit. Ten rozpor nevyřeší ujištění, že člověk bude vždycky důležitý.
Chceme-li lidské porozumění opravdu zachovat, musí dostat prostor: čas na vlastní pokus, dostupné vedení, možnost dělat chyby i příležitost vysvětlovat. Pouhé doporučení „používejte AI zodpovědně“ je v takové debatě levné. Podstatné je, jestli škola nebo zaměstnavatel uznají práci na porozumění, i když první hotový výstup vznikne rychleji bez ní.
Nejlepší obhajoba lidské matematiky proto není tvrzení, že stroje nikdy nedokážou něco, co umíme my. Taková obrana stojí na cizím produktovém kalendáři. Silnější důvod je prostší: chceme být lidmi, kteří dokážou přemýšlet o světě, ne jen odběrateli odpovědí. Ne každý příklad musíme vyřešit sami. Některé se ale učíme řešit právě proto, abychom se sami dokázali rozhodnout, kdy cizí odpovědi věřit.
