Ještě před dvěma lety byla umělá inteligence v programování hlavně terčem posměchu. Psala nefunkční kód, vymýšlela si neexistující knihovny a při řešení složitějšího problému dokázala s naprostou jistotou vytvořit něco, co se rozpadlo hned při prvním spuštění.
Programátoři proto měli jasno. AI jejich práci nenahradí, protože dělá příliš mnoho chyb.
Microsoft nyní tento argument obrací naruby. Představil Project Perception, agentní bezpečnostní systém, který má pomocí umělé inteligence hledat zranitelnosti v softwaru, vyhodnocovat jejich závažnost a navrhovat opravy. Jeho součástí je nový specializovaný model MAI-Cyber-1-Flash určený právě pro odhalování bezpečnostních chyb.
Ironie je téměř příliš snadná. Výrobce Windows vyvinul AI na hledání děr v softwaru. Tréninkového materiálu rozhodně neměl nedostatek.
Jenže za obvyklým vtipem o děravých Windows se skrývá mnohem důležitější změna. AI totiž nemusí být lepším programátorem než člověk. Nemusí navrhnout celý operační systém, rozumět každému požadavku zákazníka ani samostatně řídit vývoj velkého projektu.
Stačí, když bude schopná projít miliony řádků lidského kódu rychleji, levněji a důkladněji než bezpečnostní tým.
Microsoft posílá do kódu celý tým agentů
Project Perception nemá fungovat jako obyčejný chatbot, kterému někdo vloží kus programu a zeptá se, zda v něm nevidí chybu.
Microsoft systém rozdělil do několika skupin specializovaných agentů. Červení agenti hledají možné cesty k napadení. Modří vyhodnocují kontext a rozhodují, zda nalezený problém představuje skutečné riziko. Zelení následně navrhují nebo provádějí nápravu.
Systém tak má napodobovat činnost celého bezpečnostního týmu, pouze v rychlosti, při které si lidský analytik sotva stihne zalít kávu.
Microsoft tvrdí, že konfigurace využívající MAI-Cyber-1-Flash dosáhla 96 procent v benchmarku CyberGym a snížila náklady téměř o polovinu proti současnému řešení. Veřejné testování Project Perception má začít 3. srpna 2026. Jde zatím o výsledky prezentované samotným Microsoftem, takže určitá dávka opatrnosti je na místě. Technologické firmy mají zvláštní talent vyhrát závod, který si samy uspořádaly.
Základní technologie ale není jen ukázkou v prezentaci. Microsoft už dříve uvedl, že jeho víceagentní bezpečnostní systém pomohl výzkumníkům najít 16 nových zranitelností v síťových a ověřovacích součástech Windows. Mezi nimi byly i čtyři kritické chyby umožňující vzdálené spuštění kódu.
AI tedy nehledala pouze uměle vložené chyby v laboratorním testu. Našla skutečné problémy v produktu, který vyvíjejí tisíce zkušených lidí a který se opravuje desítky let.
Bezchybný lidský programátor nikdy neexistoval
Kritika AI generující špatný kód byla oprávněná. Problém byl v závěru, který z ní část lidí vyvodila.
Pokud AI dělá chyby, neznamená to, že lidé chyby nedělají. Znamená to pouze, že je AI v určité chvíli dělala častěji, hloupěji a nápadněji.
Současný software není výsledkem práce osamělého génia, který má celý systém v hlavě. Vzniká z milionů řádků kódu, stovek knihoven, externích služeb, starých oprav a rozhodnutí lidí, kteří už ve firmě dávno nepracují. Některé části se používají desítky let, protože na ně nikdo nechce sahat. Jiné drží pohromadě jen proto, že zatím nikdo nezadal přesně tu kombinaci vstupů, při které se rozpadnou.
Představa bezchybných lidských programátorů byla vždy spíš marketing než realita. Každý měsíc ji připomínají bezpečnostní aktualizace Windows, prohlížečů, telefonů, serverů i prakticky všeho, co obsahuje procesor a má tu smůlu, že je připojeno k internetu.
AI nyní začíná tento nepořádek systematicky procházet.
Výsměch vystřídal nervózní pragmatismus
Změna je vidět také v programátorských diskusích.
Dříve se často řešilo, zda AI vůbec dokáže napsat použitelnou funkci. Dnes se stále častěji řeší, kolik práce může převzít, jak kontrolovat její výstupy a zda firmy kvůli vyšší produktivitě nezačnou zmenšovat vývojové týmy.
Názor, že AI kompletně nahradí zkušeného vývojáře, zůstává spíše menšinový. Modely stále chybují, špatně chápou nejasné požadavky a při práci s rozsáhlým projektem mohou vytvořit další technický dluh. Programátoři popisují i případy, kdy jim AI práci nezrychlila, ale naopak přidala hodiny opravování sebevědomě napsaného nesmyslu.
Obavy se ale přesouvají jinam.
Firma nemusí propustit celý tým a nahradit ho jedním chatbotem. Stačí, když pět lidí s AI zvládne práci, na kterou dříve potřebovala osm. Nemusí vzniknout autonomní robotický programátor. Úplně postačí tabulka, ve které finanční oddělení zjistí, že se další tři zaměstnanci nevejdou do nového rozpočtu.
Nejohroženější přitom nemusí být zkušení vývojáři, kteří znají produkt, zákazníky a historii systému. Větší problém mohou mít junioři.
Právě začátečnické úkoly, jednoduché opravy, testy, dokumentaci nebo základní části aplikací dokáže AI přebírat nejrychleji. V diskusích mladých programátorů se proto stále častěji objevuje nejistota, zda má smysl obor vůbec studovat a jaké dovednosti budou firmy požadovat za několik let.
Firmy tím mohou krátkodobě ušetřit. Zároveň si ale mohou zničit systém, kterým si vychovávaly budoucí seniory. Seniorní programátor se totiž nerodí automaticky po aktualizaci licence. Nejprve musí několik let dělat práci juniora, dělat chyby, opravovat je a postupně pochopit, proč celý ten technický cirkus ještě stále běží.
Odmítat AI začíná být stejně riskantní jako jí slepě věřit
Programátorská komunita se nerozdělila jednoduše na nadšené uživatele a odpůrce. Častější je mnohem praktičtější postoj: AI není spolehlivý programátor, ale může být velmi užitečný nástroj v rukou člověka, který pozná, kdy produkuje nesmysly.
Používá se pro vytváření testů, vysvětlování cizího kódu, dokumentaci, hledání problémů, menší opravy nebo převody mezi programovacími jazyky. Ne proto, že by jí vývojáři bezvýhradně věřili. Používají ji proto, že kolega vedle nich s ní může některé úkoly dokončit rychleji.
Úplné odmítání AI se tak pomalu mění z principiálního postoje na možné profesní riziko.
Programátor, který AI slepě kopíruje, může do systému zanést chyby. Programátor, který ji odmítne používat za všech okolností, zase může být pomalejší než ostatní. Budoucnost zřejmě nebude patřit ani bezhlavým nadšencům, ani lidem, kteří budou ještě v roce 2030 vysvětlovat, že správný kód se píše výhradně ručně, ideálně při světle svíčky.
Výhodu získají lidé, kteří dokážou AI zadat práci, zkontrolovat výsledek a převzít za něj odpovědnost.
Stejný nástroj mohou dostat obránci i útočníci
Schopnost automaticky hledat zranitelnosti má ještě jednu nepříjemnou vlastnost. Není určena pouze obráncům.
Pokud dokáže AI procházet software a nacházet chyby rychleji než lidé, může stejnou technologii využít bezpečnostní tým, výrobce programu i útočník. Rozhodující nebude pouze to, kdo chybu najde, ale kdo ji najde první.
Microsoft otevřeně popisuje nový systém jako obranu proti útokům prováděným rychlostí strojů. Podle firmy klesají náklady na kybernetické útoky, zatímco jejich objem a složitost rostou. Ochrana založená pouze na lidských týmech proto údajně nebude schopná držet tempo.
To může odstartovat nový typ závodu.
Na jedné straně budou agenti nepřetržitě procházet firemní infrastrukturu a opravovat nalezené chyby. Na druhé straně budou jiné modely hledat stejné slabiny s méně ušlechtilým záměrem. Software se tak může dostat do situace, kdy ho budou stroje vytvářet, kontrolovat, napadat i opravovat, zatímco člověk bude hlavně doufat, že agent s přístupem k produkčnímu serveru správně pochopil zadání.
AI nemusí být dokonalá, aby změnila programování
Microsoft možná skutečně staví jeden z nejúčinnějších systémů na hledání softwarových zranitelností. Současně tím ale potvrzuje něco, co technologický průmysl dlouho nerad přiznával.
Digitální svět stojí na obrovském množství kódu, kterému už často nikdo dokonale nerozumí a který nikdo nikdy kompletně nezkontroloval.
AI tento problém sama nevytvořila. Pouze získává schopnost ho rychleji odhalovat.
Programátoři měli pravdu, když upozorňovali, že umělá inteligence píše chybný kód. Mýlili se pouze ti, kteří to považovali za důkaz vlastní nenahraditelnosti.
AI nemusí být bezchybná. Nemusí být ani lepší než nejlepší člověk v týmu. Stačí, když dokáže za několik hodin projít práci, kterou lidé kontrolovali týdny.
A jestli začne pravidelně nacházet kritické chyby v softwaru vytvořeném údajně nenahraditelnými odborníky, debata o tom, kdo je skutečný programátor a kdo jen sebevědomě generuje chybný kód, bude ještě poměrně zábavná.
