Bezpečnostní výzkumníci z Cisco Talos získali vzácný pohled do toho, jak kyberzločinci využívají generativní AI. Analyzovali chatovací logy a kódovací sezení, která hackeři omylem vystavili online, včetně historií promptů z nástrojů Claude Code, Codex, Cursor a Gemini. Zjistili, že útočníci s pomocí modelů píší malware, hledají zranitelnosti a jeden z nich si nechal postavit chatbota na podvádění uživatelů kryptoměn. Někteří používají kompromitované firemní AI účty a API tokeny místo placení vlastního výkonu. Modely obejdou jednoduchými jailbreaky, třeba tvrzením, že se účastní etického hackingu. Cisco upozorňuje, že AI pomáhá hlavně zkušeným útočníkům, začátečníci se často dostanou jen k vytvoření nástrojů.
