Floridská policie zatkla třicetiletou Carli Michelle Heller poté, co měla v konverzaci s chatbotem Claude údajně vyhrožovat úřadu šerifa v Lee County. Systém od Anthropic měl konverzaci označit, lidští kontroloři si zprávy prohlédli a následně je nahlásili policii. Případ je zatím popisován jako obvinění, ne jako prokázané jednání, a veřejný článek neuvádí podrobnosti o přesném obsahu zpráv ani o procesních krocích po zatčení. Událost ale ukazuje praktický dopad bezpečnostního monitoringu u AI chatbotů. Pokud soukromá konverzace spustí eskalaci k lidské kontrole a k policii, stává se z technického pravidla i právní a společenská otázka: kde leží hranice mezi prevencí násilí, soukromím uživatele a odpovědností provozovatele modelu.
