Americký startup Circuit Breaker Labs vyvíjí testovací službu, která prověřuje, jak si AI chatboty poradí s citlivými rozhovory. Jeho agenti napodobují uživatele různého věku, jazykového zázemí i způsobu vyjadřování a hledají situace, kdy model nerozpozná riziko nebo nepochopí slang a kontext. Firma uvádí, že denně spouští desítky až stovky tisíc simulovaných interakcí. Na tvorbě scénářů spolupracuje s lidskými odborníky a výsledky převádí do auditovatelných skóre. Zatím působí jako bezpečnostní laboratoř pro vysoce rizikové aplikace, například nástroje pro koučink, deníky nebo podporu duševního zdraví; zákazníky ale nejmenovala. Startup vznikl po případech, kdy rodiny spojovaly používání chatbotů s vážnou psychickou újmou. Jeho přístup má odhalit slabiny před nasazením, nejde však o záruku, že chatbot bude bezpečný v každé situaci.
