Anthropic v návaznosti na vydání modelu Claude Fable 5 zveřejnil podrobný přehled jeho kybernetických bezpečnostních mechanismů. Model je vybaven klasifikátory, které detekují a blokují nebezpečné pokusy o zneužití v oblasti kybernetické bezpečnosti. Firma zároveň představila první draft vlastního rámce pro klasifikaci závažnosti jailbreaků – tedy nestandardních způsobů, jakými se uživatelé snaží obejít bezpečnostní omezení modelů. Rámec vznikl ve spolupráci s partnery z iniciativy Glasswing a má sloužit jako standard pro komunikaci mezi AI vývojáři a vládami o rizicích jednotlivých typů průlomů.

AI novinky
Radyz