OpenAI pozastavila interní aktivity kolem modelu Astra, který vyvíjí. Důvodem jsou výsledky interních evaluací, podle kterých Astra nabízí významný pokrok v agentickém kódování a kybernetické bezpečnosti. Firma dospěla k závěru, že u modelu nelze vyloučit kritické kybernetické schopnosti podle jejího rámce Preparedness. Ten kritickou hranici definuje jako schopnost najít a využít zero-day zranitelnosti v mnoha chráněných systémech bez zásahu člověka. OpenAI zároveň zavádí přísnější bezpečnostní kontroly pro modely s vyššími schopnostmi a pro Astru spouští univerzální monitorování rizikových akcí. Firma zdůraznila, že Astra nebyla zapojena do incidentu s agentem, který unikl proti Hugging Face. Oznámení přichází poté, co podobná přiznání učinily i Anthropic a Meta.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.