OpenAI zveřejnilo technický popis platformy Habitat, která slouží jako společná online úložná vrstva pro jeho produkty. Podle firmy systém obsluhuje více než 70 milionů požadavků za sekundu, data ukládá ve zhruba 40 regionech a pracuje s objemem přes 500 petabajtů. Habitat začal v roce 2023 jako jednoduchá knihovna v Pythonu napojená na Azure Cosmos DB. S růstem produktů se změnil v distribuovanou službu, která řeší mimo jiné směrování, autorizaci, šifrování a connection pooling. OpenAI uvádí, že za poslední tři roky rostla zátěž meziročně více než desetkrát. V první části série popisuje také přepis služby do Rustu. Ten podle firmy obsluhuje 95 procent produkčních požadavků, je šestkrát úspornější na CPU a patnáctkrát úspornější na paměť než původní varianta v Pythonu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.