Průlomová technika (2018) pro kontextové embeddingy – stejné slovo má různý embedding podle okolních slov. Předchůdce BERTu, který ukázal, že kontextové reprezentace jsou mnohem lepší než statické Word2Vec.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.