Pozorovatelnost LLM je přehled o tom, co se děje uvnitř aplikace postavené na jazykovém modelu: sleduje jednotlivá volání, jejich průběh, náklady a případné chyby. Díky trasám běhů lze hledat problémové kroky, porovnávat pokusy a zjistit, proč agent nebo chatbot odpověděl právě takto.