Nový open-source projekt Cloakwall přidává do LiteLLM ochrannou vrstvu pro práci s citlivými údaji. Běží přímo v procesu aplikace, takže podle dokumentace nepotřebuje vedlejší kontejner, externí službu ani stahování modelu. Před odesláním požadavku do jazykového modelu umí skrýt například e-mailové adresy, platební karty, identifikační čísla, přístupové klíče, tokeny JWT, telefonní čísla nebo data narození. Součástí je také auditní log odolný proti dodatečným zásahům. Jednotlivé záznamy propojuje otiskem SHA-256 předchozí položky a neukládá původní redigované hodnoty. Repozitář vznikl 1. září a první prezentace na Hacker News následovala dnes. Jde zatím o raný projekt s minimální komunitní odezvou, jeho přístup ale míří na praktický problém bezpečného nasazování modelových bran v regulovaných prostředích.
