Open-source nástroj toolcall-doctor automatizuje zmenšování požadavků, které reprodukují chyby při volání nástrojů velkým jazykovým modelem. Uživatel dodá původní požadavek a kontrakt s podmínkami, které musí při zjednodušování zůstat zachované. Nástroj postupně odstraňuje nástroje, části schémat a další prvky, po každém kroku znovu ověří chování modelu a ponechá jen změny, při nichž chyba stále nastává. Repozitář rozlišuje živou minimalizaci s OpenAI kompatibilním serverem od demonstračního režimu, který pouze přehrává uložený běh bez volání modelu. Autoři uvádějí ověření na Ollamě s modelem llama3.2:3b, nejde ale o srovnávací test napříč modely. Výsledkem má být menší reprodukce použitelná při ladění runtime, schémat a implementací tool-calling rozhraní.
Toolcall-doctor zmenšuje reprodukce chyb v nástrojích LLM
Open-source nástroj toolcall-doctor automatizuje zmenšování požadavků, které reprodukují chyby při volání nástrojů velkým jazykovým modelem. Uživatel dodá původní požadavek a kontrakt s podmínkami, které musí při zjednodušování zůstat zachované. Nástroj postupně odstraňuje nástroje, části schémat a další prvky, po každém kroku znovu ověří chování modelu a ponechá jen změny, při nichž chyba stále nastává. Repozitář rozlišuje živou minimalizaci s OpenAI kompatibilním serverem od demonstračního režimu, který pouze přehrává uložený běh bez volání modelu. Autoři uvádějí ověření na Ollamě s modelem llama3.2:3b, nejde ale o srovnávací test napříč modely. Výsledkem má být menší reprodukce použitelná při ladění runtime, schémat a implementací tool-calling rozhraní.