Oferta Realizacje Stała opieka CRM i AI Blog O mnie Kontakt
Zadzwoń: 501 178 850 Napisz wiadomość

Wtyczka llm-echo 0,5 symuluje zużycie tokenów

Simon Willison wydał aktualizację wtyczki debugującej llm-echo do wersji 0,5. Narzędzie symuluje model językowy, powtarzając przesłane monity i uwzględniając statystyki tokenów.

Wtyczka llm-echo 0,5 symuluje zużycie tokenów

Nowości w wtyczce llm-echo 0,5

Autor pracujący nad nowym wydaniem narzędzia opisał aktualizację wtyczki debugującej llm-echo do wersji 0,5. Narzędzie to nie korzysta z klasycznego modelu językowego, lecz powtarza z powrotem wprowadzone monity.

Najnowsza wersja wprowadza symulację liczników zużycia tokenów. Funkcja ta uwzględnia teraz wywołania narzędzi, systemowe monity oraz tokeny przeznaczone na wnioskowanie.

ŹródłoOpracowanie na podstawie: Simon Willison Weblog

Powiązane wpisy

Zadzwoń Napisz Awaria / WP