9. 7. 11:52
Byl vydán jazykový model ThinkingCap-Qwen3.6-27B-int4-AutoRound-v1. Jedná se o INT4 AutoRound kvantizaci modelu 'ThinkingCap-Qwen3.6-27B', optimalizovanou pro grafickou kartu RTX 5090. Tato verze umožňuje ve vLLM kontext o délce 2x262 tisíc tokenů. Původní model ThinkingCap byl navržen ke snížení 'thinking tokens' v průměru o 50 %. 👉