NVIDIA Nemotron 3.5 Lightning is an open mixture-of-experts model from NVIDIA, with 3B active parameters out of 30B total. It is suited for high-throughput agentic workloads and specialized tasks that…
Unikátní charakteristiky
NVIDIA Nemotron 3.5 Lightning je vysoce efektivní MoE model, který při inferenci aktivuje pouze 3 miliardy parametrů z celkových 30 miliard. Vyniká masivním kontextovým oknem 1 milion tokenů a nadstandardní výstupní kapacitou přes 65 tisíc tokenů, a to zcela zdarma.
Silné stránky
Cena a dostupnost
Model je poskytován zcela zdarma ($0.00 za vstupní i výstupní tokeny), což radikálně snižuje náklady na provoz vysokoobjemových aplikací.
Kapacita výstupu
Podpora generování až 65 536 tokenů v jednom výstupu je na trhu výjimečná a umožňuje tvorbu extrémně dlouhých dokumentů nebo kódových bází na jeden průchod.
Rychlost a efektivita
Díky aktivaci pouze 3B parametrů (z 30B) dosahuje model velmi vysoké propustnosti a nízké latence, což je ideální pro autonomní agenty.
Slabé stránky
Komplexní uvažování
S celkovými 30B parametry a pouze 3B aktivními nedosahuje úrovně komplexního logického uvažování jako největší modely na trhu.
Absence multimodality
Model podporuje výhradně textové vstupy a výstupy, chybí mu schopnost analyzovat obraz, video nebo zvuk.