hao-ai-lab/LookaheadDecoding
[ICML 2024] Break the Sequential Dependency of LLM Inference Using Lookahead Decoding
Licencia y mantenimiento
Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hace 19 meses.