rednote-machine-learning/RedKnot
Efficient Long-Context LLM Serving with Head-Aware KV Reuse and SegPagedAttention
Licencia y mantenimiento
Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hace 22 días.