tonbistudio/turboquant-pytorch
From-scratch PyTorch implementation of Google's TurboQuant (ICLR 2026) for LLM KV cache compression. 5x compression at 3-bit with 99.5% attention fidelity.
Licencia y mantenimiento
MIT es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hace 5 meses.