turboderp-org/exllamav3
An optimized quantization and inference library for running LLMs locally on modern consumer-class GPUs
Licencia y mantenimiento
MIT es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hoy.