Sealbook

turboderp-org/exllamav2

A fast inference library for running LLMs locally on modern consumer-class GPUs

Licencia y mantenimiento

MIT es una licencia permisiva: uso comercial libre con atribución.

Último cambio de código hace 7 meses.