vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Licencia y mantenimiento
Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hoy.
A high-throughput and memory-efficient inference and serving engine for LLMs
Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.
Último cambio de código hoy.