SSealbook

flashinfer-ai/flashinfer

FlashInfer: Kernel Library for LLM Serving

attentioncudadistributed-inferencegpujitlarge-large-modelsllm-inferencemoenvidiapytorch

Licencia y mantenimiento

Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.

Último cambio de código hoy.