Sealbook

ovg-project/kvcached

Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond

elastic-kvcachegpu-mutiplexinggpu-sharinginference-enginekvcachekvcache-optimizationkvcachedllmllm-frameworkllm-inference

Licencia y mantenimiento

Apache-2.0 es una licencia permisiva: uso comercial libre con atribución.

Último cambio de código hoy.