> For the complete documentation index, see [llms.txt](https://docs.cloudeka.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.cloudeka.ai/deka-gpu-documentations/panduan-untuk-enterprise/deka-gpu/deka-gpu-autoscaling/keda-autoscalling/example-autoscaling-vllm-with-keda-based-on-gpu-kv-cache-usage/introduction.md).

# Pendahuluan

Bagian ini menjelaskan cara mengonfigurasi *KEDA (Kubernetes Event-Driven Autoscaler)* untuk secara otomatis menskalakan penerapan *vLLM* berdasarkan penggunaan cache *GPU KV*. Penskalaan otomatis memastikan sumber daya digunakan secara efisien dan sistem dapat menangani perubahan beban kerja secara dinamis. Metrik utama yang digunakan untuk penskalaan otomatis pada konfigurasi ini adalah penggunaan cache *GPU KV*.