> For the complete documentation index, see [llms.txt](https://docs.cloudeka.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.cloudeka.ai/guideline-for-enterprise/panduan-untuk-enterprise/deka-llm/detail-deka-llm/performance.md).

# Performance

Menu *Performance* digunakan untuk memantau dan menganalisis performa penggunaan model *LLM* berdasarkan aktivitas permintaan *API*. Halaman ini menampilkan berbagai informasi, mulai dari ringkasan metrik dan filter analisis hingga catatan terperinci setiap permintaan. Pada halaman *Deka LLM*, pilih tab ***Performance***.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-027f1f830eb788f00694879f88a59fa618fb9931%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Pengguna dapat memilih rentang waktu melalui opsi ***Last 1 Day*** atau ***Custom*** untuk menyesuaikan analisis performa.

Pada halaman *Performance*, buka area kanan atas ringkasan metrik, lalu klik opsi ***Last 1 Day*** untuk memilih rentang waktu otomatis selama 1 hari terakhir.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-9d153bdd4d6001ce2e266ca79f244731b41dfd9c%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Selanjutnya, pada halaman Performance, klik ***Custom***. Klik kolom ***Select Range*** (*Max 2 Days*) yang berada di area kanan atas metrik performa. Pilih tanggal mulai, lalu pilih tanggal akhir dengan rentang maksimum 2 hari. Klik tombol ***Select*** untuk menerapkan filter.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-8290ef2f65feb7a7088e7add37494a4d1ba6f303%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Pada bagian atas halaman, terdapat empat metrik utama: *Avg TTFT, Avg TPS, Avg Latency*, dan *Total Request*s. Metrik ini memberikan gambaran mengenai kecepatan respon model, performa pemrosesan token, dan total permintaan yang diterima dalam periode waktu tertentu.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-eddb816bd3ea81a3fad786d29d49d51a2c8e397c%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

**Berikut beberapa penjelasan terkait dasbor analitik performa:**

<table><thead><tr><th width="140">Kolom</th><th>Deskripsi</th></tr></thead><tbody><tr><td><em><strong>Avg TTFT</strong></em></td><td>Menunjukkan rata-rata waktu yang diperlukan model untuk menghasilkan token pertama setelah menerima permintaan.</td></tr><tr><td><em><strong>Avg TPS</strong></em></td><td>Mengukur kecepatan model dalam menghasilkan token per detik.</td></tr><tr><td><em><strong>Avg Latency</strong></em></td><td>Menunjukkan rata-rata total waktu yang diperlukan untuk memproses satu permintaan, sejak permintaan diterima hingga seluruh respons dikirimkan.</td></tr><tr><td><em><strong>Total Requests</strong></em></td><td>Menampilkan total permintaan API yang diterima dan diproses dalam rentang waktu atau filter yang dipilih.</td></tr></tbody></table>

**Selanjutnya**, tersedia beberapa filter untuk membantu pengguna mempersempit data yang ingin dianalisis, termasuk ***Filter by API Key**, **Filter by Model**,* *dan **Filter by Status***. Filter ini berguna untuk menampilkan data performa berdasarkan kunci *API* tertentu, model *LLM* yang digunakan, atau status respon yang dihasilkan.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-21d234b2583cffc42b134425a5c929a10a543e20%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Pada halaman *Performance*, cari bagian filter di bawah ringkasan metrik. Klik *dropdown **Filter by API Key***, lalu pilih salah satu kunci *API* yang ingin dianalisis.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-777817cb6a20c243dbbfc9b13e6734a8f375d17f%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Selanjutnya, buka *dropdown **Filter by Model*** yang berada di samping *filter API Key*. Klik *dropdown* tersebut untuk melihat daftar model *LLM* yang tersedia.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-85d2dc5ece1b6f64d3da379b6fc792b81a9ee248%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

Pada bagian filter, klik *dropdown **Filter by Status***. Lalu, pilih status permintaan yang ingin ditampilkan, seperti ***Success*** atau ***Error***.

<figure><img src="https://753761090-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FtAYQyBIz2BclZ3ZHHlS4%2Fuploads%2Fgit-blob-600b56159b195a1fa2af9783debe070df6da8ca9%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>