Estimasi dan scaling QPS
Concurrency diukur dengan QPS (Queries per second), yaitu jumlah request layanan valid yang diterima server per detik. Terlepas dari apakah lokalisasi berhasil atau tidak, selama request membawa AppId cloud localization map library yang benar dan lolos autentikasi, request tersebut akan dihitung dalam statistik concurrency.
Setelah perangkat berhasil diinisialisasi, secara default perangkat mengirim request lokalisasi dengan frekuensi 1 kali per detik. Karena adanya latensi jaringan dan perbedaan waktu kedatangan request, concurrency sesaat dapat melebihi batas QPS. Misalnya, 10 QPS secara teori dapat mendukung 10 perangkat, tetapi jika dalam detik yang sama diterima lebih dari 10 request, request yang melebihi akan ditolak. Untuk memastikan stabilitas layanan dalam skenario multi-perangkat bersamaan, disarankan menyediakan redundansi saat membeli QPS. Misalnya, saat mendukung 10 perangkat, Anda dapat mengonfigurasi 11-12 QPS.
Grup layanan cloud localization secara default menyediakan 10 concurrency, yang dapat memenuhi kebutuhan sebagian besar skenario aplikasi. Untuk skenario dengan concurrency lebih tinggi, kami juga menyediakan skema scaling resource yang fleksibel:
- Pada periode concurrency tinggi seperti hari libur, Anda dapat memilih paket scaling jangka pendek untuk sementara meningkatkan kemampuan concurrency
- Untuk aplikasi dengan jumlah pengguna besar dan memerlukan dukungan high concurrency yang stabil, resource concurrency tambahan dapat diikat ke grup layanan cloud dalam jangka panjang selama masa berlakunya
Berdasarkan 10 QPS, Anda dapat secara fleksibel memilih paket tambahan jangka pendek atau menambah kuota concurrency tetap jangka panjang untuk menyesuaikan kebutuhan resource pada berbagai tahap bisnis.
Perilaku saat concurrency melebihi batas
Saat request sesaat melebihi QPS yang dialokasikan, layanan akan mengembalikan pesan error berikut (contoh):
statuCode: 21, message: "Exceed your QPS limitation"
Jika pengguna trial tidak dapat melakukan lokalisasi, kemungkinan besar karena QPS tidak cukup. Disarankan menggunakan Mega Toolbox untuk membuka log dan memeriksa pesan respons, seperti gambar berikut:
Catatan
Kuota concurrency pengguna trial relatif kecil. Saat lokalisasi gagal, perhatikan apakah terdapat pesan error over-limit.
Scaling QPS bersamaan
Anda dapat memperbesar kuota concurrency melalui dua cara:
- Konsultasi offline dengan business atau customer service (cocok untuk kebutuhan skala besar, jangka panjang, atau kustom)
- Upgrade langsung secara online di konsol manajemen (cocok untuk scaling sementara atau kecil)
Upgrade melalui konsultasi business offline
Saat concurrency harian yang diperkirakan melebihi 50 QPS, disarankan menghubungi sales atau customer service EasyAR untuk mengatur perluasan kapasitas dan jaminan resource. Setelah scaling, masuk ke backend developer untuk memastikan apakah kuota sudah berlaku.
Proses konfirmasi kuota concurrency ditunjukkan pada kotak di bawah:
Langkah operasi:
- Developer Center -> Block Cloud Localization -> Grup layanan cloud localization -> Current QPS
Disarankan untuk mengonfirmasi jumlah QPS setelah upgrade dan masa berlakunya. Anda dapat melihatnya di antarmuka manajemen EasyAR. Bagian berikut memperkenalkan operasinya: Manajemen QPS bersamaan
Upgrade online
Konsol menyediakan dua pintu masuk untuk upgrade QPS online, seperti gambar berikut:
Developer Center -> Block Cloud Localization -> Grup layanan cloud localization -> Upgrade
Developer Center -> Block Cloud Localization -> Grup layanan cloud localization -> QPS details -> Upgrade
Penting
Untuk kebutuhan concurrency besar di atas 50 QPS, tetap perlu konsultasi business untuk memastikan pasokan resource stabil.
Mengelola QPS bersamaan
Manajemen concurrency terutama mencakup:
- Melihat jumlah QPS saat ini
- Scaling QPS
- Meng-upgrade masa berlaku sebagian QPS
Antarmuka manajemen
Langkah operasi
- Masuk ke Developer Center -> Block Cloud Localization -> Grup layanan cloud localization -> QPS details
Meng-upgrade jumlah QPS dan masa berlaku
Setelah masuk ke QPS details, antarmukanya seperti gambar di atas. Jumlah QPS saat ini ditampilkan pada kotak di sisi kanan gambar.
Timeline di bagian tengah antarmuka menampilkan masa berlaku bagian QPS dasar dan bagian QPS upgrade.
Catatan pembelian di bagian paling bawah menampilkan order upgrade dan detail masa berlaku.
Rekomendasi
- Perkirakan concurrency puncak yang diharapkan, bukan concurrency rata-rata, dan sisakan redundansi untuk puncak (misalnya puncak 10 QPS disarankan membeli 11-12 QPS).
- Selama hari libur atau event, Anda dapat sementara membeli paket tambahan jangka pendek untuk memenuhi kebutuhan high concurrency.
- Verifikasi setelah scaling: gunakan Mega Toolbox dalam skenario high concurrency untuk memastikan request tidak ditolak dan respons stabil.
- Jika terjadi penolakan berkelanjutan atau pengecualian, kumpulkan log dan hubungi tim dukungan untuk troubleshooting, termasuk jendela waktu, AppId cloud localization map library, dan disarankan menyediakan file packet capture yang berisi contoh request dan kode error.