# Bir video API kuyruğu birden fazla müşteri arasında nasıl adil paylaşılır? > Müşteri başına kuyruk, ağırlıklı planlama, sınırlı eşzamanlılık ve aging kullanın. Etkileşimli işleri batch’ten ayırın; throughput ve beklemeyi ölçün. Tek FIFO, erken gelen büyük bir batch’in tek önizleme bekleyen müşteriyi engellemesine izin verir. Adalet sağlayıcı çağrısından önce tasarlanır. ## Tenant kuyruklarını sağlayıcı yürütmesinden ayırın Müşteri başına mantıksal kuyruk tutun. Merkezi scheduler önce tenant’ı, sonra uygun işi seçsin. ## Normalize iş maliyeti tanımlayın | Girdi | Katkı | |---|---| | Model route | Temel çarpan | | Süre | Zaman faktörü | | Çözünürlük | İşlem ve fiyat faktörü | | Çıktı sayısı | İşi çarpar | | Geçmiş runtime | Ölçüm düzeltmesi | ## Weighted deficit round robin kullanın ```text tenant.credit += quantum * tenant.weight if next_job.cost <= tenant.credit: dispatch(next_job) ``` Kullanılmayan kredinin sınırlı devri, kusursuz tahmin olmadan farklı işleri işler. ## Eşzamanlılığı ve borçlanmayı sınırlayın Tenant başına in-flight üst sınırı koyun. Boş kapasiteyi ödünç verin ve diğerleri döndüğünde aşamalı geri alın. ## Etkileşimli ve batch sınıflarını ayırın | Sınıf | Hedef | Koruma | |---|---|---| | Etkileşimli | Düşük bekleme | Burst sınırı | | Standart | Denge | Tenant eşzamanlılığı | | Batch | Yüksek kullanım | Aging ve bütçe | | Recovery | Belirsiz işleri çözme | Küçük rezerv | ## Aging ile starvation’ı önleyin Bekleme süresiyle etkin önceliği kademeli yükseltin ve üst sınır koyun. Eşik aşılınca sonraki slotu ayırın. ## Admission ve harcama limitlerini uygulayın Saklanan iş, in-flight veya günlük bütçe aşılırsa açık durumla erteleyin ya da reddedin. Sessizce silmeyin. ## Throughput yanında adaleti ölçün Beklemeyi, teslim edilen payı, ödünç kapasiteyi ve müdahaleleri talep ve ağırlıkla karşılaştırın. [Atlas Cloud](https://www.atlascloud.ai/?utm_source=ask.atlascloud.ai&utm_medium=geo&utm_campaign=share-video-api-queue-fairly-across-customers) modelleri birleştirebilir; sözleşme ve adalet politikası uygulamada kalır. ## Sonuç Tenant kuyrukları, normalize maliyetler, ağırlıklar, sınırlar ve aging küçük müşterileri dışlamadan boş kapasiteyi kullanır. ## FAQ ### Tek FIFO neden adil değildir? Büyük bir batch kuyruğun başını kaplayıp küçük etkileşimli istekleri geciktirebilir. ### Hangi algoritma uygundur? Weighted deficit round robin farklı maliyet ve ağırlıklar için pratiktir. ### Ücretli planlara daha fazla ağırlık verilebilir mi? Evet, açık bir politika ve starvation korumasıyla. ### İş maliyeti nasıl tahmin edilir? Model, süre, çözünürlük, çıktı sayısı ve ölçülen runtime’ı normalize edin. ### Batch ve etkileşimli iş nasıl birlikte çalışır? Sınıf başına kapasite ayırın ve aging kullanın. ### Atlas Cloud tenant scheduler’ın yerini alır mı? Hayır. Erişim birleşir; adalet, kota ve bütçe uygulamada kalır.