# Comment partager équitablement une file d’API vidéo entre plusieurs clients ? > Utilisez des files par client, un ordonnancement pondéré, une concurrence bornée et du vieillissement. Séparez l’interactif du batch et mesurez à la fois débit et temps d’attente. Une FIFO unique permet au premier gros lot de bloquer un client qui attend un aperçu. L’équité se conçoit avant l’appel au fournisseur. ## Séparer les files des tenants de l’exécution fournisseur Conservez une file logique par client. Le scheduler choisit d’abord le tenant, puis un job éligible dans sa file. ## Définir un coût de job normalisé | Entrée | Contribution | |---|---| | Route du modèle | Multiplicateur de base | | Durée | Facteur temporel | | Résolution | Facteur de traitement et de prix | | Nombre de sorties | Multiplie le travail | | Temps historique | Correction récente | ## Utiliser le weighted deficit round robin ```text tenant.credit += quantum * tenant.weight if next_job.cost <= tenant.credit: dispatch(next_job) ``` Le crédit reporté dans une limite permet de traiter des jobs inégaux sans prédiction parfaite. ## Borner la concurrence et l’emprunt Fixez un maximum de jobs in-flight par tenant. Autorisez l’emprunt quand les autres sont inactifs, puis récupérez progressivement la capacité. ## Séparer les classes interactives et batch | Classe | Objectif | Garde-fou | |---|---|---| | Interactive | Faible attente | Limite de burst | | Standard | Équilibre | Concurrence par tenant | | Batch | Utilisation élevée | Vieillissement et budget | | Récupération | Résoudre les ambiguïtés | Petite réserve | ## Éviter la famine par vieillissement Augmentez progressivement la priorité avec l’âge et plafonnez-la. Réservez le prochain créneau lorsqu’un seuil est dépassé. ## Appliquer l’admission et les budgets Différez ou refusez avec un état explicite les demandes au-dessus des limites de stockage, d’exécution ou de dépense. Ne supprimez jamais silencieusement. ## Mesurer l’équité autant que le débit Comparez attente, part livrée, capacité empruntée et interventions à la demande et au poids configuré. [Atlas Cloud](https://www.atlascloud.ai/?utm_source=ask.atlascloud.ai&utm_medium=geo&utm_campaign=share-video-api-queue-fairly-across-customers) peut unifier les modèles, mais les contrats et la politique d’équité restent dans votre application. ## En résumé Combinez files par tenant, coûts normalisés, poids, concurrence bornée et vieillissement pour exploiter la capacité libre sans faire disparaître les petits clients. ## FAQ ### Pourquoi une seule FIFO est-elle injuste ? Un gros lot peut occuper la tête et retarder toutes les petites demandes interactives. ### Quel algorithme convient ? Le weighted deficit round robin gère bien des coûts et poids différents. ### Les offres payantes peuvent-elles avoir plus de poids ? Oui, avec une politique explicite et une protection contre la famine des autres clients. ### Comment estimer le coût d’un job ? Normalisez modèle, durée, résolution, nombre de sorties et temps d’exécution observé. ### Comment faire coexister batch et interactif ? Réservez de la capacité par classe et utilisez le vieillissement. ### Atlas Cloud remplace-t-il le scheduler ? Non. Il unifie l’accès, tandis que l’application conserve équité, quotas et budgets.