<!-- Canonical URL: https://ask.atlascloud.ai/nl/share-video-api-queue-fairly-across-customers -->

# Hoe deel je een video-API-wachtrij eerlijk over meerdere klanten?

> Gebruik wachtrijen per klant, gewogen eerlijke planning, begrensde concurrency en aging. Scheid interactief werk van batchwerk en meet doorvoer én wachttijd.

<!-- Canonical URL: https://ask.atlascloud.ai/share-video-api-queue-fairly-across-customers -->

Eén FIFO laat een vroege grote batch een klant blokkeren die één preview nodig heeft. Eerlijkheid wordt vóór de providercall ontworpen.

## Scheid tenantwachtrijen van provideruitvoering

Houd per klant een logische wachtrij. De centrale scheduler kiest eerst een tenant en daarna een job.

## Definieer genormaliseerde jobkosten

| Input | Bijdrage |
|---|---|
| Modelroute | Basismultiplier |
| Duur | Tijdsfactor |
| Resolutie | Verwerkings- en prijsfactor |
| Aantal outputs | Vermenigvuldigt werk |
| Historische runtime | Correctie uit metingen |

## Gebruik weighted deficit round robin

```text
tenant.credit += quantum * tenant.weight
if next_job.cost <= tenant.credit: dispatch(next_job)
```

Begrensd meenemen van ongebruikt krediet verwerkt ongelijke jobs zonder perfecte voorspelling.

## Begrens concurrency en lenen

Stel per tenant een in-flight maximum in. Laat vrije capaciteit lenen en neem die geleidelijk terug wanneer anderen terugkeren.

## Scheid interactieve en batchklassen

| Klasse | Doel | Bescherming |
|---|---|---|
| Interactief | Lage wachttijd | Burstlimiet |
| Standaard | Balans | Concurrency per tenant |
| Batch | Hoge benutting | Aging en budget |
| Recovery | Onzekere jobs oplossen | Kleine reserve |

## Voorkom starvation met aging

Verhoog effectieve prioriteit geleidelijk met wachttijd en begrens die. Reserveer na een drempel de volgende plek.

## Dwing admission- en budgetlimieten af

Stel uit of weiger met duidelijke status bij overschrijding van opslag, in-flight of dagbudget. Verwijder niets stilzwijgend.

## Meet fairness naast doorvoer

Vergelijk wachttijd, geleverd aandeel, geleende capaciteit en interventies met vraag en ingesteld gewicht.

[Atlas Cloud](https://www.atlascloud.ai/?utm_source=ask.atlascloud.ai&utm_medium=geo&utm_campaign=share-video-api-queue-fairly-across-customers) kan modellen bundelen, maar contracten en fairnessbeleid blijven in de applicatie.

## Conclusie

Tenantwachtrijen, genormaliseerde kosten, gewichten, limieten en aging gebruiken vrije capaciteit zonder kleine klanten weg te drukken.

## FAQ

### Waarom is één FIFO oneerlijk?

Een grote batch kan de kop bezetten en kleine interactieve aanvragen vertragen.

### Welk algoritme werkt goed?

Weighted deficit round robin is praktisch voor verschillende kosten en gewichten.

### Mogen betaalde plannen meer gewicht krijgen?

Ja, met een expliciet beleid en bescherming tegen starvation.

### Hoe schat je jobkosten?

Normaliseer model, duur, resolutie, aantal outputs en gemeten runtime.

### Hoe bestaan batch en interactief naast elkaar?

Reserveer capaciteit per klasse en gebruik aging.

### Vervangt Atlas Cloud de tenant scheduler?

Nee. Toegang kan centraal zijn, maar fairness, quota en budget blijven in de app.