Limites de débit

Il existe deux types de limites :

1. Les limites de dépenses définissent un coût mensuel maximal qu'une organisation peut engager pour l'utilisation de l'API.
2. Les limites de débit définissent le nombre maximal de requêtes API qu'une organisation peut effectuer sur une période donnée.

L'API applique des limites configurées par le service au niveau de l'organisation, mais vous pouvez également définir des limites configurables par l'utilisateur pour les espaces de travail de votre organisation.



À propos des limites de débit

• Les limites sont conçues pour prévenir les abus de l'API, tout en minimisant l'impact sur les schémas d'utilisation courants des clients.
• Les limites sont définies par niveau d'utilisation. Les organisations sont placées automatiquement dans un niveau en fonction de leur historique d'utilisation et de l'état de leur compte, et peuvent passer à un niveau supérieur au fil du temps à mesure qu'elles utilisent l'API.
• Les nouvelles organisations et celles ayant un historique d'utilisation limité peuvent commencer dans le niveau Evaluation, avec des limites inférieures aux limites standard indiquées sur cette page, le temps que l'historique du compte s'établisse. Ces limites de départ font partie des mesures prises par Anthropic pour prévenir la fraude et les abus, et elles augmentent automatiquement à mesure que votre organisation constitue son historique d'utilisation.
• Les limites sont définies au niveau de l'organisation. Vous pouvez consulter le niveau de votre organisation et ses limites actuelles sur la page Rate limits (Limites de débit) dans la Claude Console.
• Vous pourriez atteindre les limites de débit sur des intervalles de temps plus courts. Par exemple, un débit de 60 requêtes par minute (RPM) peut être appliqué comme 1 requête par seconde. De courtes rafales de requêtes peuvent dépasser la limite et déclencher des erreurs de limite de débit.
• Les limites suivantes sont les limites standard pour chaque niveau. Si vous avez besoin de limites plus élevées, consultez Demander des limites plus élevées.
• L'API utilise l'algorithme du seau à jetons pour effectuer la limitation de débit. Cela signifie que votre capacité est continuellement reconstituée jusqu'à votre limite maximale, plutôt que d'être réinitialisée à intervalles fixes.
• Toutes les limites décrites ici représentent l'utilisation maximale autorisée, et non des minimums garantis. Ces limites visent à réduire les dépenses excessives involontaires et à assurer une répartition équitable des ressources entre les utilisateurs.



Limites de dépenses

Chacun des niveaux Start, Build et Scale comporte un plafond de dépenses mensuel, qui correspond au montant maximal que votre organisation peut dépenser sur l'API chaque mois civil. Une fois que vous atteignez le plafond de dépenses de votre niveau, l'utilisation de l'API est suspendue jusqu'au mois suivant, sauf si vous demandez une limite plus élevée. Vous pouvez consulter le plafond de dépenses mensuel de votre organisation et définir votre propre limite sur la page Billing (Facturation).

Les organisations du niveau Custom n'ont pas de plafond de dépenses mensuel ; les limites sont convenues avec leur équipe de compte.

Vous pouvez également définir votre propre limite de dépenses en dessous du plafond de votre niveau pour contrôler les coûts :



Limites de débit

Les limites de débit pour l'API Messages sont mesurées en requêtes par minute (RPM), en « input tokens per minute » (tokens d'entrée par minute), ou ITPM, et en « output tokens per minute » (tokens de sortie par minute), ou OTPM, pour chaque classe de modèle. Si vous dépassez l'une des limites de débit, vous obtiendrez une erreur 429 décrivant quelle limite de débit a été dépassée, ainsi qu'un en-tête retry-after indiquant combien de temps attendre.



ITPM tenant compte du cache

De nombreux fournisseurs d'API utilisent une limite combinée de « tokens per minute » (tokens par minute), ou TPM, qui peut inclure tous les tokens, mis en cache ou non, en entrée comme en sortie. Pour la plupart des modèles Claude, seuls les tokens d'entrée non mis en cache comptent dans vos limites de débit ITPM. Il s'agit d'un avantage clé qui rend les limites de débit effectivement plus élevées qu'elles ne pourraient le paraître initialement.

Les limites de débit ITPM sont estimées au début de chaque requête, et l'estimation est ajustée pendant la requête pour refléter le nombre réel de tokens d'entrée utilisés.

Voici ce qui compte dans l'ITPM :

• input_tokens (tokens après le dernier point de rupture de cache) ✓ Comptent dans l'ITPM
• cache_creation_input_tokens (tokens en cours d'écriture dans le cache) ✓ Comptent dans l'ITPM
• cache_read_input_tokens (tokens lus depuis le cache) ✗ Ne comptent PAS dans l'ITPM pour la plupart des modèles

Exemple : Avec une limite ITPM de 2 000 000 et un taux de succès du cache de 80 %, vous pourriez effectivement traiter 10 000 000 de tokens d'entrée au total par minute (2 M non mis en cache + 8 M mis en cache), car les tokens mis en cache ne comptent pas dans votre limite de débit.

Les limites de débit OTPM sont évaluées en temps réel à mesure que les tokens de sortie sont produits, en ne comptant que les tokens réellement générés. Le paramètre max_tokens n'entre pas dans le calcul des limites de débit OTPM, il n'y a donc aucun inconvénient en matière de limite de débit à définir une valeur max_tokens plus élevée.

Les limites de débit sont appliquées séparément pour chaque modèle ; vous pouvez donc utiliser différents modèles jusqu'à leurs limites respectives simultanément. Vous pouvez vérifier vos limites de débit actuelles et leur comportement sur la page Rate limits dans la Claude Console, ou lire les limites configurées par programmation avec l'API Rate Limits.

^{* La limite de débit Opus est une limite totale qui s'applique au trafic combiné de Claude Opus 4.8, Opus 4.7, Opus 4.6 et Opus 4.5. Claude Opus 5 dispose d'une limite de débit distincte et ne fait pas partie de ce compartiment combiné.}

^{** La limite de débit Sonnet 4.x est une limite totale qui s'applique au trafic combiné de Sonnet 4.6 et Sonnet 4.5. Claude Sonnet 5 dispose d'une limite de débit distincte et ne fait pas partie de ce compartiment combiné.}

^{† La limite compte les cache_read_input_tokens dans l'utilisation ITPM.}



API Message Batches

L'API Message Batches possède son propre ensemble de limites de débit qui sont partagées entre tous les modèles. Celles-ci incluent une limite de requêtes par minute (RPM) pour tous les points de terminaison de l'API et une limite sur le nombre de requêtes de lot pouvant se trouver dans la file d'attente de traitement en même temps. Une « requête de lot » désigne ici une partie d'un Message Batch. Vous pouvez créer un Message Batch contenant des milliers de requêtes de lot, chacune comptant dans cette limite. Une requête de lot est considérée comme faisant partie de la file d'attente de traitement tant qu'elle n'a pas encore été traitée avec succès par le modèle.



Agents gérés

Les points de terminaison des agents gérés Claude sont soumis à des limites de débit par organisation. Ces limites sont distinctes des limites de débit de l'API Messages ci-dessus.



Limites de débit du mode rapide

Lorsque vous utilisez le mode rapide (aperçu de recherche) avec speed: "fast" sur Claude Opus 5 ou Opus 4.8, des limites de débit dédiées s'appliquent, distinctes des limites de débit standard d'Opus. Lorsque les limites de débit du mode rapide sont dépassées, l'API renvoie une erreur 429 avec un en-tête retry-after. Le mode rapide n'est pas disponible sur Claude Opus 4.7 (les requêtes renvoient une erreur) ni sur Claude Opus 4.6 (les requêtes vers claude-opus-4-6 avec speed: "fast" s'exécutent à vitesse standard). Consultez Mode rapide.

La réponse inclut des en-têtes anthropic-fast-* qui indiquent l'état de votre limite de débit en mode rapide. Consultez Limites de débit du mode rapide pour plus de détails sur ces en-têtes.



Surveiller vos limites de débit dans la Console

Vous pouvez surveiller votre utilisation des limites de débit sur la page Usage de la Claude Console.

En plus de fournir des graphiques de tokens et de requêtes, la page Usage propose deux graphiques distincts de limites de débit. Utilisez ces graphiques pour voir la marge de croissance dont vous disposez, identifier les moments où vous pourriez atteindre un pic d'utilisation, comprendre quelles limites de débit demander et apprendre à améliorer vos taux de mise en cache. Les graphiques visualisent un certain nombre de métriques pour une limite de débit donnée (par exemple, par modèle) :

• Le graphique Rate Limit - Input Tokens (Limite de débit - Tokens d'entrée) inclut :
  • Le maximum horaire de tokens d'entrée non mis en cache par minute
  • Votre limite de débit actuelle de tokens d'entrée par minute
  • Le taux de cache pour vos tokens d'entrée (c'est-à-dire le pourcentage de tokens d'entrée lus depuis le cache)
• Le graphique Rate Limit - Output Tokens (Limite de débit - Tokens de sortie) inclut :
  • Le maximum horaire de tokens de sortie par minute
  • Votre limite de débit actuelle de tokens de sortie par minute



Demander des limites plus élevées

Pour demander des limites de débit plus élevées ou un plafond de dépenses mensuel plus élevé, utilisez Request rate limit increase (Demander une augmentation de limite de débit) sur la page Rate limits.



Définir des limites inférieures pour les espaces de travail

Pour en savoir plus sur les espaces de travail, consultez Espaces de travail.

Pour protéger les espaces de travail de votre organisation contre une surutilisation potentielle, vous pouvez définir des limites de dépenses et de débit personnalisées par espace de travail.

Exemple : si la limite de votre organisation est de 40 000 tokens d'entrée par minute et de 8 000 tokens de sortie par minute, vous pourriez limiter un espace de travail à 30 000 tokens d'entrée par minute. Cela protège les autres espaces de travail contre une surutilisation potentielle et assure une répartition plus équitable des ressources au sein de votre organisation. Les tokens par minute restants non utilisés (ou davantage, si cet espace de travail n'utilise pas la limite) sont alors disponibles pour les autres espaces de travail.

Remarque :

• Vous ne pouvez pas définir de limites sur l'espace de travail par défaut.
• Si elles ne sont pas définies, les limites de l'espace de travail correspondent à celles de l'organisation.
• Les limites d'espace de travail sont définies par type de limiteur (comme les requêtes par minute, les tokens d'entrée par minute ou les tokens de sortie par minute).
• Les limites à l'échelle de l'organisation s'appliquent toujours, même si la somme des limites des espaces de travail est supérieure.

Pour lire vos limites de débit actuelles d'organisation et d'espace de travail par programmation, utilisez l'API Rate Limits.



En-têtes de réponse

La réponse de l'API inclut des en-têtes qui vous indiquent la limite de débit appliquée, l'utilisation actuelle et le moment où la limite sera réinitialisée.

Les en-têtes suivants sont renvoyés :

Les en-têtes anthropic-ratelimit-tokens-* affichent les valeurs de la limite la plus restrictive actuellement en vigueur. Par exemple, si vous avez dépassé la limite de tokens par minute de l'espace de travail, les en-têtes contiendront les valeurs de limite de débit de tokens par minute de l'espace de travail. Si les limites d'espace de travail ne s'appliquent pas, les en-têtes renverront le total des tokens restants, où le total est la somme des tokens d'entrée et de sortie. Cette approche garantit que vous avez une visibilité sur la contrainte la plus pertinente concernant votre utilisation actuelle de l'API.