限制分為兩種類型:
API 會在組織層級強制執行服務設定的限制,但您也可以為組織的工作區設定使用者可自訂的限制。
Start、Build 和 Scale 層級各有每月支出上限,即您的組織每個日曆月在 API 上可支出的最高金額。一旦達到您層級的支出上限,API 使用將暫停至下個月,除非您申請更高的限制。您可以在帳單頁面查看您組織的每月支出上限並設定自己的限制。
| 使用層級 | 每月支出上限 |
|---|---|
| Start | $500 美元 |
| Build | $1,000 美元 |
| Scale | $200,000 美元 |
Custom 層級的組織沒有每月支出上限;限制由其客戶團隊協商安排。
您也可以設定低於您層級上限的自訂支出限制來控制成本:
前往帳單頁面
在 Claude Console 中前往設定 > 帳單。
開啟支出限制編輯器
在支出限制區段中,點擊調整限制(如果目前未設定限制,則點擊設定限制)。
調整您的支出限制
輸入新的數值。您的支出限制不能超過目前層級的上限。
Messages API 的速率限制是以每個模型類別的每分鐘請求數(RPM)、每分鐘輸入權杖數(ITPM)和每分鐘輸出權杖數(OTPM)來衡量。
如果您超過任何速率限制,您將收到 429 錯誤,說明超過了哪個速率限制,並附帶 retry-after 標頭指示需等待多久。
許多 API 供應商使用合併的「每分鐘權杖數」(TPM)限制,可能包含所有權杖,無論是快取或未快取、輸入或輸出。對於大多數 Claude 模型,只有未快取的輸入權杖會計入您的 ITPM 速率限制。 這是一個關鍵優勢,使速率限制實際上比初看起來更高。
ITPM 速率限制會在每個請求開始時進行估算,並在請求過程中調整估算值以反映實際使用的輸入權杖數。
以下是計入 ITPM 的項目:
input_tokens(最後一個快取斷點之後的權杖)✓ 計入 ITPMcache_creation_input_tokens(正在寫入快取的權杖)✓ 計入 ITPMcache_read_input_tokens(從快取讀取的權杖)✗ 對於大多數模型不計入 ITPM範例: 若 ITPM 限制為 2,000,000 且快取命中率為 80%,您實際上每分鐘可處理 10,000,000 個總輸入權杖(200 萬未快取 + 800 萬快取),因為快取的權杖不計入您的速率限制。
OTPM 速率限制會在產生輸出權杖時即時評估,僅計算實際產生的權杖。max_tokens 參數不會納入 OTPM 速率限制的計算,因此設定較高的 max_tokens 值不會對速率限制造成不利影響。
速率限制是針對每個模型分別套用的;因此您可以同時使用不同的模型,各自達到其相應的限制。 您可以在 Claude Console 的速率限制頁面查看目前的速率限制和行為,或使用 Rate Limits API 以程式方式讀取已設定的限制。
| 模型 | 每分鐘最大請求數(RPM) | 每分鐘最大輸入權杖數(ITPM) | 每分鐘最大輸出權杖數(OTPM) |
|---|---|---|---|
| Claude Fable 5 | 1,000 | 500,000 | 100,000 |
| Claude Opus 5 | 1,000 | 2,000,000 | 400,000 |
| Claude Opus 4.x* | 1,000 | 2,000,000 | 400,000 |
| Claude Sonnet 5 | 1,000 | 2,000,000 | 400,000 |
| Claude Sonnet 4.x** | 1,000 | 2,000,000 | 400,000 |
| Claude Haiku 4.5 | 1,000 | 2,000,000 | 400,000 |
| Claude Haiku 3.5(已停用,Bedrock 和 Google Cloud 除外) | 1,000 | 100,000† | 20,000 |
* Opus 速率限制是一個總限制,適用於 Claude Opus 4.8、Opus 4.7、Opus 4.6 和 Opus 4.5 的合併流量。Claude Opus 5 有獨立的速率限制,不屬於此合併配額。
** Sonnet 4.x 速率限制是一個總限制,適用於 Sonnet 4.6 和 Sonnet 4.5 的合併流量。Claude Sonnet 5 有獨立的速率限制,不屬於此合併配額。
† 此限制會將 cache_read_input_tokens 計入 ITPM 使用量。
Message Batches API 有自己的一組速率限制,在所有模型之間共用。這些限制包括對所有 API 端點的每分鐘請求數(RPM)限制,以及可同時在處理佇列中的批次請求數量限制。此處的「批次請求」是指 Message Batch 的一部分。您可以建立包含數千個批次請求的 Message Batch,每個批次請求都會計入此限制。當批次請求尚未被模型成功處理時,即視為處於處理佇列中。
| 每分鐘最大請求數(RPM) | 處理佇列中的最大批次請求數 | 每個批次的最大批次請求數 |
|---|---|---|
| 1,000 | 200,000 | 100,000 |
Claude 受管理代理端點的速率限制是以組織為單位。這些限制與上述 Messages API 速率限制是分開的。
| 操作 | 限制 |
|---|---|
| 建立端點(例如代理、工作階段和環境) | 每分鐘 300 個請求 |
| 讀取端點(例如擷取、列出和串流) | 每分鐘 1,200 個請求 |
在 Claude Opus 5 或 Opus 4.8 上使用快速模式(研究預覽)並設定 speed: "fast" 時,會套用專用的速率限制,與標準 Opus 速率限制分開。當超過快速模式速率限制時,API 會回傳 429 錯誤並附帶 retry-after 標頭。快速模式不適用於 Claude Opus 4.7(請求會回傳錯誤)或 Claude Opus 4.6(對 claude-opus-4-6 使用 speed: "fast" 的請求會以標準速度執行)。請參閱快速模式。
回應會包含 anthropic-fast-* 標頭,指示您的快速模式速率限制狀態。有關這些標頭的詳細資訊,請參閱快速模式速率限制。
您可以在 Claude Console 的使用量頁面監控您的速率限制使用情況。
除了提供權杖和請求圖表外,使用量頁面還提供兩個獨立的速率限制圖表。使用這些圖表來查看您還有多少成長空間、識別何時可能達到使用高峰、了解應申請哪些速率限制,以及學習如何改善您的快取率。這些圖表會視覺化呈現特定速率限制(例如每個模型)的多項指標:
若要申請更高的速率限制或更高的每月支出上限,請使用速率限制頁面上的申請提高速率限制。
有關工作區的更多資訊,請參閱工作區。
為了保護您組織中的工作區免於潛在的過度使用,您可以為每個工作區設定自訂的支出和速率限制。
範例:如果您組織的限制是每分鐘 40,000 個輸入權杖和每分鐘 8,000 個輸出權杖,您可以將某個工作區限制為每分鐘 30,000 個輸入權杖。這可以保護其他工作區免於潛在的過度使用,並確保資源在您的組織中更公平地分配。剩餘未使用的每分鐘權杖數(如果該工作區未用完限制,則會更多)可供其他工作區使用。
注意:
若要以程式方式讀取您目前的組織和工作區速率限制,請使用 Rate Limits API。
API 回應包含標頭,顯示強制執行的速率限制、目前使用量以及限制何時重置。
會回傳以下標頭:
| 標頭 | 說明 |
|---|---|
retry-after | 您可以重試請求前需等待的秒數。提早重試將會失敗。 |
anthropic-ratelimit-requests-limit | 在任何速率限制期間內允許的最大請求數。 |
anthropic-ratelimit-requests-remaining | 在被速率限制之前剩餘的請求數。 |
anthropic-ratelimit-requests-reset | 請求速率限制將完全補充的時間,以 RFC 3339 格式提供。 |
anthropic-ratelimit-tokens-limit | 在任何速率限制期間內允許的最大權杖數。 |
anthropic-ratelimit-tokens-remaining | 在被速率限制之前剩餘的權杖數(四捨五入至最接近的千位數)。 |
anthropic-ratelimit-tokens-reset | 權杖速率限制將完全補充的時間,以 RFC 3339 格式提供。 |
anthropic-ratelimit-input-tokens-limit | 在任何速率限制期間內允許的最大輸入權杖數。 |
anthropic-ratelimit-input-tokens-remaining | 在被速率限制之前剩餘的輸入權杖數(四捨五入至最接近的千位數)。 |
anthropic-ratelimit-input-tokens-reset | 輸入權杖速率限制將完全補充的時間,以 RFC 3339 格式提供。 |
anthropic-ratelimit-output-tokens-limit | 在任何速率限制期間內允許的最大輸出權杖數。 |
anthropic-ratelimit-output-tokens-remaining | 在被速率限制之前剩餘的輸出權杖數(四捨五入至最接近的千位數)。 |
anthropic-ratelimit-output-tokens-reset | 輸出權杖速率限制將完全補充的時間,以 RFC 3339 格式提供。 |
anthropic-priority-input-tokens-limit | 在任何速率限制期間內允許的最大 Priority Tier 輸入權杖數。(僅限 Priority Tier) |
anthropic-priority-input-tokens-remaining | 在被速率限制之前剩餘的 Priority Tier 輸入權杖數(四捨五入至最接近的千位數)。(僅限 Priority Tier) |
anthropic-priority-input-tokens-reset | Priority Tier 輸入權杖速率限制將完全補充的時間,以 RFC 3339 格式提供。(僅限 Priority Tier) |
anthropic-priority-output-tokens-limit | 在任何速率限制期間內允許的最大 Priority Tier 輸出權杖數。(僅限 Priority Tier) |
anthropic-priority-output-tokens-remaining | 在被速率限制之前剩餘的 Priority Tier 輸出權杖數(四捨五入至最接近的千位數)。(僅限 Priority Tier) |
anthropic-priority-output-tokens-reset | Priority Tier 輸出權杖速率限制將完全補充的時間,以 RFC 3339 格式提供。(僅限 Priority Tier) |
anthropic-ratelimit-tokens-* 標頭顯示目前生效的最嚴格限制的數值。例如,如果您已超過工作區的每分鐘權杖限制,標頭將包含工作區每分鐘權杖速率限制的數值。如果工作區限制不適用,標頭將回傳剩餘的總權杖數,其中總數是輸入和輸出權杖的總和。此方法可確保您能清楚了解目前 API 使用上最相關的限制。
Was this page helpful?