Kontextfenster

Wenn Gespräche wachsen, näherst du dich irgendwann den Grenzen des Kontextfensters. Für langlaufende Gespräche und agentische Workflows ist serverseitige Compaction die primäre Strategie für das Kontextmanagement.



Wie das Kontextfenster funktioniert

Das „context window" (Kontextfenster) bezieht sich auf den gesamten Text, auf den ein Sprachmodell beim Generieren einer Antwort zurückgreifen kann, einschließlich der Antwort selbst. Dies unterscheidet sich vom großen Datenbestand, auf dem das Sprachmodell trainiert wurde, und stellt stattdessen einen „Arbeitsspeicher" für das Modell dar. Ein größeres Kontextfenster ermöglicht es dem Modell, komplexere und längere Prompts zu verarbeiten, aber mehr Kontext ist nicht automatisch besser. Mit wachsender Token-Anzahl verschlechtern sich Genauigkeit und Erinnerungsvermögen, ein Phänomen, das als Context Rot bekannt ist. Das macht die Kuratierung dessen, was sich im Kontext befindet, genauso wichtig wie die Frage, wie viel Platz verfügbar ist.

Das folgende Diagramm veranschaulicht das Standardverhalten des Kontextfensters für API-Anfragen¹:

¹ Chat-Oberflächen wie claude.ai können das Kontextfenster auch rollierend nach dem „First in, first out"-Prinzip verwalten.

• Progressive Token-Akkumulation: Während das Gespräch über mehrere Turns fortschreitet, sammeln sich jede Benutzernachricht und jede Assistentenantwort im Kontextfenster an, und vorherige Turns bleiben vollständig erhalten.
• Kapazität des Kontextfensters: Das Kontextfenster (bis zu 1M Token, je nach Modell) enthält den Gesprächsverlauf plus die neue Ausgabe, die Claude generiert.
• Input-Output-Fluss: Jeder Turn besteht aus:
  • Input-Phase: Enthält den gesamten bisherigen Gesprächsverlauf plus die aktuelle Benutzernachricht
  • Output-Phase: Generiert eine Textantwort, die Teil des Inputs für den nächsten Turn wird

Alles in der Anfrage zählt zum Kontextfenster: der System-Prompt, jede Nachricht in messages (einschließlich Tool-Ergebnissen, Bildern und Dokumenten) und deine Tool-Definitionen. Die Ausgabe, die Claude für den Turn generiert, einschließlich seines erweiterten Denkens, zählt ebenfalls. Jede Antwort meldet im Feld usage, was die Anfrage verbraucht hat. Wenn du Prompt-Caching verwendest, wird die Input-Zählung auf input_tokens, cache_read_input_tokens und cache_creation_input_tokens aufgeteilt, und alle drei zählen zum Fenster. Um eine Anfrage vor dem Senden abzuschätzen, verwende die Token-Counting-API.



Kontextfenstergrößen nach Modell

Claude Opus 5, Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 und Claude Sonnet 4.6 haben ein Kontextfenster von 1M Token auf der Claude API, Amazon Bedrock, Google Cloud und Microsoft Foundry. Claude Mythos Preview hat ebenfalls ein Kontextfenster von 1M Token.

Claude Fable 5 und Claude Mythos 5 (claude-fable-5 und claude-mythos-5) haben ebenfalls ein Kontextfenster von 1M Token. Eine einzelne Anfrage an ein beliebiges Modell mit einem 1M-Token-Kontextfenster kann bis zu 128k Output-Token (max_tokens) generieren. Andere Claude-Modelle, einschließlich Claude Sonnet 4.5, haben ein Kontextfenster von 200k Token.

Für jedes Modell mit einem 1M-Token-Kontextfenster ist 1M der Standard: Du brauchst keinen Beta-Header, und Anfragen mit langem Kontext werden zu Standardpreisen abgerechnet.

Eine einzelne Anfrage kann bis zu 600 Bilder oder PDF-Seiten enthalten (100 bei Modellen mit einem 200k-Token-Kontextfenster). Wenn du viele Bilder oder große Dokumente sendest, erreichst du möglicherweise die Grenzen für die Anfragegröße, bevor du das Token-Limit erreichst.

Siehe die Tabelle zum Modellvergleich für eine Liste der Kontextfenstergrößen nach Modell.



Das Kontextfenster mit Denken

Mit Denken zählen alle Input- und Output-Token, einschließlich der Denk-Token, zum Limit des Kontextfensters, mit einigen Nuancen in Multi-Turn-Situationen.

Denk-Token sind eine Teilmenge deines max_tokens-Parameters, werden als Output-Token abgerechnet und zählen zu den Ratenlimits. Mit adaptivem Denken bestimmt Claude seine Denk-Zuteilung dynamisch, sodass die Nutzung von Denk-Token von Anfrage zu Anfrage variiert.

Ob Denkblöcke aus vorherigen Assistenten-Turns im Kontextfenster bleiben, hängt vom Modell ab. Bei Claude Opus 4.5 und späteren Opus-Modellen, Claude Sonnet 4.6 und späteren Sonnet-Modellen, Claude Fable 5, Claude Mythos 5 und Claude Mythos Preview behält die API vorherige Denkblöcke standardmäßig bei, und sie zählen wie alle anderen Input-Token zum Kontextfenster. Bei früheren Opus- und Sonnet-Modellen und allen Haiku-Modellen entfernt die API vorherige Denkblöcke automatisch aus dem Gesprächsverlauf, wenn du sie zurückgibst, was Token-Kapazität für Gesprächsinhalte bewahrt. Die modellspezifischen Standardeinstellungen findest du unter Beibehaltung von Denkblöcken nach Modell. Um den Standard in beide Richtungen zu überschreiben, verwende das Löschen von Denkblöcken.

Das folgende Diagramm zeigt, wie Token verwaltet werden, wenn Denken bei einem Modell aktiviert ist, das vorherige Denkblöcke entfernt:

• Entfernen von Denkblöcken: Bei Modellen, die vorherige Denkblöcke entfernen, werden Denkblöcke (in Dunkelgrau dargestellt) während der Output-Phase jedes Turns generiert, aber nicht als Input-Token für nachfolgende Turns weitergeführt. Du musst die Denkblöcke nicht selbst entfernen: Wenn du sie zurückgibst, entfernt die Claude API sie automatisch.
• Abrechnung: Denk-Token werden einmal als Output-Token abgerechnet, wenn sie generiert werden. Bei Modellen, die vorherige Denkblöcke beibehalten, sind die beibehaltenen Blöcke dann Teil des Inputs späterer Anfragen und werden wie der Rest des Gesprächsverlaufs als Input-Token abgerechnet.



Das Kontextfenster mit Denken und Tool-Nutzung

Das folgende Diagramm veranschaulicht, wie Token verwaltet werden, wenn du Denken mit Tool-Nutzung bei einem Modell kombinierst, das vorherige Denkblöcke entfernt:

• Überlegungen zur Tool-Nutzung mit Denken:
  • Wenn du Tool-Ergebnisse sendest, musst du den gesamten unveränderten Denkblock einschließen, der zu dieser Tool-Anfrage gehört, einschließlich seiner Signatur.
  • Die API verwendet kryptografische Signaturen, um die Authentizität von Denkblöcken zu überprüfen. Wenn du einen Denkblock veränderst, gibt die API einen Fehler zurück.

Um den Kontext zu reduzieren, der von den Tool-Definitionen selbst verbraucht wird, siehe Tool-Kontext verwalten, oder verschiebe Tool-Definitionen mit dem Tool-Search-Tool.



Kontextbewusstsein

Claude Sonnet 5, Claude Sonnet 4.6, Claude Sonnet 4.5 und Claude Haiku 4.5 verfügen über Kontextbewusstsein: Diese Modelle verfolgen ihr verbleibendes Kontextfenster (ihr „Token-Budget") während eines Gesprächs. Dadurch kann das Modell langlaufende Aufgaben anhand des verbleibenden Platzes steuern, anstatt zu raten, wie viele Token noch übrig sind. Kontextbewusstsein ist automatisch: Du musst nichts aktivieren, und du sendest die in diesem Abschnitt gezeigten Tags niemals selbst. Die API fügt sie ein.



Wie es funktioniert

Im System-Prompt jeder Anfrage teilt die API Claude sein gesamtes Kontextfenster mit:

<budget:token_budget>200000</budget:token_budget>

Das Budget entspricht dem Kontextfenster, das deiner Anfrage zur Verfügung steht: 1M Token für Claude Sonnet 5 und Claude Sonnet 4.6 und 200k Token für Claude Sonnet 4.5 und Claude Haiku 4.5. Die Beispiele in diesem Abschnitt zeigen ein Modell mit einem 200k-Token-Kontextfenster.

Nach jedem Tool-Aufruf gibt die API Claude ein Update über seine verbleibende Kapazität:

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Bild-Token sind in diesen Budgets enthalten.

Claude Opus 4.7 und spätere Opus-Modelle, Claude Fable 5 und Claude Mythos 5 erhalten diese eingefügten Tags nicht. Bei Claude Opus 4.7 und späteren Opus-Modellen, Claude Fable 5 und Claude Mythos 5 kannst du dem Modell mit Task-Budgets, die sich in der Beta befinden, ein explizites Budget geben.

Prompting-Hinweise zur Nutzung des Kontextbewusstseins findest du unter Best Practices für Prompting.



Kontext mit Compaction verwalten

Wenn sich deine Gespräche regelmäßig den Grenzen des Kontextfensters nähern, verwende serverseitige Compaction. Compaction fasst frühere Teile des Gesprächs automatisch auf dem Server zusammen, sodass das Gespräch über das Limit des Kontextfensters hinaus fortgesetzt werden kann. Sie ist in der Beta für Claude-4.6- und spätere Modelle sowie Claude Mythos Preview verfügbar.

Für speziellere Anforderungen bietet Context Editing zusätzliche Strategien:

• Löschen von Tool-Ergebnissen: Lösche alte Tool-Ergebnisse in agentischen Workflows
• Löschen von Denkblöcken: Verwalte Denkblöcke, wenn du erweitertes Denken verwendest

Gecachte Prompt-Präfixe belegen weiterhin das Kontextfenster: Prompt-Caching ändert, was du für diese Token bezahlst, nicht, ob sie zählen.



Verhalten bei Überlauf des Kontextfensters

Wenn der Input allein bereits das Kontextfenster des Modells überschreitet, gibt die API bei jedem Modell einen 400 invalid_request_error („prompt is too long") zurück.

Bei Claude-4.5-Modellen und neueren akzeptiert die API die Anfrage, wenn Input-Token plus max_tokens die Größe des Kontextfensters überschreiten. Wenn die Generierung dann das Limit des Kontextfensters erreicht, stoppt sie mit stop_reason: "model_context_window_exceeded". Bei früheren Modellen gibt die API stattdessen einen Validierungsfehler zurück. Um das model_context_window_exceeded-Verhalten bei diesen Modellen zu aktivieren, verwende den Beta-Header model-context-window-exceeded-2025-08-26. Siehe Stop-Gründe und Fallback für Details.

Um innerhalb der Grenzen des Kontextfensters zu bleiben, verwende die Token-Counting-API, um die Token-Nutzung abzuschätzen, bevor du Nachrichten an Claude sendest.



Nächste Schritte