Was ist Kontextfenster?
Das Kontextfenster ist die Menge an Text, die ein Sprachmodell pro Aufruf verarbeiten kann, gemessen in Tokens. Hineingerechnet wird alles: der System-Prompt, der Gesprächsverlauf, angehängte Dokumente und die Antwort, die das Modell gerade schreibt. Ist das Fenster voll, fällt vorne etwas heraus oder der Aufruf bricht ab. Ein Modell hat kein Gedächtnis zwischen zwei Aufrufen, sondern nur dieses Fenster - alles, was sich ein System merken soll, muss beim nächsten Mal wieder hineingelegt werden.
Für die Praxis heißt das zweierlei. Erstens kostet Kontext Geld und Zeit: Jeder Aufruf bezahlt den kompletten Inhalt des Fensters mit, nicht nur die neue Frage. Ein Chat, der seit zwei Stunden läuft, ist pro Antwort deutlich teurer als der erste Zug. Zweitens ist ein größeres Fenster kein Ersatz für Auswahl. Wer 200 Seiten hineinkippt, bekommt nicht die beste Antwort, sondern die teuerste.
Die bessere Strategie heißt Auswahl statt Fülle: nur die relevanten Passagen über Retrieval nachladen, lange Verläufe zusammenfassen statt komplett mitschleppen, und wichtige Regeln an den Anfang oder ans Ende setzen statt in die Mitte. Genau deshalb sind Aufgaben, die in klar getrennte Schritte zerfallen, in einem festen Workflow oft billiger und stabiler als in einem Agenten, der seine ganze Vorgeschichte mitträgt.
Warum ist Kontextfenster wichtig?
Dass ein großes Fenster nicht automatisch gut genutzt wird, ist gemessen: Die Studie „Lost in the Middle" von Nelson Liu und Kolleginnen zeigt eine U-Kurve - Modelle finden Informationen am Anfang und am Ende des Kontexts zuverlässig, in der Mitte deutlich schlechter, und die Trefferquote sinkt insgesamt, je länger der Kontext wird. Die Position deiner wichtigsten Regel ist also kein Formatdetail.
Kontextfenster in der Praxis
- 01Ein Chatbot bekommt statt des kompletten Handbuchs nur die drei passenden Abschnitte in den Kontext geladen und antwortet dadurch schneller, billiger und präziser.
- 02Ein Team merkt, dass die Antworten in langen Chats vom Styleguide abweichen, und startet für jeden Beitrag eine frische Session mit denselben Regeln statt weiterzuchatten.
- 03Ein Automationslauf fasst den bisherigen Verlauf nach jedem Schritt zu fünf Sätzen zusammen, damit das Fenster nicht mit alten Zwischenständen volläuft.
