Was ist ein Context Window und warum begrenzt es, was ein KI-Agent leisten kann?
Das Context Window ist die maximale Menge an Text (gemessen in Tokens), die ein KI-Modell in einer einzelnen Anfrage gleichzeitig lesen und verarbeiten kann — überschreitet die Eingabe diese Grenze, muss der Inhalt gekürzt oder in mehrere Anfragen aufgeteilt werden, was die Leistungsfähigkeit eines Agenten in der Praxis begrenzt.
Das Context Window bestimmt, wie viel Information ein Modell "im Kopf behalten" kann, während es eine Aufgabe bearbeitet — eine technische Grenze, die in der Praxis reale Konsequenzen hat.
Was Tokens konkret sind
Ein Token ist ein Textbaustein, meist ein Wortteil — ein durchschnittlicher deutscher Satz besteht aus rund 15 bis 25 Tokens.
Größere Modelle können inzwischen mehrere hunderttausend Tokens gleichzeitig verarbeiten, was mehreren hundert Seiten Text entspricht — trotzdem bleibt es eine feste Obergrenze.
Warum das für KI-Agenten praktisch relevant ist
Ein Agent, der viele Dokumente oder eine lange Konversation gleichzeitig verarbeiten soll, kann bei Überschreitung des Context Windows ältere Informationen "vergessen" oder muss diese vorab gezielt zusammenfassen lassen.
Deshalb ist es bei der Entwicklung eines Agenten wichtig, nur die tatsächlich relevanten Informationen (z. B. über eine Vektordatenbank gezielt ausgewählt) statt aller verfügbaren Dokumente in die Anfrage zu geben.
Was das für die praktische Nutzung bedeutet
Bei sehr langen internen Dokumenten oder Gesprächsverläufen sollte ein Agent gezielt nur die relevantesten Abschnitte erhalten, statt alles auf einmal zu übergeben — das verbessert sowohl Antwortqualität als auch Geschwindigkeit.
Haben Sie Fragen zum Thema?
Wir helfen Ihnen, den nächsten konkreten Schritt für Ihr Unternehmen zu finden.
Nächster Schritt
Bereit für Ihre KI-Infrastruktur?
Nextise begleitet Sie von der ersten Analyse bis zur produktiven Lösung. In 6–10 Wochen einsatzbereit.
Lassen Sie uns gemeinsam über Ihre KI-Transformation sprechen
