Kontextfenster (Context Window)

Das Kontextfenster (Context Window) ist die Textmenge, die ein KI-Modell bei einer Anfrage gleichzeitig berücksichtigen kann – gemessen in Tokens. Alles innerhalb des Fensters fließt in die Antwort ein, alles darüber hinaus wird abgeschnitten. Bei langen Unterhaltungen entscheidet das Kontextfenster, wie viel Verlauf die KI einbeziehen kann.

Was ist das Kontextfenster?

Ein Large Language Model kann nicht beliebig viel Text auf einmal verarbeiten. Das Kontextfenster ist die Obergrenze dafür, gemessen in Tokens. In dieses Fenster passen die aktuelle Frage, der bisherige Gesprächsverlauf, Anweisungen und beigestellte Dokumente. Was nicht mehr hineinpasst, kann das Modell bei seiner Antwort nicht berücksichtigen.

Moderne Modelle haben sehr große Kontextfenster, doch unbegrenzt ist es nie, und mehr Kontext bedeutet auch mehr Rechenkosten.

Warum das Kontextfenster wichtig ist

Im Kundenservice zeigt sich das Kontextfenster an drei Stellen:

• Gesprächsgedächtnis. Nur was im Fenster liegt, ist der KI präsent. Sehr lange Unterhaltungen können am Anfang „vergessen“ werden.
• Dokumente. Es lassen sich nicht beliebig viele Inhalte gleichzeitig anhängen.
• Kosten und Tempo. Ein volleres Fenster kostet mehr Tokens und damit etwas mehr Zeit und Geld.

Der Ausweg: gezielt statt alles

Gute Systeme füllen das Fenster nicht wahllos, sondern wählen die relevanten Inhalte aus. Genau das leistet RAG: Statt die ganze Wissensdatenbank mitzuschicken, sucht es nur die zur Frage passenden Stellen heraus und hält das Kontextfenster schlank und treffsicher.

Kontext bei SendSeven

SendSeven ist eine Unified-Messaging-Plattform mit integriertem KI-Assistenten. Der Assistent berücksichtigt den Verlauf einer Unterhaltung und zieht über RAG gezielt die passenden Inhalte aus Ihrer Wissensdatenbank heran, statt das Kontextfenster mit Überflüssigem zu füllen. Das hält Antworten relevant und die Kosten im Rahmen. Wie Sie Ihre Wissensdatenbank dafür aufbereiten, zeigt die Anleitung zur Wissensdatenbank. DSGVO-konform, Made in Germany. 14 Tage kostenlos testen.