Was ist ein Context Window?
Ein Context Window (Kontextfenster) bezeichnet die maximale Anzahl an Tokens, die ein Large Language Model (LLM) gleichzeitig verarbeiten kann.
Es bestimmt, wie viel Text ein KI-System im aktuellen Verarbeitungsschritt berücksichtigen kann.
Wie funktioniert das Context Window?
Ein Sprachmodell verarbeitet Eingaben nicht unbegrenzt.
Stattdessen wird nur eine bestimmte Anzahl von Tokens berücksichtigt:
- Eingabeprompt
- Systemanweisungen
- Gesprächsverlauf
- Bereits generierte Antwort
Überschreitet der Text die maximale Token-Anzahl, werden ältere Inhalte abgeschnitten.
Warum ist das Context Window für Künstliche Intelligenz wichtig?
Das Kontextfenster beeinflusst:
- Länge von Dokumenten, die analysiert werden können
- Qualität von Zusammenfassungen
- Stabilität längerer Dialoge
- Verarbeitung interner Wissensdaten
Ein größeres Context Window ermöglicht komplexere Anwendungen.
Unterschied zwischen Context Window und Speicher
Das Context Window ist kein dauerhaftes Gedächtnis. Es beschreibt nur die aktuell verarbeitbare Token-Menge. Langfristige Speicherung erfordert externe Systeme wie Datenbanken oder Retrieval-Augmented Generation (RAG).
Warum ist das Context Window für Unternehmen relevant?
Unternehmen nutzen KI-Modelle häufig für:
- Dokumentenanalyse
- Vertragsprüfung
- Wissensmanagement
- Automatisierte Berichte
Ein zu kleines Kontextfenster kann wichtige Informationen abschneiden und Ergebnisse verfälschen.
Praxisbeispiel
Ein Unternehmen möchte ein 200-seitiges Dokument mit einem Large Language Model analysieren.
Ist das Context Window zu klein, muss der Text in mehrere Abschnitte unterteilt werden.
Verwandte Begriffe
- Token
- Large Language Model (LLM)
- Retrieval-Augmented Generation (RAG)
- Prompt Engineering
- Künstliche Intelligenz (KI)
FAQ
Bedeutet ein großes Context Window bessere Qualität?
Nicht automatisch. Es ermöglicht jedoch komplexere Analysen.
Ist das Context Window bei jedem Modell gleich?
Nein. Unterschiedliche KI-Modelle haben unterschiedliche Token-Limits.
Kann das Context Window erweitert werden?
Nicht direkt. Es hängt von der Modellarchitektur ab.