Die Kontext-Steuer: Warum Deine KI-Zeitersparnis halb so groß ist, wie Du denkst.
Als ich angefangen habe mit generativer kleine Helferlein für meinen Alltag zu bauen (damals mit ChatGPT), ist mir in Zeitverlauf etwas aufgefallen. Ich erhielt oft sehr generische Antworten. Toll beschriebene Konzepte, Outline und Pläne, die ich aber immer sehr stark auf mich zuschneiden musste.
Liegt es am Prompt?
Als erstes hatte ich meine Prompt-Fähigkeiten in Verdacht. Die Ergebnisse der KI waren ja nur deshalb so generisch, weil ich nicht ausreichend genau beschrieben habe, was ich will. Als Lösung musste ich der KI immer also immer wieder die gleichen oder mindestens sehr ähnliche Informationen über mich mitgeben. Und da ich bei optimaler KI-Nutzung selten auf Gefühle setzen will, habe ich mir das damals genauer angeschaut.
Es war tatsächlich so. In fast jedem meiner Chats habe ich mit der KI immer wieder von vorne angefangen. Ich brauchte eine Social Media Grafik und habe der KI meine Zielgruppe beschrieben. Ich wollte eine Storyline für meine nächste Präsentation bauen und habe der KI meine gewünschte Tonalität mitgegeben. Ich wollte einen Lernpfad für mich bauen, um KI besser zu verstehen, und habe der KI erstmal erklärt an welchen Tagen ich wieviel Zeit habe, um zu lernen.
“Ich muss nur besser prompten, dann wird das schon!” Leider nein.
Denn diese ganzen Informationen sind ja stabil im Zeitverlauf. Ich kann sie also irgendwo hinterlegen, wo die KI zuverlässig nachschaut und sie immer mit einbezieht.
Warum KI im Chatverlauf Kontext vergisst
Es gibt mindestens 5 wissenschaftlich belegte Gründe, warum KI vergesslich ist.
Das Modell hat kein Gedächtnis zwischen den Chats: Die gängigen Sprachmodelle verarbeiten jede deiner Anfragen als eine Art abgeschlossenes Textpaket. Was Du nicht mitschickst, fehlt dem Modell an Information. Deshalb liefern die Apps (z.B., Claude, ChatGPT, Gemini, etc.) für die Nutzenden Möglichkeiten solche übergreifenden Informationen zu speichern. Im Memory, in den Instruktionen oder in den Projektanweisungen.
Das Kontextfenster ist begrenzt: Innerhalb eines Chats verarbeitet jedes KI-Modell nur eine bestimmte Menge an Text. Diese Menge an Text is ein hartes Limit für deine Eingaben und die Antworten in Summe. Sobald Du diese Grenze im Zeitverlauf eines Chats überschreitest, fallen die oben eingetragenen Informationen heraus. Deshalb nutzen fortgeschrittene Nutzende dann so genannte Kontext-Dateien.
Das “Verloren in der Mitte”-Problem: Forschende haben herausgefunden, dass KI-Modelle bei der Verarbeitung langer Texte oft die Informationen in der Mitte des Textmaterials weglassen oder ignorieren (Liu et al., 2024). Wenn die wichtigsten Informationen also am Anfang oder am Ende stehen, dann liefern KI-Modelle die relativ gesehen besten Ergebnisse.
Der Kontext verrottet: KI-Modelle nutzen, basierend auf wissenschaftlichen Analysen, ihren Kontext scheinbar nicht gleichmäßig und sie werden mit wachsender Menge an Text immer unzuverlässiger (Hsieh et al., 2024). Kurze und sehr fokussierte Anweisungen an die KI-Modelle sind also von Vorteil.
Das “Verloren im Gespräch”-Problem: Vergleichende Analysen zeigten, dass selbst führende Sprachmodelle deutlich schlechter abschneiden, wenn die Gespräche über mehrere Runden laufen (Leban et al. 2025). Dabei scheint es so zu sein, dass sich die Modelle früh festlegen und dann weitere Gesprächsrunden voreingenommen bestreiten. Hier hilft also öfter mal ein Neustart anstelle ewiger Nachbesserung der Informationen.
Das Gedächtnis der KI ist also kein Feature, auf das Du warten solltest. Es ist etwas, das Du Dir am besten selbst baust: eigene Dateien in einer Ordnerstruktur, die Du kontrollierst und in jedes Tool mitnehmen kannst. Das ist exakt das Argument für das Personal Operating System (POS), dass ich mir mit KI gebaut habe. Die oben zitierten Studien liefern Dir die Begründung, warum „einfach länger chatten” nicht funktioniert.
Ein KI-Use Case, den ich so identifiziert habe und auch tatsächlich nutze ist meine Version eines Second Brain / LLM-Wiki. Ich habe diesen Ansatz, den ich Personal Operating System (POS) nenne, kürzlich in einer 1-stündigen Live-Session gezeigt. Zieh’ sie Dir gerne kostenlos rein:
Additional information: This article reflects my personal views only and is not necessarily the view of the companies I am associated with.
Kommentare