Warum die KI mitten im Gespräch vergisst

Du arbeitest eine Stunde mit der KI an einem Problem, alles greift ineinander — und plötzlich „vergisst“ sie, was ganz am Anfang vereinbart war. Den Festpreis. Den einen Sonderfall. Die Bedingung, die alles trägt. Das wirkt wie ein Aussetzer. Es ist keiner. Es ist eine Eigenschaft.

Im Hintergrund gibt es nämlich keine Sitzung, die sich etwas merkt. Die KI ist bei jeder einzelnen Anfrage zustandslos: Der gesamte bisherige Verlauf wird erneut mitgegeben und zählt jedes Mal komplett mit. Das Gespräch selbst hat kein Gedächtnis — es wird bei jeder Antwort aus dem vollständigen Verlauf neu hergestellt.

Das geht gut, solange Platz ist. Aber der Platz ist endlich: ein hartes Limit, der sogenannte Kontext. Stell ihn dir als Glas vor. Du kannst nachfüllen, nachfüllen, nachfüllen — und irgendwann ist das Glas voll. Voll ist voll.

Was dann passiert, ist der eigentlich heikle Teil, und beide Wege kosten etwas. Entweder fällt das Älteste weg — ausgerechnet die ursprüngliche Absicht, die ganz am Anfang stand. Oder der Verlauf wird zusammengefasst. Und eine Zusammenfassung ist eine Kompression mit Verlust, wie ein JPEG: Das Bild ist noch da, die Schärfe nicht. Manchmal fällt dabei genau der eine Satz weg, auf den es ankam — die Zeile mit dem Preis, der eine Zahlendreher, die Ausnahme.

Ich finde das nicht beunruhigend, sondern klärend. Wer das Glas sieht, hört auf, sich über das „Vergessen“ zu ärgern, und fängt an, den Kontext bewusst zu führen: Was muss rein, was darf draußen bleiben, wann setzt man besser sauber neu auf? Wann startet man bewusst eine neue Session und füttert sie mit den bis dahin gewonnenen wichtigen Details? Wenn die Maschine das entscheiden soll, dann findet die oben erwähnte Kompression statt: Keine Kontrolle des Nutzers darüber, was als wichtig erachtet wird und was nicht. Das entscheidet die Maschine. Oder der Nutzer macht es eben selbst. — Wie genau man das macht, ist eine eigene Disziplin — und letztlich der Teil, der über ruhiges Arbeiten oder ständigen Frust entscheidet. Aber der erste Schritt ist einfach: das Glas überhaupt zu sehen.