sei fehlgeschlagen, weil der Text nicht eindeutig war, dann hat ihr Spielleiter gerade gut aufgepasst.
Der Kontext wächst mit jedem Schritt
Beim ersten Modellaufruf enthält input nur den Nutzerauftrag und den Skill-Katalog. Mit jeder Modellantwort kommen neue Einträge hinzu. Nach einem Werkzeugaufruf ergänzt die Runtime dessen Ergebnis. Der nächste Request enthält wieder model, instructions, tools und den bis dahin entstandenen Verlauf in input. Die später gezeigten Antworten werden nicht vorweg mitgeschickt.
In Kapitel 4 haben wir dafür previous_response_id verwendet. Hier verwaltet die Anwendung den Verlauf selbst und überträgt ihn jedes Mal erneut, der Stapel Briefe aus Kapitel 3. Das sind zwei Wege, den Gesprächszustand bereitzustellen, keine zwei Agentenprinzipien. Bei echten Modellantworten müssen auch die für die Fortsetzung erforderlichen weiteren Ausgabe-Items erhalten bleiben, etwa Reasoning-Items. 4
Eine gespeicherte Datei wird nicht von selbst zum Modellgedächtnis. Erst die Anwendung macht ihren Inhalt zum Kontext des nächsten Aufrufs. Auch hier gelten Kontextgrenzen: Bei längeren Aufgaben muss die Anwendung den benötigten Verlauf auswählen oder über einen unterstützten Mechanismus verdichten.