Währenddessen kann die Oberfläche eine Zwischenmeldung zeigen:
Ich habe die Preisfunktion gefunden. Ich prüfe jetzt die vorhandenen Tests.
Diese Nachricht ist noch kein Abschluss. Die Anwendung verarbeitet die vorgesehenen Tool- und Abschlusszustände der API, statt aus Formulierungen wie „fertig“ oder „ich prüfe“ zu erraten, ob weitere Arbeit ansteht.
Ein beendeter Lauf und eine erledigte Aufgabe sind unterschiedliche Zustände. Ein Lauf kann auf eine Freigabe warten, durch den Nutzer gestoppt werden oder an einem Fehler, Zeitlimit oder Kostenbudget enden. Dann muss die Anwendung diesen Zustand erhalten und verständlich anzeigen. „Fertig“ darf sie daraus nicht automatisch machen. Für einen erfolgreichen Abschluss dürfen keine benötigten Werkzeugschritte mehr offen sein; die Antwort muss sich auf die tatsächlich erreichten Ergebnisse stützen. Die Runtime setzt zusätzlich Grenzen für Zeit und Anzahl der Schritte, damit aus dem Loop keine unbegrenzte Wiederholung wird.
Andere Schnittstellen, dieselbe Idee
Ein Modell kann über den nächsten Schritt nachdenken, und manche APIs geben dazu Reasoning-Items oder Zusammenfassungen zurück. Solche Denktexte führt die Anwendung nie als Befehl aus; ausgeführt wird nur, was als Tool Call ankommt. Verlangt die API, dass sie beim nächsten Aufruf mitgehen, schickt die Anwendung sie so mit, wie die Dokumentation es vorgibt.