Planung ihre Stärke wären, verschenken wir einen Teil ihrer Fähigkeit. Umgekehrt ersetzen Formulierungen wie „Sei vorsichtig“ keine echte Berechtigungskontrolle. Harte Regeln muss später die Software durchsetzen. Diese Trennung wird durch das ganze Buch wiederkehren:
Die KI bekommt semantischen Spielraum. Die Runtime setzt die harten Grenzen.
Was eine Runtime ist, klären wir im nächsten Kapitel. Für den Moment genügt: Es ist der Teil deiner Software, der tatsächlich etwas tut.
Wenn die Antwort mitten im Code endet
Es kann eine Antwort ankommen, die so aussieht:
def add(a,
Die Verbindung hat funktioniert. Trotzdem ist die Funktion nicht fertig. Unser Backend liest deshalb zusätzlich stop_reason. Steht dort max_tokens, wurde das Ausgabelimit erreicht. Die Oberfläche zeigt den erhaltenen Text und einen eigenen Hinweis auf die mögliche Unvollständigkeit. Bei end_turn hat das Modell seinen Gesprächsschritt normal beendet. Das bedeutet nicht, dass sein Code getestet oder richtig ist.