Stanislaus HeesBuchbegleitung

LESEN · VERSTEHEN · WEITERDENKEN

KI ins eigene Produkt · Seite 63

Inhalt

wir die konkrete Fehlermeldung mit: In diesem Fall fehlt retry-after. Kurzes Warten hilft nicht, und zusätzliches Guthaben hebt diese Grenze nicht auf. Weiter geht es erst mit einer höheren Stufe, die man in der Konsole des Anbieters beantragen kann, oder im nächsten Monat.

Steht dort dagegen 529 · overloaded_error, meldet der Anbieter eine Überlastung seines Dienstes. Wir beheben das nicht, indem wir unseren Prompt ändern oder mehr Geld einzahlen. Unsere Wiederholungslogik muss zwischen solchen Fehlerursachen unterscheiden. Bei einer vorübergehenden Überlastung wartet sie und versucht es erneut, bei weiteren Fehlschlägen mit größeren Abständen. Nach wenigen erfolglosen Versuchen soll die Anwendung statt einer endlosen Ladeanzeige zeigen:

Der KI-Dienst ist gerade überlastet. Bitte versuche es später erneut.

Die eingegebene Nachricht bleibt erhalten. Den Hinweis zeigt unser Backend an; er ist keine Antwort des Modells. Soll der Chat später über einen Ersatzanbieter weiterlaufen, testen wir diesen Wechsel vorher mit denselben Gesprächen, nicht erst, wenn Kunden auf Antworten warten.

Zurück zu Leihregal

Mara gibt ihrer Entwicklungs-KI einen kurzen Auftrag:

Das Feld „Begriff erklären“ soll Folgefragen verstehen. Speichere den Verlauf pro Gerätebeschreibung und Sitzung auf dem