wartende Anfragen im selben Augenblick wieder losstürmen. Anzahl und Gesamtdauer der Versuche bleiben begrenzt. 7
Mara gibt keinen pauschalen Auftrag „Wiederhole jeden Fehler“. Eine ungültige Anfrage wird durch Warten nicht gültig. Bei der Reservierung mit unbekanntem Ergebnis braucht es Zuordnung und Abgleich. Beim rein lesenden Katalogabruf ist eine Wiederholung dagegen einfach. Für die Person am Bildschirm bleibt es überschaubar: Die Funktion wartet kurz, zeigt ein Ergebnis oder erklärt, dass gerade keine Vorschläge möglich sind. Sie hängt nicht in einer unsichtbaren Schleife.
Langsam und teuer sind noch keine Diagnosen
Mara hört: „Die Vorschläge dauern inzwischen ewig.“ Bevor jemand das Modell wechselt, lässt sie die einzelnen Abschnitte messen: Suche, Laden der Anleitungen, Modellaufruf, Anzeige. Hängt die Suche, würde ein schnelleres Modell den größten Teil der Wartezeit nicht beseitigen.
Dasselbe gilt für Kosten. Mara will wissen, was eine tatsächlich angezeigte, brauchbare Auswahl kostet, einschließlich Embeddings, wiederholter Aufrufe und abgebrochener Versuche. Nur den Preis eines einzelnen Aufrufs anzuschauen, unterschätzt den Aufwand.
Untersuche einen vollständigen Vorschlagslauf und seine Wiederholungen. Zeige die gemessenen Zeiten und den erfassten Verbrauch je Arbeitsschritt. Markiere Kosten, die nur geschätzt werden können.