unterschiedliche Zustände. Die geladenen Öffnungszeiten bestätigen weder ein freies Zimmer noch eine Reservierung. Merke dir diesen Satz für Kapitel 10; dort wird er teuer.
Wie der Chatbot das Modell wechselt
Stell dir vor, der Hotelgast möchte mehrere Zimmerangebote mit unterschiedlichen Stornobedingungen vergleichen. Das erste Modell ist schnell und günstig, für diesen Vergleich aber nicht die beste Wahl. Es kann einen Wechsel zu einer stärkeren Modellstufe anfordern.
Wie wird aus dieser Anforderung ein tatsächlicher Wechsel? Im Teydra-Widget gibt es dafür ein Werkzeug namens routing_request. Es bedeutet: „Setze diese Aufgabe mit der angegebenen Modellstufe fort.“ So könnten die Eingaben dieses Werkzeugaufrufs aussehen; das Beispiel ist konstruiert, Feldnamen und Werte folgen der Schnittstelle im Produkt:
{
"request": "upgrade",
"need": "stronger_reasoning",
"confidence": 0.85,
"target_role": "tier2.strong"
}
Was soll passieren? Zu einer stärkeren Stufe wechseln.
Wozu? Die Aufgabe gründlicher durchdenken.
Einschätzung des Modells: Wie zuversichtlich ist es, dass der Wechsel hilft?
Wohin? Zur Stufe tier2.strong.