Vier Briefe, zwei Formate, zwei Besitzer. Wenn eine KI dir „das JSON für den Chat“ zeigt, frag zurück: welchen der vier? Später kommen weitere Inhalte dazu, die innerhalb von Brief 2 und 3 reisen: Beschreibungen von Werkzeugen, Werkzeugaufrufe des Modells und Antworten in einer Struktur, die wir vorgeben. Sie reisen als Beilagen mit, und ab Kapitel 4 lernst du sie kennen.
Was du einstellen kannst
API-Angaben heißen oft Parameter. Sie steuern den Aufruf; die im Training gelernten Modellparameter werden dabei nicht umgeschrieben. Ein paar davon wirst du immer wieder sehen.
Streaming. Schaltet die Anwendung in ihrer Anfrage stream ein, liefert die API einzelne Ereignisse statt einer fertigen Antwort. Leihregal setzt daraus die Erklärung zusammen und kann ankommenden Text sofort anzeigen. Der Unterschied ist derselbe wie zwischen einem Brief und einem Telefonat: Der Inhalt bleibt gleich, aber man hört schon zu, während noch gesprochen wird.
Tokenauswahl. Wo sie angeboten werden, verändern temperature und top_p die Auswahl unter den möglichen Fortsetzungen. Wie eben gesehen, nehmen neuere Schnittstellen und Modelle diese Regler teilweise gar nicht mehr an.
Weitere Fähigkeiten. Ein JSON-Schema beschreibt, welche Felder eine Antwort enthalten soll und ob dort etwa Text oder Zahlen stehen. Werkzeuge ermöglichen etwa eine Suche oder eine Abfrage in einer Datenbank. Eigene Funktionen führt unsere Anwendung aus; andere laufen beim Anbieter. Manche