Modelle bieten außerdem Einstellungen für zusätzlichen Rechenaufwand beim Nachdenken. Werkzeuge bekommen ab Kapitel 4 eigene Kapitel, das Schema kehrt in Kapitel 7 als Ausgabevertrag zurück, und den Rechenaufwand siehst du in Kapitel 6 in einer echten Anfrage.
„Bitte antworte nur mit JSON“
Dass ein Modell zuverlässig gültiges JSON liefert, ist jünger, als man denkt. 2022 und Anfang 2023 bettelten Entwicklerinnen und Entwickler in ihren Prompts darum: Antworte ausschließlich mit gültigem JSON, keine Erklärung davor, keine danach. Dann schrieben sie Programme, die aus der Antwort das Erste zwischen zwei geschweiften Klammern herausschnitten und hofften, dass es sich einlesen ließ.
Im Juni 2023 führte OpenAI Function Calling ein: Das Modell konnte seine Wünsche nun in einer vorgesehenen Struktur äußern. Im November 2023 folgte ein JSON-Modus, der gültiges JSON versprach, aber noch keine bestimmten Felder. Im August 2024 kamen Structured Outputs: Die Antwort folgt einem vorgegebenen Schema. Bei OpenAIs eigenem Test mit komplexen Schemas erreichte das neue Verfahren 100 Prozent; ein Modell vom Sommer 2023 hatte ohne diese Technik unter 40 Prozent geschafft. 2
JSON selbst ist übrigens nicht für KI erfunden worden. Douglas Crockford hat es Anfang der 2000er-Jahre bekannt gemacht und betont, er habe es nicht erfunden, sondern entdeckt: Die Schreibweise steckte schon in JavaScript. 3