Achthundert Dollar sind für eine Fluggesellschaft nichts. Die Geschichte ging trotzdem um die Welt, weil sie etwas zeigt, das sich nicht wegdiskutieren lässt: Der Chatbot hatte die richtige Information in Reichweite und nannte trotzdem eine Regel, die es so nicht gab. Welche Technik hinter ihm steckte, ist nicht öffentlich. Ein Sprachmodell ohne die Regel im Kontext hätte denselben Fehler aber genauso plausibel formuliert wie das Modell aus Kapitel 1 sein Gerichtsurteil.
Mara kennt dieses Gefühl seit Freitagabend.
Woher kommt der Regen?
Zur Erinnerung: Zum Vortrag draußen ohne Steckdose hat Mara ergänzt, es könnte leicht regnen. Die Karte für das Headset H1 lautet jetzt:
Headset H1
Für deinen Vortrag im Freien geeignet. Auch leichter Regen ist kein Problem.
Details ansehenZur Auswahl hinzufügen
Mara ist sich sicher, woher das kommt. „Die KI kennt Handbücher“, sagt sie. „Die stehen doch alle im Internet.“
Schau in den Brief. Im Vorhaben steht, dass Regen möglich ist. Im übergebenen Geräteeintrag steht kein Wort über Nässe. Ein Handbuch zu H1 gab es im Kontext nicht. Und selbst wenn ein Handbuch dieses Headsets im Training vorkam: Welches Headset hinter der Kurzbezeichnung H1 steckt, steht nicht im Brief, und das Modell schlägt nicht nach, es setzt fort. Der Satz