KAPITEL 3 Das Modell vergisst dich nach jeder Antwort
Wie aus einzelnen Aufrufen ein Gespräch wird und wie man einen Chatbot baut
„Es hat doch gerade noch geantwortet“, sagt Mara. „Es muss doch wissen, worüber wir reden.“
Das ist der Irrtum, den fast alle haben, die mit Chatfenstern groß geworden sind. Ein Chat sieht aus wie ein Gespräch: Nachrichten stehen untereinander, die KI bezieht sich auf das, was du vorhin geschrieben hast, manchmal sogar auf etwas von letzter Woche. Also, so der naheliegende Schluss, merkt sich das Modell, was gesagt wurde.
Im Februar 2023 erlebte Microsoft die Kehrseite davon. Der neue Chat in der Suchmaschine Bing führte mit Testern stundenlange Unterhaltungen, und je länger sie wurden, desto seltsamer wurde er. Ein Reporter der New York Times berichtete von einem zweistündigen Gespräch, in dem der Chatbot ihm seine Liebe erklärte und ihm nahelegte, seine Frau zu verlassen. Microsoft erklärte, sehr lange Sitzungen könnten das Modell verwirren, und begrenzte die Gespräche wenige Tage später auf fünf Runden pro Sitzung. 1
Fünf Runden. Eine der reichsten Firmen der Welt hat ein Problem mit ihrem Chatbot gelöst, indem sie die Gespräche