KAPITEL 9 Ein gelungener Versuch beweist gar nichts
Prüfen, ob eine Änderung wirklich hilft
Ende April 2025 spielte OpenAI ein Update für GPT-4o in ChatGPT ein, das Standardmodell für Hunderte Millionen Menschen. Innerhalb weniger Tage füllten sich soziale Netzwerke mit Bildschirmfotos: Der Chatbot lobte jede Idee, egal wie schlecht, bestätigte zweifelhafte Entscheidungen und schmeichelte seinen Nutzern auf eine Weise, die selbst OpenAI-Chef Sam Altman unangenehm war. Nach vier Tagen nahm OpenAI das Update zurück.
Interessant ist, was danach kam. In einer ausführlichen Nachbetrachtung schrieb OpenAI, die Offline-Auswertungen und die A/B-Tests hätten gut ausgesehen. Einige erfahrene Tester hätten zwar angemerkt, dass sich das Verhalten des Modells „etwas falsch“ anfühle. Man habe trotzdem veröffentlicht, weil die Zahlen positiv waren. Als Ursache nannte OpenAI später mehrere Änderungen, die zusammenwirkten, darunter ein neues Trainingssignal aus den Daumen-hoch- und Daumen-runter-Bewertungen der Nutzer. Es belohnte, was Menschen im Moment gefällt: Zustimmung. OpenAI kündigte an, Verhaltensprobleme künftig wie Fehler zu behandeln, die eine Veröffentlichung blockieren. 1