Gelerntes neu zu verbinden: eine Idee anders zu erklären oder eine Aufgabe in Code umzusetzen.
65 Jahre bis zum Chatfenster
1957 schrieb der britische Linguist John Rupert Firth einen Satz, auf dem Jahrzehnte später eine ganze Industrie aufbauen sollte: „You shall know a word by the company it keeps.“ Man erkennt ein Wort an der Gesellschaft, in der es sich aufhält.
Jahrzehntelang blieb das eine kluge Beobachtung ohne Maschine dazu. Computer waren zu langsam, digitale Texte zu selten, und viele KI-Projekte versuchten, Wissen in handgeschriebene Regeln zu gießen. 2013 zeigte ein Team bei Google mit word2vec, dass ein Programm aus bloßen Textmengen Beziehungen lernen kann, die niemand eingetragen hat. Rechnet man mit den gelernten Zahlen für „König“, zieht „Mann“ ab und addiert „Frau“, landet man in der Nähe von „Königin“.
2017 beschrieben Forschende bei Google den Transformer, die Bauweise, auf der fast alle heutigen Sprachmodelle beruhen. Im Februar 2019 folgte GPT-2, das Modell mit den vierhörnigen Einhörnern aus dem Prolog. OpenAI hielt die vollständige Fassung zunächst zurück, aus Sorge vor Missbrauch, und veröffentlichte sie erst im November desselben Jahres.
Am 30. November 2022 ging ChatGPT online. Fünf Tage später hatte es nach Angaben von OpenAI-Chef Sam Altman eine Million Nutzer. 3