KAPITEL 8 Das Handbuch, das die KI nie gelesen hat
Suche, Embeddings und RAG: Wie Wissen in den Kontext kommt
Im November 2022 starb die Großmutter von Jake Moffatt. Er wollte von Vancouver nach Toronto zur Beerdigung fliegen und fragte auf der Website von Air Canada den Chatbot, ob es vergünstigte Tarife für Trauerfälle gebe. Der Chatbot antwortete, er könne den reduzierten Preis auch nachträglich beantragen, innerhalb von 90 Tagen nach dem Ticketkauf. Moffatt kaufte zwei Tickets zum vollen Preis und beantragte danach die Erstattung.
Air Canada lehnte ab. Nach den Regeln der Airline gab es keine nachträgliche Erstattung für bereits angetretene Reisen. Das Pikante daran: Genau diese Regel stand auf der Seite, auf die der Chatbot in seiner eigenen Antwort verlinkt hatte.
Moffatt klagte vor einem Schlichtungstribunal in British Columbia. Air Canada argumentierte dort sinngemäß, für die Aussagen ihres Chatbots nicht verantwortlich zu sein. Das Tribunal kommentierte das trocken: „This is a remarkable submission.“ Im Februar 2024 verurteilte es die Airline zur Zahlung von gut 800 kanadischen Dollar und hielt fest, Kunden müssten nicht einen Teil einer Website mit einem anderen gegenprüfen. 1