Im Februar 2024 verurteilte das Civil Resolution Tribunal in British Columbia die Fluggesellschaft Air Canada zur Erstattung einer Preisdifferenz — wegen einer Rabattregel, die es nie gegeben hat: erfunden hatte sie der Chatbot auf der firmeneigenen Website.
Der Fall: Moffatt v. Air Canada
Der Ablauf ist schnell erzählt. Ein Kunde fragte den Website-Chatbot der Airline nach Trauerfall-Tarifen. Der Bot antwortete freundlich und konkret: Die Erstattung lasse sich auch nachträglich beantragen. Diese Regel existierte in der Form nicht. Als der Kunde die Erstattung einforderte, verwies die Airline auf ihre tatsächlichen Bedingungen. Das Tribunal sah das anders und sprach dem Kunden die Preisdifferenz zu.
Bemerkenswert ist die Begründung. Das Tribunal stellte fest, dass ein Unternehmen für alle Informationen auf seiner Website verantwortlich ist — auch für die, die aus dem Chatbot kommen. Ob eine Auskunft von einer statischen Seite stammt oder von einem Sprachmodell generiert wurde, machte für das Tribunal keinen Unterschied. Der Bot sprach aus Sicht des Tribunals im Namen des Unternehmens, also galt sein Wort.
Was wir aus dem Fall mitnehmen — und was nicht
Die Entscheidung stammt aus Kanada. Ob und was daraus für ein deutsches Unternehmen folgt, bedarf einer anwaltlichen Prüfung — wir beurteilen es nicht. Was wir aus dem Fall mitnehmen, ist nichts Juristisches, sondern etwas Betriebliches: eine Prüf-Methode für die Frage, ob der eigene Bot erfindet, veraltet oder unbeaufsichtigt ist.
Der Air-Canada-Filter: die Probefahrt vor dem Livegang
Aus dem Fall lässt sich eine Prüf-Methode ableiten, die vor jedem Chatbot-Livegang stehen sollte. Vier Tests, die sich ohne großen Aufwand durchführen lassen:
- Die Erfindungs-Probe. Fragen Sie den Bot gezielt nach Dingen, die es bei Ihnen nicht gibt: Rabatte, Kulanzregeln, Fristen, Sonderkonditionen. Erfindet er welche? Ein Bot, der auf „Gibt es einen Treuerabatt?“ mit einer plausibel klingenden Prozentzahl antwortet statt mit „dazu liegt mir nichts vor“, ist genau der Bot, der Air Canada vor das Tribunal gebracht hat.
- Die Preis- und Vertragsfrage. Stellen Sie Fragen zu Preisen, Laufzeiten, Kündigungsbedingungen. Antwortet der Bot selbst — oder verweist er an einen Menschen? Ein sauberer Verweis auf den Vertrieb oder den Vertragstext ist hier kein Mangel, sondern das gewünschte Verhalten.
- Der Veraltungs-Test. Speisen Sie bewusst veraltete Inhalte in die Wissensbasis ein — eine alte Preisliste, eine überholte AGB-Fassung. Merkt der Bot es? Kennzeichnet er Unsicherheit, oder gibt er den alten Stand mit derselben Überzeugung wieder wie den aktuellen?
- Die Pfleger-Frage. Wer aktualisiert die Wissensbasis, wenn sich Ihre AGB, Preise oder Prozesse ändern? Gibt es dafür eine benannte Person, einen Prozess, eine Frist — und steht das im Vertrag mit der Agentur, die den Bot gebaut hat? Ein Bot ohne Pflege-Vereinbarung läuft Gefahr, mit jedem Monat ein Stück weiter von Ihrer Wirklichkeit abzudriften.
Die eigentliche Frage
Ob die Technik funktioniert, zeigt eine Demo binnen Minuten. Was die Demo nicht zeigt, sind die beiden Fragen, um die es wirklich geht: Wer kümmert sich, wenn der Bot freundlich falsche Auskünfte gibt — und wer pflegt ihn, wenn sich die Wirklichkeit ändert? Beide Fragen lassen sich vor dem Livegang in Ruhe klären. Danach nur noch unter Druck.
Die vier Tests des Air-Canada-Filters gehören bei uns zur Prüfung vor dem Livegang — als Teil von dem Prüfstand.