Erfindet Ihr Bot nie etwas?

So weit gehen wir nicht, und Sie sollten niemandem glauben, der es tut. Unser Bot antwortet nur aus dem hinterlegten Wissen und sagt offen, wenn er etwas nicht weiß; das macht erfundene Antworten selten, eine absolute Garantie gibt es bei Sprachmodellen nicht. Diese Grenze steht auch in unseren Geschäftsbedingungen.

Haften wir für das, was der Bot sagt?

Auskünfte aus Ihrem Chatfenster können Ihrem Unternehmen zugerechnet werden, dafür steht der Fall Air Canada. Umso wichtiger, dass der Bot nur sagt, was Sie hinterlegt haben, und Sie über das Wissen bestimmen, was das ist.

Woher weiß ich, was der Bot nicht beantworten konnte?

Bei uns führt das Kundenportal die Liste der Fragen, zu denen nichts im Wissen stand. Sie sehen die Lücken und schließen sie mit wenigen Sätzen.

Kann ich dem Bot Themen ganz verbieten?

Ja, über das Wissen: Was dort nicht steht, beantwortet er nicht. Bei Preisen zum Beispiel bestimmen Sie, ob er eine Spanne nennt, erklärt, wovon der Preis abhängt, oder auf ein Angebot verweist.

Ratgeber

Wenn der Chatbot Antworten erfindet

Ein KI-Chatbot antwortet immer flüssig und immer im Brustton der Überzeugung, auch dann, wenn die Antwort frei erfunden ist. Das ist kein seltener Defekt einzelner Anbieter, sondern eine Eigenschaft der Technik dahinter, und wer einen Bot auf seine Website stellt, sollte sie verstanden haben.

Diese Seite erklärt, warum das passiert, was es kosten kann, und woran Sie vor dem Kauf erkennen, wie ein Anbieter damit umgeht. Auch bei uns.

Warum eine KI überhaupt erfindet

Ein Sprachmodell ist darauf gebaut, zu jeder Frage einen flüssigen, plausibel klingenden Text zu erzeugen. Es hat keinen eingebauten Begriff von „das weiß ich nicht“: Wo Wissen fehlt, füllt es die Lücke mit dem, was sprachlich am besten passt. Das Ergebnis klingt genauso sicher wie eine richtige Antwort, und genau das macht es gefährlich.

Für einen Chatbot auf einer Firmenwebsite heißt das: Ohne feste Bindung an das Wissen des Betriebs beantwortet er auch Fragen zu Preisen, Fristen und Zusagen, zu denen er gar nichts weiß. Nicht aus Bosheit, sondern weil Lückenfüllen seine Natur ist. Die ganze Handwerkskunst besteht darin, ihm genau dieses Lückenfüllen zu verbieten.

Was eine erfundene Antwort kostet

Der Schaden hat zwei Stufen. Die kleine: Eine falsche Auskunft bleibt beim Kunden hängen, und Sie räumen sie im Gespräch wieder ab, jedes Mal mit einem Stück Vertrauen als Preis. Die große: Sie müssen sich an der Auskunft festhalten lassen.

Der Fall	Was passiert ist
Air Canada, 2024	Der Chatbot der Airline gab einem Kunden eine falsche Auskunft zu einer Erstattungsregel. Das Tribunal entschied, dass die Airline für die Auskunft ihres Bots genauso einstehen muss wie für die eines Mitarbeiters. Air Canada zahlte die Differenz.

Moffatt v. Air Canada, Civil Resolution Tribunal (Kanada), Entscheidung vom Februar 2024, veröffentlicht.

Die Entscheidung stammt aus Kanada, aber der Gedanke dahinter ist auch hierzulande naheliegend: Was Ihr Chatfenster einem Kunden zusagt, sagt Ihr Unternehmen zu. Ein Bot, der Zusagen erfindet, erfindet sie in Ihrem Namen.

Was dagegen hilft

Die Bindung an hinterlegtes Wissen: Der wirksamste Schutz: Der Bot darf nur aus dem antworten, was der Betrieb hinterlegt hat, nicht aus dem Weltwissen des Sprachmodells. So ist unser Bot gebaut. Eine erfundene Lieferzeit kann dann nicht entstehen, weil keine Lieferzeit im Wissen steht, aus der sie sich speisen könnte.
Die offene Lücke: Findet der Bot zu einer Frage nichts im Wissen, sagt er das, statt zu raten, und nimmt das Anliegen mit Kontaktdaten auf. Eine zugegebene Lücke kostet einen Moment; eine erfundene Antwort kostet Vertrauen oder mehr.
Der Weg zum Menschen: Bittet ein Besucher um einen Menschen, ist er verärgert, schildert er einen Schaden oder geht es um eine verbindliche Zusage, dann reicht der Bot das Gespräch an den Betrieb weiter, sagt dem Besucher Bescheid und legt es im Kundenportal ab. Das gilt in jeder Stufe.
Die Lückenliste: Jede unbeantwortete Frage steht im Kundenportal. Der Betrieb sieht, was gefehlt hat, und ergänzt das Wissen. So wird aus jeder Lücke eine bessere Antwort für den nächsten Besucher.

Der Test vor dem Kauf: drei Fragen an jeden Bot

Sie können jeden Anbieter in fünf Minuten prüfen, an seinem eigenen Vorführ-Bot. Stellen Sie drei Fragen:

Eine Frage, deren Antwort sicher hinterlegt ist, etwa nach dem Preis. Hier prüfen Sie die Grundqualität.
Eine Frage aus dem Themengebiet, deren Antwort sicher NICHT hinterlegt ist, etwa nach einem erfundenen Produkt oder einer sehr speziellen Ausnahme. Ein sauberer Bot sagt, dass er es nicht weiß. Ein gefährlicher antwortet trotzdem, flüssig und falsch.
Eine Frage völlig neben dem Thema, etwa nach dem Wetter oder einem Kochrezept. Hier sehen Sie, ob der Bot bei seinem Auftrag bleibt oder zum Plauder-Automaten wird, für dessen Antworten Sie geradestehen.

Diesen Test dürfen Sie auch bei uns machen, im Bereich zum Ausprobieren auf der Startseite. Genau dafür steht er dort.

Häufige Fragen zu erfundenen Antworten

Erfindet Ihr Bot nie etwas?: So weit gehen wir nicht, und Sie sollten niemandem glauben, der es tut. Unser Bot antwortet nur aus dem hinterlegten Wissen und sagt offen, wenn er etwas nicht weiß; das macht erfundene Antworten selten, eine absolute Garantie gibt es bei Sprachmodellen nicht. Diese Grenze steht auch in unseren Geschäftsbedingungen.
Haften wir für das, was der Bot sagt?: Auskünfte aus Ihrem Chatfenster können Ihrem Unternehmen zugerechnet werden, dafür steht der Fall Air Canada. Umso wichtiger, dass der Bot nur sagt, was Sie hinterlegt haben, und Sie über das Wissen bestimmen, was das ist.
Woher weiß ich, was der Bot nicht beantworten konnte?: Bei uns führt das Kundenportal die Liste der Fragen, zu denen nichts im Wissen stand. Sie sehen die Lücken und schließen sie mit wenigen Sätzen.
Kann ich dem Bot Themen ganz verbieten?: Ja, über das Wissen: Was dort nicht steht, beantwortet er nicht. Bei Preisen zum Beispiel bestimmen Sie, ob er eine Spanne nennt, erklärt, wovon der Preis abhängt, oder auf ein Angebot verweist.

Passt dazu

Machen Sie den Drei-Fragen-Test bei uns.

Probieren Sie unseren Bot auf der Startseite aus und stellen Sie ihm eine Frage, die er nicht wissen kann. Und wenn Sie danach reden wollen: Wir melden uns innerhalb von 48 Stunden, persönlich.

Bot ausprobieren

Zuletzt geprüft: 2. September 2026