Künstliche Intelligenz im Kundenservice - wenn der Chatbot zum Risiko wird

Die Erwartungen an Künstliche Intelligenz im Kundenservice sind groß. Unternehmen versprechen sich schnellere Antworten, geringere Kosten und eine bessere Erreichbarkeit. Der Chatbot ist schließlich nie krank, macht keine Pause und kann theoretisch rund um die Uhr auf Kundenfragen reagieren.

Das klingt zunächst nach einer einfachen Verbesserung. Statt langer Warteschleifen oder überfüllter Postfächer erhalten Kunden direkt eine Antwort. Termine können gebucht, einfache Fragen geklärt und Informationen automatisiert bereitgestellt werden.

Aber genau an dieser Stelle beginnt das Problem. Denn ein Chatbot ist nicht nur ein technisches Hilfsmittel, das irgendwo im Hintergrund mitläuft. Er tritt gegenüber Kunden als Stimme des Unternehmens auf. Was er schreibt, wird in der Regel auch als Aussage des Unternehmens verstanden.

Das kann dann schwierig werden, wenn der Chatbot nicht nur vorhandene Informationen wiedergibt, sondern falsche Antworten erzeugt. Bei Künstlicher Intelligenz spricht man in solchen Fällen häufig von Halluzinationen. Gemeint ist damit, dass die KI überzeugend klingende Aussagen formuliert, die inhaltlich nicht stimmen.

Ein aktuelles Urteil des Oberlandesgerichts Hamm zeigt, wie ernst dieses Risiko genommen werden muss. In dem Fall ging es um den Chatbot einer Schönheitsklinik. Dieser hatte zwei Ärzten Facharzttitel zugeschrieben, die sie so nicht führten. Einer der genannten Titel existierte in dieser Form nicht einmal. Die Verbraucherzentrale Nordrhein-Westfalen ging dagegen vor. Das Gericht entschied, dass die falschen Angaben dem Unternehmen zugerechnet werden können.

Für Unternehmen ist das ein wichtiges Signal. Denn es reicht nicht aus, einen Chatbot einzusetzen und darauf zu verweisen, dass die Technik eigenständig geantwortet hat. Rechtlich betrachtet ist der Chatbot kein unabhängiger Mitarbeiter und auch kein neutraler Dritter. Er ist ein Werkzeug des Unternehmens.

Und für Werkzeuge bleibt das Unternehmen verantwortlich.

Automatisierung spart Zeit, aber nicht automatisch Verantwortung

Im Alltag vieler Unternehmen klingt der Einsatz von Chatbots sehr verlockend. Ein Kunde fragt nach Preisen, Lieferzeiten, Öffnungszeiten oder Leistungen. Der Bot antwortet sofort. Im Idealfall spart das Zeit auf beiden Seiten.

In der Realität sind Kundenfragen aber selten so eindeutig, wie man es sich in der Planung vorstellt. Menschen formulieren ungenau, stellen mehrere Fragen gleichzeitig oder erwarten eine konkrete Empfehlung. Der Chatbot muss dann interpretieren, was gemeint ist. Genau dabei können Fehler entstehen.

Ein einfaches Beispiel: Ein Kunde fragt, ob eine bestimmte Leistung im Preis enthalten ist. Der Chatbot antwortet mit Ja, obwohl dies nur unter bestimmten Voraussetzungen gilt. Für den Kunden klingt das wie eine verbindliche Aussage. Für das Unternehmen kann daraus ein Problem werden.

Noch gravierender wird es, wenn es um rechtliche, medizinische, finanzielle oder vertragliche Informationen geht. Falsche Auskünfte zu Kündigungsfristen, Widerrufsrechten, Preisen, Qualifikationen oder Leistungsversprechen können schnell mehr sein als nur ein technischer Fehler. Sie können zu Abmahnungen, Unterlassungsansprüchen oder Schadenersatzforderungen führen.

Das eigentliche Risiko liegt also nicht darin, dass ein Chatbot gelegentlich ungenau antwortet. Das Risiko liegt darin, dass Unternehmen diese Antworten oft nicht wie offizielle Aussagen behandeln, obwohl Kunden genau das tun.

Der Chatbot ist kein Freibrief für falsche Auskünfte

Viele Unternehmen gehen bei der Einführung von KI-Systemen davon aus, dass sich das Risiko technisch beherrschen lässt. Man füttert den Bot mit korrekten Daten, hinterlegt Regeln, setzt Filter ein und ergänzt vielleicht noch einen Hinweis, dass die Antwort automatisch erzeugt wurde.

Das ist sinnvoll, aber es reicht nicht immer aus.

Denn auch ein korrekt eingerichteter Chatbot kann falsche oder missverständliche Antworten liefern. Die Ursache kann in den Trainingsdaten liegen, in der Formulierung der Nutzerfrage, in fehlenden Begrenzungen oder in einer unklaren Systemanweisung. Für den Kunden ist das am Ende zweitrangig. Er sieht eine Antwort auf der offiziellen Website des Unternehmens.

Genau deshalb müssen Unternehmen den Einsatz solcher Systeme organisatorisch absichern. Es reicht nicht, den Chatbot einmal einzurichten und danach laufen zu lassen. Antworten müssen getestet, protokolliert, kontrolliert und regelmäßig angepasst werden.

Besonders kritisch sind Bereiche, in denen falsche Aussagen unmittelbare Folgen haben können. Dazu gehören Preise, Vertragsbedingungen, medizinische Aussagen, rechtliche Hinweise, Produktversprechen, Garantien oder Qualifikationen. Hier sollte ein Chatbot nicht frei formulieren dürfen, sondern nur geprüfte Inhalte verwenden oder frühzeitig an einen Menschen übergeben.

Das bedeutet nicht, dass KI im Kundenservice grundsätzlich ungeeignet ist. Im Gegenteil. Richtig eingesetzt kann sie einfache Anfragen schneller bearbeiten und Mitarbeiter entlasten. Aber sie darf nicht ohne klare Grenzen eingesetzt werden.

Zwischen Kundenerlebnis, Effizienz und Kontrolle

Der Wunsch nach besserem Kundenservice ist nachvollziehbar. Viele Kunden erwarten schnelle Antworten. Gleichzeitig wollen Unternehmen ihre Serviceabteilungen entlasten und Kosten senken. KI kann hierbei helfen.

Aber gute Erreichbarkeit ist nicht automatisch guter Service. Wenn ein Chatbot schnell antwortet, aber falsch, entsteht kein Fortschritt. Im Gegenteil: Der Schaden kann größer sein, weil falsche Aussagen in Sekunden verbreitet werden und vom Unternehmen zunächst unbemerkt bleiben.

Ein klassischer Kundenberater kann ebenfalls Fehler machen. Der Unterschied liegt jedoch darin, dass ein KI-System Fehler systematisch wiederholen kann. Wenn der Bot eine falsche Information gelernt oder erzeugt hat, kann er diese vielen Kunden gegenüber ausgeben. Aus einem Einzelfall wird dann schnell ein strukturelles Problem.

Deshalb sollte der Einsatz von Chatbots nicht nur als IT-Projekt betrachtet werden. Es ist auch ein Thema für Recht, Datenschutz, Kundenservice, Marketing und Geschäftsleitung. Denn der Chatbot kommuniziert nicht intern, sondern direkt mit Kunden und Interessenten.

An dieser Stelle ist es hilfreich sich folgende Fragen zu stellen und die damit einhergehenden Vor- und Nachteile abzuwägen:

• Welche Fragen darf der Chatbot eigenständig beantworten?
• Bei welchen Themen muss zwingend ein Mensch übernehmen?
• Werden die Antworten des Chatbots regelmäßig geprüft und dokumentiert?
• Gibt es klare Textbausteine für rechtlich oder fachlich sensible Auskünfte?
• Können Kunden erkennen, wann sie mit einer KI und wann sie mit einem Menschen kommunizieren?
• Wer ist intern verantwortlich, wenn der Chatbot falsche Aussagen macht?

Künstliche Intelligenz kann den Kundenservice verbessern. Aber sie nimmt Unternehmen nicht die Verantwortung für das, was auf der eigenen Website kommuniziert wird.

Der entscheidende Punkt ist daher nicht, ob ein Chatbot eingesetzt wird. Entscheidend ist, wie kontrolliert er eingesetzt wird.

Denn eine schnelle Antwort ist nur dann hilfreich, wenn sie auch richtig ist.