Vertrauen in KI: Warum weniger Einblick manchmal mehr Vertrauen schafft

Das Unternehmen, das stark von präzisen Lagerzuweisungen und einer effizienten Lieferkette abhängt, setzte zwei unterschiedliche Algorithmen ein: einen leicht verständlichen und einen komplexen, dessen Funktionsweise für die Benutzer undurchsichtig war. Erstaunlicherweise folgten die Mitarbeiter häufiger den Empfehlungen des komplexeren Algorithmus.

Frühere, einfachere Modelle waren zwar für die Mitarbeiter nachvollziehbar, führten jedoch nicht zu den gewünschten Genauigkeiten. Daher entwickelte das Unternehmen ein ausgefeilteres Prognosemodell, das als 'Blackbox' fungierte. Die Studie zeigte, dass die Mitarbeiter den Empfehlungen dieses Modells näher folgten, was auf ein größeres Vertrauen in dessen Effizienz hindeutet, selbst wenn sie die genaue Arbeitsweise nicht verstanden.

Die Forschung identifizierte 'übermütige Fehlerbehebung' als einen Faktor, der das Vertrauen in transparente Modelle mindert. Mitarbeiter glauben oft fälschlicherweise, sie würden die Logik des Modells besser verstehen und korrigieren dessen vermeintliche Schwächen basierend auf eigener Erfahrung.

Ein weiterer interessanter Aspekt ist der 'soziale Beweis'. Die Mitarbeiter vertrauten dem undurchschaubaren Modell mehr, weil sie wussten, dass Kollegen an der Entwicklung beteiligt waren. Dies stärkte ihr Vertrauen in die Technologie.

Die Ergebnisse zeigen deutlich, dass Entscheidungen, die auf Empfehlungen des Blackboxmodells basierten, zu höheren Umsätzen und weniger Fehlbeständen führten und 20 Prozent mehr Einnahmen generierten als die auf dem transparenten Modell basierenden.

Diese Erkenntnisse werfen wichtige Fragen auf: Sollten Unternehmen die Einblicke in KI-Modelle begrenzen, um Vertrauen zu fördern? Wie können sie sicherstellen, dass Mitarbeiter KI-Technologien effektiv akzeptieren und nutzen?

Die Akzeptanz und das Vertrauen in KI sind komplexe Phänomene, die nicht nur von der Technologie, sondern auch von psychologischen und kulturellen Faktoren abhängen. Unternehmen müssen diese Aspekte berücksichtigen, um die Einführung von KI erfolgreich zu gestalten.

Cookies für das beste Erlebnis

Mit der Auswahl "Akzeptiere Tracking" erlauben Sie uns die Verwendung von Cookies, Pixeln, Tags und ähnlichen Technologien. Wir nutzen diese Technologien, um Ihre Geräte- und Browsereinstellungen zu erfahren, damit wir Ihre Aktivität nachvollziehen können. Dies tun wir, um die Funktionalität der Website sicherzustellen und stetig zu verbessern. Wir können diese Daten an Dritte – etwa Social Media Werbepartner wie Google, Facebook und Instagram – zu Marketingzwecken weitergeben. Bitte besuchen Sie unsere Datenschutzerklärung für weitere Informationen. Dort erfahren Sie auch wie wir Ihre Daten für erforderliche Zwecke wie z.B. Sicherheit, Warenkorbfunktion, Anmeldung verwenden.

Akzeptieren
Cookie-Einstellungen verwalten
x

Hilfe nötig?

Ich bin Ihr digitaler Assistent und möchte es Ihnen so einfach wie möglich machen. Was würde Ihnen gerade helfen?
Erinnere mich in ein paar Wochen.
Verbinde mich mit einem Experten.
Danke, jetzt nicht.