Liebe Leserinnen und Leser,
stellen Sie sich vor, ein Mitarbeitender nutzt ein KI-Tool, um einen Bericht vorzubereiten. Die Ausgabe klingt schlüssig, sie ist gut formuliert und sie spart Zeit, also übernimmt er sie, ohne groß nachzufragen. Zwei Wochen später stellt sich heraus, dass eine zentrale Zahl falsch war. Wer hat den Fehler gemacht?
Diese Frage ist schwerer zu beantworten, als sie klingt, und genau darin liegt das eigentliche Thema.
Fehler gehören zur Arbeit, das war schon immer so. Doch mit dem Einzug von KI in unsere Arbeitsprozesse verändert sich die Logik, nach der sie entstehen. Früher war ein Fehler meistens klar zuordenbar, weil jemand eine Entscheidung getroffen oder eine Einschätzung falsch bewertet hatte. Heute entstehen Fehler im Zusammenspiel von Mensch, Modell und Organisation, in Systemen, die kaum noch vollständig zu überblicken sind.
Fehler sind damit kein individuelles Thema mehr, sondern ein Systemphänomen. Für Führungskräfte ist das eine relevante Verschiebung.
Wo Fehler im KI-Einsatz entstehen
KI-Systeme berechnen Wahrscheinlichkeiten, keine Wahrheiten, und ein Sprachmodell kann plausibel klingende Antworten liefern, die faktisch falsch sind, sogenannte Halluzinationen. Ohne menschliche Prüfung fließen solche Fehler direkt in Entscheidungen ein, oft ohne dass es jemand bemerkt.
Ausgerechnet Menschen mit mittlerem KI-Wissen sind dabei am anfälligsten, solche Fehler zu übersehen, weil sie die Komplexität des Modells unterschätzen und seinen Ausgaben mehr vertrauen als ihrer eigenen Einschätzung. Die Forschung kennt dieses Muster als Dunning-Kruger-Effekt, und unter Zeitdruck verstärkt es sich noch, weil das Gehirn Energie spart, wo es kann und KI-Ergebnisse in der Regel überzeugend genug klingen, um nicht weiter hinterfragt zu werden. Vielleicht kennen Sie das selbst: Eine Ausgabe wirkt stimmig, die Zeit drängt und man lässt sie einfach so stehen.
Hinzu kommt, dass sich ein Fehler im KI-System anders verhält als ein menschlicher Fehler, denn er kann sich automatisch über Prozesse und Entscheidungen hinweg vervielfältigen, bevor ihn jemand bemerkt. Und wenn eine Maschine am Prozess beteiligt war, entsteht oft das Gefühl, sie habe entschieden, was Wachsamkeit und kritisches Denken spürbar senkt, ohne dass es den Beteiligten bewusst wird.
Was Führungskräfte konkret tun können
Diese Effekte lassen sich nicht wegdiskutieren, aber sie lassen sich gestalten.
Eine Möglichkeit besteht darin, dass Mitarbeitende zuerst ihre eigene Einschätzung formulieren, bevor sie das KI-Ergebnis betrachten. Menschen orientieren sich unbewusst am ersten Vorschlag, den sie sehen. Wer die eigene Position zuerst festhält, vergleicht anschließend bewusster und gibt dem eigenen Urteil wieder mehr Gewicht.
Ähnlich wirken kleine Unterbrechungen im Prozess, etwa die kurze Pflicht, ein Ergebnis zu begründen, bevor es übernommen wird. KI-Ausgaben klingen oft so vollständig und sachlich, dass man kaum auf die Idee kommt, sie zu hinterfragen. Eine eingebaute Pause kann das ändern.
Schulungen helfen dabei, wenn sie nicht nur zeigen, was KI kann, sondern vor allem, wo sie scheitert. Wer versteht, wie Halluzinationen entstehen und warum Modelle manchmal verzerrt reagieren, kann besser einschätzen, wann Vorsicht angebracht ist.
Wenn Führungskräfte das klar benennen und im Alltag vorleben, dass die KI unterstützt, aber Menschen das letzte Urteil behalten, verankert sich Verantwortung dort, wo sie hingehört.
Ein Blick in den eigenen Alltag
Es lohnt sich, kurz innezuhalten und zu fragen, wo KI im eigenen Arbeitsalltag bereits mitwirkt und ob das Team weiß, wie es damit umgehen soll. Ein paar Fragen helfen dabei, sichtbar zu machen, was bereits gut funktioniert und wo es Nachholbedarf gibt:
Wer diese Fragen im Team bespricht, merkt oft schnell, dass es weniger um Technik geht als um Haltung, darum, wer im Prozess wirklich hinschaut und wer sich darauf verlässt, dass es schon stimmen wird.
Ihre Dr. Sandra Dentler
Bildquelle: Foto von TheYuri Arcurs Collection auf Magnific