Irren ist nicht nur menschlich

Künstliche Intelligenz hat in den meisten Unternehmen Einzug gehalten und erleichtert dort Prozesse und den Arbeitsalltag vieler Menschen ungemein. Doch sie birgt auch Gefahren, wie manch eine Organisation leidvoll erfahren musste. Denn auch die Maschine ist nicht fehlerfrei und das kann teure Folgen nach sich ziehen. Was es beim Einsatz von KI aus Managementperspektive zu beachten gilt, beleuchten wir hier.

Künstliche Intelligenz hat sich innerhalb kürzester Zeit vom Zukunftsthema zum Arbeitsalltag entwickelt. Sie formuliert Texte, analysiert Daten, erstellt Präsentationen und unterstützt Unternehmen dabei, Prozesse effizienter zu gestalten. Dass darin jede Menge Potenzial steckt, hat die (deutsche) Wirtschaft längst erkannt. Deshalb liegt die eigentliche Herausforderung nicht mehr in der Frage, ob KI eingesetzt wird, sondern wie genau Organisationen verantwortungsvoll mit ihren Möglichkeiten und ihren Grenzen umgehen.

Doch je selbstverständlicher KI genutzt wird, desto häufiger sind wir auch mit ihren Limitationen konfrontiert. Immer wieder sorgen sogenannte Halluzinationen für Aufmerksamkeit. Das sind Inhalte, die absolut plausibel klingen, tatsächlich aber frei erfunden sind. Diese zu entlarven ist gar nicht so einfach, weil die KI wirklich sehr überzeugend auftreten kann. Und wenn das Ganze dann auch noch flüssig formuliert ist, rutschen eben diese Halluzinationen schnell als Wahrheiten durch.

Dass dies längst nicht nur im Alltag einzelner Nutzerinnen und Nutzer geschieht, zeigen mehrere öffentlich diskutierte Fälle der vergangenen Monate. So musste sich ein deutsches Medienhaus nach der Verwendung KI-generierter Bilder öffentlich korrigieren und seine internen Prüfprozesse verschärfen.

Ebenfalls Wellen geschlagen hat der Fall einer internationalen Beratung, die einen Bericht zurückzog, nachdem sich darin frei erfundene KI-Fallstudien fanden. Nur zwei von zahlreichen Beispielen, die aufzeigen, dass selbst professionelle Organisationen mit hohen Qualitätsstandards nicht davor gefeit sind, den überzeugend formulierten Ergebnissen künstlicher Intelligenz zu vertrauen.

Für Prof. Dr. Daniel Keller, Gründer von KellerPartner, liegt die eigentliche Erkenntnis jedoch an anderer Stelle:

„KI macht keine Fehler, weil sie nachlässig ist. Sie macht Fehler, weil sie Wahrscheinlichkeiten berechnet. Das ist ihre Funktionsweise. Doch Wahrscheinlichkeit ist genauso wenig Wissen wie Plausibilität kein Beweis ist. Die entscheidende Frage lautet deshalb, wie wir als Menschen und Organisationen damit umgehen.“

Für Keller sind Halluzinationen jedoch kein Argument gegen Künstliche Intelligenz. Im Gegenteil:

„KI gehört für mich zu den größten Produktivitätssprüngen unserer Zeit. Sie nimmt uns Routinen ab, strukturiert Informationen und verschafft uns etwas, das in Unternehmen oft knapp ist. Und das ist Zeit. Jetzt müssen wir entscheiden, wofür wir diese Zeit nutzen.“

Doch wie viel Mensch bleibt nach der Maschine?

Und in genau diesem Punkt sieht Keller die eigentliche Führungsaufgabe. Je mehr administrative, analytische und organisatorische Tätigkeiten Maschinen übernehmen, desto stärker rücken die Fähigkeiten in den Mittelpunkt, die Menschen auszeichnen, wie Zusammenhänge erkennen zu können, unterschiedliche Perspektiven zusammenzubringen, Verantwortung zu übernehmen und tragfähige Entscheidungen zu treffen.

„Wer glaubt, KI nehme uns das Denken ab, unterschätzt ihren Wert und überschätzt ihre Möglichkeiten. Sie unterstützt unser Denken. Ersetzen kann sie es nicht. Und das ist wunderbar so. Denn gute Führung entsteht nicht aus den richtigen Antworten, sondern aus den richtigen Fragen.“

Die Diskussion über Halluzinationen offenbart deshalb weit mehr als ein technisches Problem. Sie wirft eine grundlegende Frage nach der Unternehmenskultur auf. Werden Fehler verschwiegen, weil sie als Makel gelten? Oder werden sie sichtbar gemacht, analysiert und genutzt, um gemeinsam besser zu werden?

Recht aufschlussreich, was die Fehleranfälligkeit von KI anbelangt, ist eine internationale Untersuchung der Europäischen Rundfunkunion (EBU) und der BBC. Diese befasste sich Ende letzten Jahres mit der Frage der Zuverlässigkeit von KI-Assistenten bei Nachrichten- und Informationsfragen. In der Analyse von mehr als 3.000 KI-Antworten enthielten 45 Prozent mindestens einen erheblichen Fehler. Bei 31 Prozent wurden gravierende Mängel bei den Quellenangaben festgestellt. Dennoch wird die Schlussfolgerung daraus kaum lauten, auf KI zu verzichten. Vielmehr verdeutlicht diese Untersuchung die Bedeutung kritischer Prüfung, fachlicher Einordnung und menschlicher Verantwortung.

Für Keller ist genau das die eigentliche Botschaft der aktuellen Entwicklung:

„Fehlerfreiheit war noch nie das Ziel guter Führung. Lernfähigkeit dagegen schon. Vielleicht erinnert uns Künstliche Intelligenz gerade daran, worin unsere größten Stärken liegen. Wir können zuhören, reflektieren, Verantwortung übernehmen und aus Fehlern lernen. Aus diesem Grund bleibt der Mensch auch im KI-Zeitalter unersetzlich.“

Und womöglich ist genau das die wichtigste Erkenntnis dieser technologischen Revolution. Künstliche Intelligenz kann uns vieles erleichtern. Was sie uns aber niemals abnehmen wird, ist die Verantwortung für unser Denken und unsere Entscheidungen. Und genau darin liegt ihre größte Chance.