In Europas Vorstandsetagen wird in diesem Jahr ein Gespräch geführt, das ungefähr so klingt: „Wir haben in künstliche Intelligenz investiert und Pilotprojekte aufgesetzt. Die Piloten haben funktioniert, aber nur sehr wenig davon hat es in den Produktivbetrieb geschafft. Was ist schiefgelaufen?“ 

Die Antworten, die man darauf bekommt, sind fast alle technischer Natur: 

  • „Die Modelle waren nicht gut genug.“ 
  • „Die Daten waren noch nicht so weit.“ 
  • „Die Fachkräfte waren nicht verfügbar.“ 
  • „Die Infrastruktur stand noch nicht.“ 

Einiges davon trifft zu. Die eigentliche Ursache ist es nicht. 

Das Kernproblem ist ein anderes: Die meisten Organisationen haben eine Führungsfrage an die Technik delegiert. Und wundern sich dann, dass die Technik eine technische Antwort liefert. 

Die eigentliche Frage 

Wenn ein Vorstand ein KI-Programm freigibt, glaubt er, eine Technologieinvestition zu genehmigen. Das tut er nicht. In Wirklichkeit beschließt er eine Veränderung darin, wer – oder was – im Unternehmen bestimmte Entscheidungen trifft und unter welcher Verantwortung. Das ist eine Governance-Entscheidung von erheblicher Tragweite. Und sie gehört zu denjenigen, die Governance verantworten, nicht zu denjenigen, die Technologie verantworten. 

Führen wir uns vor Augen, was ein Agent ist, sobald er im Produktivbetrieb läuft. Im Kern ist er eine Instanz, die folgenreiche Urteile in großer Zahl fällt, ohne dass jedes Mal ein namentlich benannter Mensch dahintersteht. 

Daraus folgt zunächst: Jemand muss festlegen, welche Urteile ein Agent fällen darf. Jemand muss entscheiden, was geschieht, wenn er falschliegt – denn das wird er hin und wieder. Und jemand muss gegenüber Kunden oder Behörden Rechenschaft ablegen für ein Ergebnis, das kein einzelner Mensch gewählt hat. 

In jedem anderen Unternehmensbereich ist völlig klar, wer diese Fragen verantwortet. Erteilt ein Unternehmen einem Regionalleiter Einkaufsbefugnisse, käme niemand auf die Idee, das für eine IT-Angelegenheit zu halten. Wird dieselbe Befugnis aber einem Softwaresystem übertragen, ist auf einmal, aus welchen Gründen auch immer, die IT zuständig. 

Die Pilotfalle 

Das erklärt das Muster, das in diesem Jahr so viele europäische Führungskräfte frustriert hat. Es lohnt sich, das klar zu benennen, denn die Diagnose bestimmt die Therapie. 

Pilotprojekte gelingen, weil sie technische Übungen sind. Sie haben einen klar abgegrenzten Umfang und ein messbares Ergebnis. Sie werden von einem kleinen Team getragen, und – das ist der entscheidende Punkt – zwischen dem System und jeder realen Konsequenz steht immer ein Mensch. 

Der Schritt in den Produktivbetrieb ist eine völlig andere Herausforderung. Hier fällt genau dieser Mensch in der Mitte weg. Also muss jemand festlegen, was passiert, wenn etwas schiefgeht. 

Für diese Frage gibt es in der Regel keinen Zuständigen. Sie wird eskaliert und dreht endlose Runden, bis das Projekt schließlich als „vielversprechend“ gilt und so lange zurechtgestutzt wird, bis wieder ein Mensch im Prozess sitzt. An diesem Punkt ist die Wirtschaftlichkeit, das zentrale Verkaufsargument, dahin, und das Programm verschwindet still und leise von der Prioritätenliste. 

Ein Kreislauf im Uhrzeigersinn: Ein Pilotprojekt mit einem Mitarbeiter geht in die Produktion über, der Mitarbeiter wird abgezogen, es folgen Zuständigkeitskonflikte und endlose Eskalationen, der Umfang wird reduziert, und der Mitarbeiter kehrt zurück, wodurch der Prozess wieder in die Pilotphase zurückfällt.

Was Führung tatsächlich tun muss 

Drei Dinge, und keines davon lässt sich nach unten delegieren:

Das Verantwortungsmodell vor der Architektur festlegen.

Benennen Sie für jeden Prozess, in dem autonome Entscheidungen vorgesehen sind, die verantwortliche Führungskraft. Gemeint ist nicht der Projektsponsor, sondern die Person, die für das Ergebnis geradesteht. 

Fällt es schwer, diesen Namen zu nennen, ist das ein verräterisches Zeichen: Der Prozess ist noch nicht reif. Kein Grund zur Panik. Das jetzt herauszufinden, ist deutlich günstiger, als es erst nach der Einführung festzustellen.

Das Risiko explizit und in Zahlen festlegen.

Jedes autonome System hat eine Fehlerquote; daran führt kein Weg vorbei. Die Frage, die Sie sich stellen sollten, ist nicht, ob es Fehler macht, sondern ob sein Fehlerprofil besser ist als der menschliche Referenzwert, den es ersetzt. 

Hinzu kommt: Kann Ihre Organisation mit dem Muster der Fehler leben, die ein Agent macht? Damit meine ich: Autonome Fehler unterscheiden sich von menschlichen nicht nur in ihrer Häufigkeit, sondern in ihrem Wesen. Ein System lässt sich zum Beispiel nicht ablenken und trägt Daten nicht versehentlich in die falsche Zelle ein. Aber es kann den Zweck der gesamten Spalte grundlegend missverstehen. 

Sie haben es vermutlich schon bemerkt: Das sind Urteile auf Vorstands- und Führungsebene. Die Technik kann sie nicht fällen und sollte auch nicht darum gebeten werden.

Die unglamouröse Schicht finanzieren.

Ob all das gelingt, hängt an mehreren Schlüsselfaktoren: 

  • Prozessintegrität, 
  • Data Governance, 
  • Systemschnittstellen, 
  • Entscheidungsprotokollierung. 

Seien wir ehrlich: Spektakulär ist das nicht. In keiner Keynote kommt es vor. Trotzdem muss genau hier das Geld hin, und die Führung muss diese Mittel gegen die hartnäckige interne Vorliebe für sichtbare Neuheiten verteidigen. 

Warum das Europas Chance ist 

Es gibt eine fatalistische Sichtweise, wonach Europa das Rennen bereits verloren hat, weil die Modelle anderswo entwickelt wurden. Ich halte das für eine Fehleinschätzung des Wettbewerbs. 

Die Modelle stehen allen zur Verfügung. Weit weniger verbreitet ist die Fähigkeit, sie in komplexe Unternehmen einzuführen, ohne dabei etwas kaputtzumachen. Genau dafür braucht es jene Ernsthaftigkeit in Governance-Fragen, für die europäische Unternehmen so oft belächelt werden und die sich als die eigentlich knappe Fähigkeit erweisen wird. Organisationen, die über Jahrzehnte gelernt haben, folgenreiche Systeme zu steuern, sind hier im Vorteil, vorausgesetzt, sie erkennen das Problem als ihr eigenes. 

Vorne liegen werden in drei Jahren nicht die Unternehmen, die die Technologie einfach als Erste eingeführt haben. Sondern die, deren Führung früh genug verstanden hat, worüber hier eigentlich entschieden wurde.