In den ersten beiden Teilen der Serie wurde deutlich, dass KI-gestützte Automatisierung nicht allein an technischen Fehlern scheitert, sondern auch an mangelnder Entscheidungsqualität im laufenden Betrieb. Der Onboarding-Fall zeigte eine Entscheidung, die nicht ausreichend gesteuert war und trotz funktionierender Automatisierung zum Problem wurde.
Bei genauerer Analyse wird ein weiterer Aspekt sichtbar: Die Herausforderung lag nicht nur in der Entscheidung selbst, sondern darin, dass sie im laufenden Workflow kaum kontrollierbar war.
Zur Erinnerung: Die IT-Security meldete eine Unstimmigkeit. Ein sensibles System war für eine neue Mitarbeiterin freigeschaltet worden, obwohl diese Berechtigung nicht vorgesehen war. Niemand konnte nachvollziehen, warum – und niemand konnte gezielt eingreifen, als die Entscheidung wirksam wurde.
Daraus ergibt sich die nächste zentrale Frage: Wie bleiben Entscheidungen in KI-gestützten Workflows kontrollierbar, sobald sie operative Wirkung entfalten?
Automatisierte Workflows sind darauf ausgelegt, Entscheidungen ohne manuelle Eingriffe zu treffen. Genau das macht sie effizient – und genau das wird kritisch, wo eine Entscheidung unmittelbar Wirkung im Unternehmen entfaltet.
Im Onboarding-Prozess lag dieser Moment bei der Vergabe von Berechtigungen. Eine modellbasierte Entscheidung wurde direkt in eine reale Zugriffsmöglichkeit übersetzt: ohne Zwischenstufe, ohne Überprüfung, ohne Eingriffsmöglichkeit und ohne Transparenz.
Kontrollierbarkeit bedeutet nicht, jede Entscheidung manuell zu prüfen. Entscheidend ist, dass an den kritischen Stellen im Workflow klar ist, wo eine Entscheidung Wirkung entfaltet, ob sie überprüft werden kann und wie im Zweifel eingegriffen wird. Fehlt diese Struktur, bleibt die Entscheidung schwer überprüfbar – auch wenn der Prozess insgesamt stabil wirkt.
Nicht jede Entscheidung im Prozess braucht die gleiche Form der Kontrolle. Genau das wurde im Onboarding-Fall nicht berücksichtigt: Die Vergabe von Standardrechten ist unkritisch, die Freigabe eines sensiblen Systems ist kritisch. Im Prozess wurde beides gleich behandelt.
Hätte die Berechtigungsvergabe für das sensible System als kritische Entscheidung gegolten, wäre sie nicht wie ein gewöhnlicher Standardprozess durchgelaufen.
Kontrolle wird so nicht zum Hindernis, sondern zum gezielten Steuerungsmechanismus.
Die Entscheidung im Onboarding-Fall basierte auf einem einfachen Muster: Ein Großteil des Teams hat Zugriff auf das System – also bekommt ihn auch das neue Teammitglied. Die Logik ist grundsätzlich nachvollziehbar, passt aber nicht zur konkreten Situation. Das eigentliche Problem: Sie war im Prozess nicht sichtbar. Niemand konnte beantworten:
Ohne diese Transparenz bleibt die Entscheidung nicht überprüfbar. Und was nicht überprüfbar ist, ist auch nicht kontrollierbar.
Als die IT-Security die Abweichung erkannte, war die Entscheidung bereits umgesetzt und der Zugriff aktiv. Es gab keine Möglichkeit,
Kontrollierbarkeit zeigt sich nicht erst in der Analyse, sondern darin, ob du im entscheidenden Moment überhaupt eingreifen kannst. Ohne diese Mechanismen bleibt Kontrolle reaktiv – und kommt im Zweifel zu spät.
Der eigentliche Risikoverlauf bleibt lange unsichtbar. Der Vorfall wirkt zunächst wie ein Einzelfall. Doch genau so beginnen strukturelle Probleme: Aus einzelnen Auffälligkeiten entwickelt sich schleichend ein systematisches Muster, während die Kennzahlen stabil bleiben und der Prozess weiterhin effizient wirkt. Erst wenn die Auswirkungen sichtbar werden, zeigt sich: Nicht die einzelne Entscheidung war das Problem, sondern die fehlende Möglichkeit, sie frühzeitig zu hinterfragen.
Der Vorfall vom Montagmorgen zeigt kein Versagen der Automatisierung, sondern eine zentrale Schwachstelle: Der Prozess war effizient, aber die Entscheidung war nicht ausreichend kontrollierbar.
Es reicht deshalb nicht, KI-gestützte Workflows nur als Gesamtprozess zu betrachten. Entscheidend ist, ob einzelne Entscheidungen im Workflow nachvollziehbar, überprüfbar und im Zweifel rechtzeitig korrigierbar bleiben. In unserer KI-Beratung helfen wir dir, kritische Entscheidungspunkte sichtbar zu machen und Kontrollmechanismen so zu gestalten, dass Automatisierung dauerhaft beherrschbar bleibt.
Im nächsten Teil: Warum Guardrails mehr sind als Kontrolle – und wie sie verhindern, dass ein Prozess den gewünschten Entscheidungsrahmen überhaupt verlässt.
Hinweis: Dieser Beitrag wurde mit Unterstützung von KI erstellt oder überarbeitet. Inhalte, Struktur und fachliche Bewertung stammen aus der Projektpraxis von cimt; redaktionelle Prüfung und Freigabe erfolgen durch die Autorinnen und Autoren.
Am 25. November zeigen wir im Stadion von Eintracht Frankfurt, wie aus KI-Piloten produktive Prozesse werden – mit echten Projekten, Praxisberichten und Networking. Gemeinsam mit Camunda. Teilnahme kostenfrei, Plätze begrenzt.
Auftakt der fünfteiligen Serie zu KI-gestützten Entscheidungen: Ein Onboarding-Fall zeigt, warum statistisch plausible KI-Entscheidungen zum Risiko werden und warum Governance mit der Automatisierung Schritt halten muss.
Teil 2 der Serie zu KI-gestützten Entscheidungen: Wie verlässliche Entscheidungsqualität in KI-Workflows entsteht – durch Architektur, klare Verantwortung und kontinuierliches Monitoring.
Teil 3 der Serie zu KI-gestützten Entscheidungen: Warum Entscheidungen im Workflow nachvollziehbar, überprüfbar und im Zweifel rechtzeitig korrigierbar bleiben müssen.
Sie sehen gerade einen Platzhalterinhalt von Facebook. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen
