Die Illusion der Automatisierung

Entlastung ist nicht dasselbe wie Kontrolle

Wenn ein ERP-System Rechnungen vorkontiert, Bestellvorschläge erzeugt oder Bedarfe automatisch erkennt, wirkt das zunächst wie ein Fortschritt ohne Nebenwirkungen: weniger Routine, mehr Tempo, mehr Freiraum. Genau so wird Automatisierung häufig empfunden. Nur ist diese Sichtweise zu eindimensional.

Denn in vielen Unternehmen verschwindet die Arbeit nicht. Sie verändert nur ihren Ort. Was früher manuell erledigt wurde, wird heute maschinell vorbereitet. Der Mensch greift nicht mehr an jedem Schritt aktiv ein, sondern prüft, hinterfragt, bestätigt, verwirft oder korrigiert. Aus Ausführung wird Aufsicht. Aus Tätigkeit wird Verantwortung. 

Das klingt nach Entlastung. In der Praxis ist es oft eine Verlagerung in eine kognitiv schwierigere Rolle. Wer Ergebnisse nur noch freigibt, muss beurteilen, ob sie plausibel sind, ohne jeden Zwischenschritt selbst gegangen zu sein. Gerade in ERP-nahen Routinen wie Kreditorenbuchhaltung, Disposition oder Bedarfsvorhersage verschiebt sich damit die Fehlerquelle: weg vom manuellen Eintrag, hin zur unkritischen Bestätigung eines formal stimmigen, aber fachlich falschen Vorschlags.

Vom Ausführen zum Prüfen

Lisanne Bainbridges Klassiker „Ironies of Automation“ (1983) zeigte in Ihrem Beitrag : Automatisierung beseitigt die Probleme des menschlichen Faktors nicht, sondern verändert sie – oft zum Schlechteren (1) – eine Diagnose, die über 40 Jahre später kaum aktueller sein könnte. Der Grund ist paradox: Auch hochautomatisierte Systeme bleiben Mensch-Maschine-Systeme, da Überwachung, Wartung und Erweiterung menschliches Zutun erfordern. Die Ironie: Wer den als unzuverlässig geltenden Bediener eliminieren will, überlässt ihm gerade jene Aufgaben, die sich der Automatisierung entziehen – meist ohne angemessene Vorbereitung darauf.

Ihr Fazit: Automatisierung löst das Grundproblem des menschlichen Faktors nicht, sondern verlagert es nur – menschzentrierte Automatisierung verlangt mehr technisches Geschick, nicht weniger. Genau daran scheitern in meinen Augen KI-Projekte auch heute noch in der Umsetzung.

Auf das ERP-Umfeld übertragen heißt das: Mitarbeitende in Einkauf, Disposition oder Buchhaltung werden nicht überflüssig. Sie übernehmen vielmehr eine Rolle, in der sie Abweichungen erkennen, Ausnahmen bewerten und maschinelle Vorschläge fachlich einordnen müssen. Genau darin liegt die eigentliche Verschiebung. Nicht weniger Können wird gebraucht, sondern anderes.

Und dieses andere Können entsteht nicht automatisch. Wer nur noch überwacht, trainiert die operative Routine seltener. Gerade dann, wenn ein Systemfehler, eine falsche Datenbasis oder eine unplausible Empfehlung auftaucht, fehlt oft die praktische Nähe zum Prozess. Was wie Komfort aussieht, kann in kritischen Momenten in Unsicherheit umschlagen.

Die Zahlen zeigen ein klares Bild

Dass diese Verschiebung kein theoretisches Gedankenspiel ist, lässt sich inzwischen gut belegen. Eine Studie von Fraunhofer IAIS und KI.NRW mit 74 Unternehmen zeigt: Als größte Chance von KI im ERP gilt die Entlastung von Routinearbeit. Als größte Risiken werden jedoch blindes Vertrauen in die Technik und Kontrollverlust genannt. Dahinter steht die Sorge, dass fehlerhafte KI-Ergebnisse bei unvollständiger oder schwacher Datenbasis von Mitarbeitenden zu spät erkannt werden (2).

Hinzu kommt ein zweites Signal: Vertrauen wächst nicht automatisch mit technischer Reife. Das französische Unternehmen für IT-Beratung Capgemini berichtet, dass das Vertrauen in vollständig autonome KI-Agenten innerhalb eines Jahres von 43 auf 27 Prozent gesunken ist. Gleichzeitig erwartet der Report, dass bis 2028 in 38 Prozent der Organisationen KI-Agenten als Teammitglieder in menschlichen Teams mitarbeiten werden (3).

Die Richtung ist damit klar: Unternehmen automatisieren weiter. Aber Akzeptanz, Vertrauen und Kontrollsicherheit wachsen nicht automatisch mit.

Das eigentliche Risiko liegt im Rollenmissverständnis

Die kritische Stelle liegt deshalb nicht nur im System, sondern im Menschenbild hinter seiner Einführung. Viele Automatisierungsprojekte tun so, als ob weniger manuelle Arbeit automatisch weniger Verantwortung bedeute. Das Gegenteil ist oft der Fall.

Wer eine Aufgabe selbst ausführt, entwickelt Erfahrung für Zwischenschritte, Grenzfälle und typische Fehlerquellen. Wer nur noch das Ergebnis einer Maschine prüft, braucht dieses Erfahrungswissen trotzdem, hat aber weniger Gelegenheit, es im Alltag zu schärfen. Die Kontrollaufgabe wirkt schlanker, verlangt aber oft mehr Urteilskraft und Fachwissen als die ursprüngliche Ausführung.

Hinzu kommt eine heikle psychologische Verschiebung: Wenn Mitarbeitende Entscheidungen formal freigeben, faktisch aber nur noch maschinelle Vorschläge bestätigen, kann Verantwortung ausdünnen. Man unterschreibt, ohne den Prozess wirklich nachzuvollziehen. Dann sinkt nicht nur die Fehlererkennung, sondern oft auch das Gefühl, tatsächlich wirksam zu sein.

Praxisbeispiel statt Vollautomationsfantasie

Gerade deshalb sind jene Beispiele interessant, die nicht auf maximale Autonomie setzen, sondern auf klar definierte Kontrollpunkte. Ein häufig zitiertes Praxisbeispiel aus dem ERP-Umfeld beschreibt, dass KI einen großen Teil der Vorarbeit übernimmt, die abschließende Freigabe aber bewusst beim Menschen bleibt. Im geschilderten Fall bereitet die KI rund 60 bis 70 Prozent der Arbeit vor; die abschließende Entscheidung trifft weiterhin der Mensch. (4)

Das ist mehr als ein technisches Detail. Es ist ein Organisationsprinzip. Gute Automatisierung entzieht dem Menschen nicht jede Verantwortung, sondern schützt sie dort, wo Entscheidungen wirtschaftlich, regulatorisch oder operativ wirksam werden.

Für die Praxis ist das ein wichtiger Unterschied. Zwischen Vollautomation und klassischer Sachbearbeitung liegt ein breites Feld sinnvoller Assistenz. Wer dieses Feld bewusst gestaltet, kann Tempo gewinnen, ohne die letzte fachliche Instanz aus dem Prozess zu drängen.

Kontrollkompetenz muss gelernt werden

Mit der neuen Rolle wächst noch eine zweite Anforderung: Wer KI sinnvoll nutzen will, muss nicht nur prüfen, sondern auch anleiten können. Die Qualität der Ergebnisse hängt erheblich davon ab, wie konkret Aufgaben gestellt, welche Rückfragen gestellt und welche Unsicherheiten und Fehler offengelegt werden.

In der Praxis zeigt sich immer wieder: Fehler fallen seltener dort auf, wo Ergebnisse schnell überzeugend wirken, sondern dort, wo jemand gezielt nach Quelle, Herleitung, Lücke oder Alternativerklärung fragt. Genau das ist die neue Kontrollkompetenz. Nicht möglichst schnell eine Antwort zu erhalten, sondern sie belastbar zu machen.

Damit wird Prompting im ERP-Kontext nicht zur Spielerei, sondern zu einer Form fachlicher Steuerung und Kompetenz. Allerdings nur dann, wenn es mit Prozesswissen, Plausibilitätsprüfung und klarer Verantwortung verbunden bleibt. Gute Prompts ersetzen kein Fachurteil, sie helfen nur dabei, es systematischer einzusetzen. Wie diese Kontrollkompetenz konkret trainiert wird, erlebe ich in meiner eigenen Arbeit mit KI immer wieder. Ich stelle einer ersten KI eine klar umrissene Aufgabe und lasse das Ergebnis von einer zweiten KI verifizieren. Weist die zweite KI Fehler oder Unsicherheiten auf, gebe ich sie gezielt an die erste KI zurück und frage, was ich tun muss, damit ihr dieser Fehler nicht erneut unterläuft, wie ich also besser prompten kann. Genau diese Rückkopplung hat mich am meisten vorangebracht: Ich sehe nicht nur, wo ein Ergebnis schwach war, sondern lerne zugleich, wie ich Aufgaben präziser, eindeutiger und damit effizienter stellen kann. So wird KI für mich im täglichen Umgang spürbar fehlerfreier – und ich schärfe nebenbei genau jene Prüfkompetenz, um die es in diesem Beitrag geht. Genau deshalb gehört KI-Kompetenz nicht nur in Innovationsprogramme, sondern in Qualifizierung, Prozessdesign und Führung.

Zwei Hebel, die Unternehmen sofort ansetzen können

Zwei Maßnahmen lassen sich dabei kurzfristig umsetzen, ohne dass ein ganzes Programm vorausgehen muss. Erstens: Prüftrainings nicht als einmaliges Onboarding behandeln, sondern als wiederkehrenden Termin. Wer nur zu Beginn geschult wird, verliert die Übung genau in dem Moment, in dem ein Grenzfall auftaucht. Regelmäßige, verpflichtende Trainings entlang transparenter und konkreter Prüfsituationen halten die Kompetenz dort, wo sie im Ernstfall gebraucht wird.

Zweitens: reale Incidents als Trainingsgrundlage nutzen, statt künstliche Fehlerfälle zu konstruieren. Dokumentierte Fehlentscheidungen, Beinahe-Fehler und Kontrollversagen aus dem eigenen Betrieb liefern realistischere Lernfälle als jedes Testszenario – und sind bereits vorhanden, wenn Vorfälle systematisch erfasst werden. Wer diese Fälle in Schulungen einspeist, verbindet Prüfkompetenz direkt mit der Fehlerkultur, die eine belastbare Kontrollrolle erst trägt.

Effizienz ohne Kontrollverlust

Die eigentliche Zukunftsfrage ist deshalb nicht, wie viel ein ERP-System automatisieren kann. Entscheidend ist, ob im Unternehmen jederzeit nachvollziehbar bleibt, wer für welche Entscheidung verantwortlich ist und wie Mitarbeiter in den Prozess eingebunden sind. 

Wer den Rollenwechsel vom Ausführenden zum Prüfenden ernst nimmt, kann mit KI tatsächlich Qualität und Tempo steigern. Wer ihn unterschätzt, erzeugt dagegen eine gefährliche Zwischenzone: hohe Abhängigkeit von maschinellen Vorschlägen bei gleichzeitig sinkender Fähigkeit, sie wirksam zu hinterfragen und zu prüfen. 

Automatisierung entlastet nicht automatisch. Richtig eingeführt, macht sie Organisationen produktiver. Falsch verstanden, macht sie sie nur bequemer und im entscheidenden Moment blinder.

Das könnte Sie auch interessieren

Dynamic Pricing geht nicht ohne IT Warum B2B-Unternehmen für dynamische Preise mehr brauchen als ihr ERP

Volatile Kosten und dynamische Märkte erhöhen den Druck auf B2B-Unternehmen, Preise schneller und intelligenter anzupassen. Doch Dynamic Pricing braucht mehr als KI: Entscheidend sind eine belastbare Datenbasis, die richtige Systemarchitektur und das Zusammenspiel von Pricing-Software, ERP und CRM. Der Beitrag zeigt, welche Voraussetzungen CIOs schaffen müssen und wo KI im Pricing tatsächlich Mehrwert liefert.

„KI‑basierte Kundenanalytik – Reifegrade und Trends“ Daten intelligent nutzen, Kunden besser verstehen und Entscheidungen gezielt optimieren.

Künstliche Intelligenz verändert die Kundenanalytik – doch viele Unternehmen stehen am Anfang ihrer Entwicklung. Welche Trends prägen den Einsatz von KI, welche Reifegrade lassen sich erkennen und wie gelingt der systematische Ausbau der Kundenanalytik? Der Beitrag liefert Einblicke auf Basis aktueller Studien und zeigt, wie Unternehmen ihre Daten gezielt nutzen können, um Kunden besser zu verstehen und Entscheidungen nachhaltig zu verbessern.

Try mit sehr wenig Error dank Grüner KI Wenn neuronale Simulation in Grüne KI implementiert wird

Das Testzentrum für Grüne KI  ist in einer Gründerzeitvilla einer beschaulichen Seitenstraße gegenüber dem Campus der Universität Potsdam untergebracht. Von außen würde niemand auf die Idee kommen, dass hier über die Zukunft digital basierter Fertigung nachgedacht und geforscht wird. Aber im anliegenden Anwendungslabor können beliebig komplexe Produktionsabläufe industrieller Fertigung simuliert und mit den gesammelten Daten wiederum KI‑basierte, selbstlernende Modelle erstellt werden.

Vibe Coding für ERP: Modernisieren ohne Austausch Wie Microservice-Architekturen Vibe Coding in ERP-Landschaften tragfähig machen

ERP-Systeme stehen unter KI-Druck, aber kein Unternehmen kann seinen Kern ersetzen. Vibe Coding bietet einen dritten Weg: Fachbereichsprototypen docken in Tagen an fachliche Dienste an, nicht an den Monolithen. Der Beitrag zeigt, welche Architektur das möglich macht, welche ERP-Andockpunkte sich anbieten und wie Reifegrad und Risiken geführt werden.

Vibe Coding: Wenn die Fachabteilung selbst entwickelt Wie KI-Tools auch ohne Programmierkenntnisse ERP-Erweiterungen in Reichweite bringen

Stellen Sie sich folgendes Szenario vor: Der Change Request ist vor acht Wochen eingereicht worden. Die IT-Abteilung hat Rückfragen, das Projekt steht in der Prioritätenliste irgendwo hinter der Server-Migration und der Vertriebsleiter tippt weiterhin täglich dieselben Zahlen in eine Excel-Tabelle, die er eigentlich direkt aus dem ERP-System haben könnte. Diese Situation ist in mittelständischen Unternehmen kein Einzelfall, sie ist die Regel. Stellen Sie sich folgendes Szenario vor: Der Change Request ist vor acht Wochen eingereicht worden. Die IT-Abteilung hat Rückfragen, das Projekt steht in der Prioritätenliste irgendwo hinter der Server-Migration und der Vertriebsleiter tippt weiterhin täglich dieselben Zahlen in eine Excel-Tabelle, die er eigentlich direkt aus dem ERP-System haben könnte. Diese Situation ist in mittelständischen Unternehmen kein Einzelfall, sie ist die Regel. ERP-Systeme bilden das Rückgrat operativer Geschäftsprozesse. Ihre Anpassung gilt ...