KI-Verantwortung im Unternehmen: Wer prüft, wer entscheidet?

Warum Unternehmen Ergebnisse automatisieren, ohne Prüfung, Entscheidungsbefugnisse und Verantwortung neu zu ordnen

KI schreibt Angebote, fasst Verträge zusammen, priorisiert Bewerbungen, bewertet Risiken, beantwortet Kundenanfragen, erstellt Prognosen und schlägt Entscheidungen vor.

Was früher Stunden oder Tage dauerte, liegt heute in wenigen Minuten vor. Der sichtbare Produktivitätsgewinn ist real. Das Ergebnis ist schneller erstellt, die Bearbeitungszeit sinkt und dieselbe Organisation kann erheblich mehr Output erzeugen.

Und trotzdem ist die eigentliche Arbeit nicht verschwunden.

Jemand muss beurteilen, ob das Ergebnis fachlich richtig, geschäftlich sinnvoll, rechtlich zulässig und im konkreten Kontext vertretbar ist. Jemand muss entscheiden, ob daraus eine Handlung folgt. Und jemand trägt die Konsequenz, wenn die KI einen wichtigen Zusammenhang übersehen, falsche Daten verarbeitet oder eine plausible Antwort mit der Überzeugungskraft einer Tatsache formuliert hat.

Genau hier entsteht ein neuer Widerspruch in Unternehmen und damit auch eine neues Unternehmensrisiko.

Widerspruch der Woche

Unternehmen automatisieren das Erstellen von Ergebnissen schneller als deren Prüfung. Gleichzeitig erwarten sie von Menschen, die Verantwortung für diese Ergebnisse zu übernehmen.

Die KI wurde in den Geschäftsablauf integriert, doch die Verantwortung liegt in der alten Position mit der alten Stellenbeschreibung. Dazwischen liegt eine organisatorische Lücke, die in keiner Produktivitätsrechnung erscheint.

KI-Verantwortung im Unternehmen beginnt daher nicht erst bei der Haftungsfrage. Sie beginnt bei der Verteilung von Prüfung, Einfluss und Entscheidungsbefugnis im täglichen Geschäftsablauf.

Die Erstellung wird beschleunigt. Die Überprüfung bleibt menschlich.

Der Mitarbeiter erstellt mit KI in einer Stunde nicht mehr nur drei, sondern dreissig Vertragszusammenfassungen. Die Führungskraft erhält nicht mehr fünf, sondern fünfzig Entscheidungsvorlagen. Der Kundenservice beantwortet nicht mehr hundert, sondern tausend Anfragen. Das Einkaufssystem prüft nicht mehr einzelne Lieferanten, sondern scannt den gesamten Bestand auf Abweichungen.

Auf dem Dashboard sieht das nach Produktivität aus.

Im Unternehmen entsteht dadurch jedoch eine neue Herausforderung, sozusagen eine zweite Rechnung. Je mehr Ergebnisse automatisiert erzeugt werden, desto mehr Ergebnisse müssen klassifiziert, geprüft, freigegeben, korrigiert oder im Ausnahmefall gestoppt werden. Die Erstellungskosten des Outputs sinken. Jedoch verlagern sich damit die Kosten in die Prüfung der Ergebnisse.

Genau diese Verlagerung wird häufig unterschätzt oder überhaupt nicht betrachtet. Unternehmen messen, wie viel schneller ein Ergebnis entsteht. Sie messen seltener, wie viel zusätzliche Aufmerksamkeit und Arbeitszeit erforderlich ist, seine Qualität zu beurteilen. Noch seltener wird sichtbar, welche fachliche Fähigkeiten verloren geht, wenn Menschen den ganzen Tag Vorschläge kontrollieren, deren Entstehung sie nicht vollständig nachvollziehen können.

Aus dem Mitarbeiter wird ein Prüfer maschineller Ergebnisse. Doch seine Rolle, seine Position, seine Stellenbeshreibung, sein Zeitbudget und seine Entscheidungsbefugnisse bleiben unverändert.

Er soll Verantwortung übernehmen für etwas, das nicht vollständig verstanden wird oder nachvollzogen werden kann. Er besitzt jedoch nicht zwingend die Autorität, die KI-Anwendung zu stoppen, den Geschäftsablauf zu verändern oder eine unrealistische Anforderung zurückzuweisen.

Das ist keine Frage individueller Sorgfalt. Es ist eine Frage der Organisationsarchitektur.

Die Zahlen zeigen nicht zu wenig Nutzung. Sie zeigen zu wenig Ordnung.

Die Einführung von KI ist längst kein vorsichtiger Versuch mehr. Laut der McKinsey Global Survey 2025 nutzen fast neun von zehn befragten Organisationen KI regelmässig. 62 Prozent experimentieren bereits mit KI-Agenten oder skalieren sie. Gleichzeitig befinden sich rund zwei Drittel der Unternehmen noch vor einer unternehmensweiten Skalierung. Nur 39 Prozent berichten überhaupt von einem Einfluss auf das EBIT; bei den meisten davon liegt dieser Anteil unter fünf Prozent.

Der entscheidende Befund liegt etwas verborgen. Die Unternehmen mit der grössten wirtschaftlichen Wirkung gestalten ihre Geschäftsabläufe wesentlich häufiger grundlegend neu. Sie definieren zudem, wann Ergebnisse eine menschliche Prüfung brauchen. Beides gehört laut McKinsey zu den stärksten Unterscheidungsmerkmalen der führenden Unternehmen.

KI allein erzeugt demnach noch keine neue Leistungsfähigkeit. Sie beschleunigt zunächst das, worin und wofür sie eingesetzt wird.

Ist der Geschäftsablauf klar definiert, kann eine Beschleunigung wirtschaftlich wertvoll sein. Sind Verantwortungen, Daten, Übergaben und Entscheidungsbefugnisse bereits unklar, skaliert KI genau diese Unklarheit.

Eine schlechte Übergabe wird nicht besser, wenn sie automatisiert wird. Sie wird schneller.

Eine unklare Entscheidung wird nicht eindeutiger, wenn die Vorlage in Sekunden entsteht. Es liegen lediglich mehr Vorlagen vor.

Und eine ungeklärte Verantwortung wird nicht gelöst, wenn am Ende eines automatisierten Ablaufs der Name eines Menschen in einem Freigabefeld steht.

Menschen prüfen Ergebnisse, deren Entstehung sie nicht sehen

Die globale Studie „Trust, attitudes and use of Artificial Intelligence 2025“ der University of Melbourne und KPMG basiert auf mehr als 48.000 Befragten in 47 Ländern. 58 Prozent der Beschäftigten nutzen KI bewusst bei der Arbeit. 66 Prozent verlassen sich auf KI-Ergebnisse, ohne deren Richtigkeit zu beurteilen. 56 Prozent berichten, durch KI Fehler in ihrer Arbeit gemacht zu haben. 57 Prozent verbergen ihre KI-Nutzung und präsentieren KI-generierte Arbeit als ihre eigene.

Nur 47 Prozent geben an, eine Schulung erhalten zu haben. Lediglich 40 Prozent berichten von Richtlinien oder Orientierung für den Einsatz generativer KI am Arbeitsplatz.

Diese Zahlen werden schnell als Kompetenz- oder Verhaltensfrage der Mitarbeiter gelesen. Doch das greift zu kurz.

Wenn KI-Nutzung informell geschieht, Qualitätsanforderungen unklar bleiben und Menschen gleichzeitig unter höherem Zeit- und Outputdruck stehen, entsteht ein vollkommen vorhersehbares Verhalten: Ergebnisse werden übernommen, oberflächlich geprüft oder ohne Offenlegung des Ursprungs weitergegeben.

Der Mitarbeiter entscheidet nicht zwischen Sorgfalt und Nachlässigkeit in einem neutralen Raum. Er reagiert nur noch auf seine Arbeit. Auf Zielvorgaben. Auf verfügbare Zeit. Auf die Erwartung höherer Produktivität. Auf fehlende Klarheit, wann KI erlaubt ist. Und auf eine Organisation, die Schnelligkeit bereits misst, die Qualität der Prüfung jedoch kaum sichtbar macht.

Was wie ein individuelles Fehlverhalten erscheint, kann die logische Folge widersprüchlicher Vorgaben sein.

„Human in the Loop“ oder die Scheinkontrolle

Viele Unternehmen beantworten die Verantwortungsfrage mit einem beruhigenden Satz: Am Ende prüft ein Mensch.

Doch die Anwesenheit eines Menschen ist noch keine wirksame Kontrolle.

Eine Prüfung besitzt nur dann geschäftliche Substanz und Relevanz, wenn der Prüfer den Kontext versteht, genügend Zeit erhält, die Qualitätskriterien kennt, Abweichungen erkennen kann und tatsächlich befugt ist, das Ergebnis zurückzuweisen oder den Ablauf zu stoppen.

Fehlt eine dieser Bedingungen, wird aus „Human in the Loop“ eine formale Unterschrift unter einen maschinell beschleunigten Geschäftsablauf.

Der Mensch wird zur letzten Kontrollinstanz erklärt, ohne als solche ausgestattet zu sein. Er sieht das Ergebnis, jedoch nicht zwingend die verwendeten Quellen. Er soll eine Empfehlung freigeben, kennt jedoch nicht alle Modellgrenzen. Er trägt die Verantwortung, kann die Systemlogik jedoch weder verändern noch überstimmen. Und je höher das Volumen steigt, desto wahrscheinlicher wird die Freigabe zur Routine. Die KI wird schon wissen, was sie tut.

Gartner beschreibt diesen Punkt für KI-Agenten sehr präzise. Bei Systemen, die nach menschlicher Freigabe handeln, verliert die Kontrolle unter Zeitdruck oder durch Freigabemüdigkeit ihre Wirkung. Bei autonomen Agenten können Umfang und Geschwindigkeit der Aktionen die menschliche Aufsicht “überholen”. Die Verantwortung für das Ergebnis bleibt dennoch beim Unternehmen. Gartner erwartet, dass bis 2027 rund 40 Prozent der Unternehmen autonome Agenten aufgrund von erst nach realen Vorfällen erkannten Governance-Lücken zurückstufen oder abschalten werden. Gartner: AI agent governance, 2026

Die entscheidende Grenze verläuft daher nicht zwischen automatisiert und menschlich geprüft.

Sie verläuft zwischen sichtbarer und wirksamer Kontrolle.

Verantwortung ohne Einfluss ist keine Verantwortung

Verantwortung setzt Einfluss voraus.

Wer für eine Entscheidung einsteht, muss verstehen können, worauf sie beruht. Er muss abweichen dürfen, braucht Zugriff auf die entscheidenden Informationen und er muss wissen, an welcher Stelle seine Verantwortung beginnt und wo sie endet.

KI verändert genau diese Beziehung.

Ein System erstellt die Analyse. Ein Mitarbeiter prüft sie. Eine Führungskraft entscheidet auf ihrer Grundlage. IT betreibt die Anwendung. Ein externer Anbieter verantwortet das Modell. Compliance definiert Grenzen. Der jeweilige Fachbereich verantwortet das Geschäftsergebnis.

Wenn etwas schiefgeht, kann jede beteiligte Stelle nachvollziehbar erklären, weshalb die Ursache ausserhalb ihres eigenen Aufgabenbereiches lag.

IT hat das System technisch bereitgestellt. Der Anbieter hat auf die Grenzen hingewiesen. Der Mitarbeiter hat an verschiedenen Stellen eventuell geprüft. Die Führungskraft hat entschieden und Compliance hatte zu all dem eine Richtlinie veröffentlicht.

Und trotzdem: niemand hat die vollständige Verantwortung für das Zusammenspiel all dieser Puzzleteile getragen.

Die Ursache liegt nicht in einem einzelnen Teil der Kette. Sie liegt in der Verbindung der Teile im Geschäftsprozess.

KI trifft auf eine bereits schwache Entscheidungsarchitektur

Der Deloitte Global Human Capital Trends Report 2026 zeigt die Dimension dieser Lücke. 60 Prozent der Executives nutzen KI regelmässig zur Unterstützung ihrer Entscheidungen. 64 Prozent betrachten KI-gestützte Entscheidungen als sehr wichtig für ihre gegenwärtige Geschäftslage. Nur fünf Prozent sehen sich bei der organisatorischen Handhabung an der Spitze.

Noch entscheidender: Eine zugrunde liegende Deloitte-Analyse von 574 Führungskräften ordnete 57 Prozent der untersuchten Organisationen einer niedrigen Stufe organisatorischer Entscheidungsfähigkeit zu. Entscheidungsbefugnisse, Eingaben, Qualitätsmassstäbe und Eskalationswege sind also häufig bereits ohne KI nicht ausreichend geklärt.

KI kommt somit nicht in eine “neutrale” Organisation. Sie trifft auf bestehende Machtverhältnisse, unklare Zuständigkeiten, bereichsspezifische Kennzahlen und historisch gewachsene Freigaben. Sie wird in diese Struktur eingesetzt und verstärkt deren Logik.

War vorher unklar, wer entscheiden darf, kommt nun eine weitere Instanz hinzu, die Empfehlungen erzeugt oder Handlungen vorbereitet. War vorher unklar, wer für Datenqualität steht, verarbeitet KI diese Daten in wesentlich grösserem Umfang. War vorher unklar, wann ein Vorgang eskaliert werden muss, steigt nun lediglich die Geschwindigkeit, mit der der ungeklärte Fall die nächste Stelle erreicht.

Die Technologie mag also neu sein, doch die strukturelle Herausforderung des Unternehmens ist alt.

Automatisierung verändert den Geschäftsprozess – auch dann, wenn er formal gleich bleibt

Ein Unternehmen kann KI in einem bestehenden Geschäftsprozess einsetzen, ohne ein einziges Kästchen im Ablaufdiagramm zu verändern. Auf dem Papier bleibt alles gleich: erstellen, prüfen, freigeben, ausführen.

In der Realität hat sich der Ablauf jedoch grundlegend verändert.

Durch den Einsatz von KI steigt die Menge der Ergebnisse – der Output – und das verkürzt die Zeit zwischen Erstellung und Entscheidung extrem. Der Prüfer, der innerhalb dieses Prozesses bestimmte Ergebnisse kontrollieren soll, wird somit zum Engpass, dem altbekannten Bottleneck. Die zu prüfenden Ausnahmen häufen sich pötzlich an einer anderen Stelle. Fachwissen verlagert sich von der Erstellung zur Beurteilung, also in einen Bereich, der wahrscheinlich gar nicht über dieses tiefe Fachwissen verfügt. Ein Fehler kann sich in kurzer Zeit über Hunderte Fälle ausbreiten. Und die Person am Ende des Ablaufs erhält formal dieselbe Verantwortung für ein Ergebnis, auf dessen Entstehung sie immer weniger Einfluss besitzt.

Das zeigt sich in fast jedem Bereich:

• Finance: KI erstellt Abweichungsanalysen und Kommentare. Wer prüft, ob eine plausible Erklärung den tatsächlichen Ergebnisverursacher trifft und nicht nur eine statistisch naheliegende Formulierung liefert?
• Einkauf: KI bewertet Lieferanten, Verträge und Risiken. Wer erkennt, dass ein formaler Risikowert die strategische Abhängigkeit von einem einzelnen Anbieter nicht abbildet?
• HR: KI sortiert Bewerbungen und formuliert Leistungsbeurteilungen. Wer verantwortet die Kriterien, mit denen menschliche Einzigartigkeit in standardisierte Kategorien übersetzt wird?
• Kundenservice: KI formuliert Zusagen in Echtzeit. Wer besitzt die Befugnis, Geschwindigkeit zugunsten einer korrekten und nachhaltigen Antwort zu begrenzen?
• Führung: KI analysier und verdichtet Daten zu Entscheidungsvorlagen. Wer stellt sicher, dass die Verdichtung nicht genau jene widersprüchlichen Signale entfernt, die eine Führungskraft sehen müsste?

KI verändert nicht nur eine Aufgabe innerhalb eines Prozessablaufes. Sie verändert Volumen, Geschwindigkeit, Informationsdichte, Abhängigkeiten und die Verteilung von Einfluss im gesamten Prozess.

Wer lediglich KI als Anwendung einführt, hat noch nicht weiter gedacht.

Die Verantwortungs- und Entscheidungskette muss vor der Automatisierung klar sein

Die Frage lautet nicht pauschal, ob ein Mensch oder eine KI entscheidet. Diese Gegenüberstellung ist zu grob und zu oberflächlich.

Eine Organisation muss unterscheiden, was die KI in einem konkreten Geschäftsablauf tatsächlich tut:

• Erstellt sie einen Entwurf?
• Analysiert und verdichtet sie Informationen?
• Gibt sie eine Empfehlung?
• Priorisiert sie?
• Bereitet sie eine Entscheidung vor?
• Löst sie nach Freigabe eine Handlung aus?
• Handelt sie innerhalb definierter Grenzen eigenständig?

Jede dieser Stufen verändert das Risiko und verlangt somit eine andere Ordnung von Prüfung, Eingriff und Verantwortung.

Für High-Risk-Systeme sieht auch der EU AI Act vor, dass ein Unternehmen die menschliche Aufsicht einer Person zuweist, die tatsächlich ausgestattet und befähigt ist, diese Aufsicht auszuüben. Überwachung, Reaktion auf Risiken und menschliche Eingriffsmöglichkeiten sind keine abstrakten Governance-Begriffe. Sie müssen in Rollen und Geschäftsabläufen praktisch wirksam werden. Europäische Kommission: Navigating the AI Act

Ein Name in einer Verantwortungsmatrix genügt nicht.

Die Organisation braucht Klarheit darüber, wer Qualitätskriterien festlegt, wer Ergebnisse prüft, welche Fälle zwingend eskaliert werden, wer eine KI-Empfehlung überstimmen darf, wer den automatisierten Ablauf stoppt und wer die Folgen einer Fehlentscheidung wirtschaftlich verantwortet.

Erst dann besitzt Verantwortung wieder eine reale Verbindung zu Einfluss.

Die CEO-Frage ist nicht: Wie schnell führen wir KI ein?

Der Druck zur Geschwindigkeit ist nachvollziehbar. Im IBM CEO Study 2025 gaben 64 Prozent der 2.000 befragten CEOs an, aus Angst vor dem Zurückfallen in Technologien zu investieren, bevor deren geschäftlicher Nutzen vollständig geklärt ist. Nur 25 Prozent der KI-Initiativen hatten die erwartete Rendite geliefert, lediglich 16 Prozent waren unternehmensweit skaliert.

Geschwindigkeit ist also kein Beweis für organisatorische Reife. Sie kann ebenso Ausdruck ungeklärter Eile sein.

Die zentrale Aufgabe an der Unternehmensspitze liegt nicht darin, KI möglichst schnell in jede Funktion zu bringen. Sie liegt in der Neuordnung des Systems, der Organisationsarchitektur, in dem KI eine positive Wirkung entfalten soll.

Führung, Entscheidungsbefugnisse, Geschäftsabläufe und Verantwortung müssen mit derselben Ernsthaftigkeit betrachtet werden wie Daten, Modelle und technische Integration. Nicht nacheinander. Als eine verbundene Architektur.

Sonst produziert die KI Ergebnisse in Sekunden, während die Organisation weiterhin in Tagen entscheidet, in Wochen eskaliert und erst nach Monaten erkennt, dass niemand die vollständige Verantwortung getragen hat.

Die unausweichliche Konsequenz

KI kann Arbeit beschleunigen. Sie kann Informationen verdichten, Muster erkennen und Entscheidungen vorbereiten. Sie kann klar definierte Handlungen innerhalb kontrollierter Grenzen übernehmen.

Sie kann jedoch keine ungeklärte Verantwortung ordnen.

Wenn ein Mensch für ein KI-Ergebnis einstehen soll, braucht er mehr als einen Freigabeknopf. Er braucht Kontext, Zeit, fachliche Urteilskraft, Zugriff auf die entscheidenden Informationen und die reale Befugnis, Nein zu sagen.

Fehlt diese Befugnis, trägt der Mensch nicht Verantwortung.

Er trägt das Risiko einer Architektur, die Geschwindigkeit automatisiert und Verantwortung lediglich zugewiesen hat.

Wer darf in Ihrem Unternehmen eine KI-Entscheidung tatsächlich stoppen – und trägt diese Person auch die Verantwortung für das Ergebnis?