Softwarekonzerne versprechen mit KI-Agenten einen Produktivitätsschub, SAP spricht gar vom „autonomen Unternehmen“. Wirtschaftshistorisch spricht einiges dafür, dass sich die Gewinne nicht beim Kauf der Technik einstellen, sondern erst nach einem Umbau der Organisation. Bei Agenten betrifft dieser Umbau eine Frage, die bisher allein dem Management vorbehalten war: Wer darf die Regeln festlegen, nach denen im Unternehmen entschieden wird?

Christian Klein, seit 2019 Vorstandsvorsitzender von SAP, sieht in KI-Agenten die größte Wachstumschance in der Geschichte des Walldorfer Konzerns. Im Mai hat SAP auf einer Kundenkonferenz in den USA das „autonome Unternehmen“ vorgestellt: Agenten, die in Geschäftsprozessen, Daten und Unternehmenssteuerung verankert sind, sollen Ergebnisse liefern und Kosten senken. Im Gespräch mit der Deutschen Presse-Agentur fügte Klein allerdings eine Einschränkung hinzu, die wichtiger ist als der Produktname: In kritischen Unternehmensbereichen werde ein Agent auch künftig nicht vollständig autonom handeln, am Ende trage immer ein Mensch die Verantwortung.

Dieser Vorbehalt ist ökonomisch aufschlussreich. Er berührt eine Frage, die in der Debatte über die Produktivitätseffekte künstlicher Intelligenz meist übergangen wird: Wie hängt der Ertrag einer neuen Technik davon ab, welche Stellung sie in der Organisation erhält, in der sie eingesetzt wird?

Die lange Lehre der Elektrifizierung

Der Wirtschaftshistoriker Paul David hat 1990 in seinem Aufsatz „The Dynamo and the Computer“ auf eine Parallele aufmerksam gemacht. Die Elektrifizierung der amerikanischen Industrie schlug sich erst Jahrzehnte nach der Einführung des Elektromotors in der Produktivitätsstatistik nieder. Der Grund lag nicht in der Technik, sondern in der Fabrik. Solange elektrische Motoren lediglich die zentrale Dampfmaschine ersetzten und die Kraft weiter über Transmissionswellen verteilt wurde, blieb der Gewinn gering. Erst als Fabriken neu geplant wurden, mit Einzelantrieben an jeder Maschine und einer Anordnung nach dem Materialfluss statt nach der Kraftübertragung, entfaltete die neue Technik ihr Potenzial.

Die Ökonomen Erik Brynjolfsson, Daniel Rock und Chad Syverson haben diesen Befund 2021 unter dem Begriff der Produktivitäts-J-Kurve verallgemeinert. Universaltechnologien erfordern ergänzende, meist immaterielle Investitionen in Prozesse, Qualifikationen und Organisationsformen. Diese Investitionen verursachen zunächst Kosten, ohne dass die Statistik sie als Kapital erfasst, weshalb die gemessene Produktivität anfangs sogar sinken kann, bevor sie steigt.

Überträgt man diesen Gedanken auf KI-Agenten, stellt sich eine präzisere Frage als die nach der Leistungsfähigkeit der Modelle: Welche organisatorischen Vorleistungen verlangen Agenten, und wovon hängen sie ab? Die vorläufige Antwort lautet: davon, wie tief der Agent in das Regelwerk des Unternehmens eingreift.

Entscheidungen über Entscheidungen

Einen tragfähigen Zugang bietet der Soziologe Niklas Luhmann. In seinem Werk „Organisation und Entscheidung“ beschreibt er Organisationen als Systeme, die aus Entscheidungen bestehen und sich über Entscheidungen fortsetzen. Zentral ist der Begriff der Entscheidungsprämissen: Festlegungen, die künftigen Entscheidungen einen Rahmen geben, ohne sie im Einzelnen vorwegzunehmen. Dazu zählen vor allem Programme (Regeln, nach denen entschieden wird), Kommunikationswege (wer mit wem worüber entscheidet) und Personal (wer entscheidet). Bei den Programmen unterscheidet Luhmann Konditionalprogramme nach dem Muster „wenn A, dann B“ von Zweckprogrammen, die ein Ziel vorgeben und die Wahl der Mittel offenlassen.

Aus dieser Unterscheidung ergeben sich drei Formen, in denen ein Agent an betrieblichen Entscheidungen beteiligt sein kann.

Ein regelgebundener Agent vollzieht Konditionalprogramme. Er gleicht eine Rechnung mit Bestellung und Wareneingang ab, bucht bei Übereinstimmung und leitet bei Abweichungen weiter. Die Regeln kommen von außen.

Ein regelintelligenter Agent arbeitet mit Zweckprogrammen. Er kennt das Ziel und den Regelrahmen und entscheidet selbst, welche Regel im Einzelfall greift, wie eine unklare Bestimmung auszulegen ist und wie mit Fällen umzugehen ist, die niemand vorhergesehen hat.

Ein regelentwerfender Agent entscheidet über Entscheidungsprämissen. Er verändert Freigabegrenzen, strukturiert Prozesse um oder formuliert Regeln, nach denen andere künftig entscheiden. Damit betritt er die Ebene, die in Organisationen traditionell der Leitung vorbehalten ist.

Kleins Vorbehalt verortet das SAP-Angebot im Wesentlichen auf der ersten Stufe, mit Ausläufern in die zweite. Der Name „autonomes Unternehmen“ verweist dagegen auf die dritte. Zwischen beiden liegt nicht in erster Linie ein technischer, sondern ein organisatorischer Abstand.

Erste Stufe: Die Grenze der Kontrolle

Bei regelgebundenen Agenten bleibt die bekannte Arbeitsteilung bestehen: Das Management setzt die Regeln, der Agent führt aus, der Mensch prüft. Die organisatorische Vorleistung besteht darin, Regeln explizit zu machen, die bislang im Erfahrungswissen der Beschäftigten lagen, und Prüfschwellen festzulegen.

Die Produktivitätsgewinne sind real, aber begrenzt. Die Ökonomin Edith Penrose hat 1959 in „The Theory of the Growth of the Firm“ argumentiert, dass die Wachstumsgeschwindigkeit eines Unternehmens durch die verfügbare Managementkapazität beschränkt ist, weil neue Aktivitäten von erfahrenen Führungskräften eingeführt und eingebunden werden müssen. Dieser sogenannte Penrose-Effekt hat bei regelgebundenen Agenten eine Entsprechung: Ein Agent kann nur so viel mehr leisten, wie die Menschen, die sein Handeln verantworten, nachvollziehen und mittragen können. Die Kontrollkapazität wird zum Engpass.

Daraus folgt ein doppeltes Risiko. Bleibt die Kontrolle ernsthaft, deckelt sie den Ertrag. Wird sie zur Formalie, entsteht Verantwortung ohne Verständnis. In der Prinzipal-Agenten-Theorie, die Michael Jensen und William Meckling 1976 in ihrem Aufsatz „Theory of the Firm“ ausformuliert haben, sind Überwachungskosten der Preis dafür, dass ein Auftraggeber einem Beauftragten Aufgaben überträgt. Werden diese Kosten eingespart, indem nur noch abgezeichnet statt geprüft wird, verschwinden sie nicht. Sie verwandeln sich in unentdeckte Risiken.

Zweite Stufe: Die Verschiebung des Urteils

In Verwaltungsprozessen entsteht ein großer Teil der Kosten nicht im Regelfall, sondern in der Ausnahme: bei der Rechnung ohne passende Bestellung, beim Vertrag mit ungewöhnlicher Klausel, bei der Abrechnung, die keine Richtlinie vorgesehen hat. Regelgebundene Agenten reichen genau diese Fälle an Menschen weiter. Regelintelligente Agenten bearbeiten sie selbst. Ihr Produktivitätspotenzial ist entsprechend größer.

Zugleich ändert sich die Art der Kontrolle. Ein Ergebnis lässt sich gegen eine Regel prüfen, eine Auslegung nur gegen den Zweck der Regel. Wer prüft, muss denselben Ermessensspielraum beurteilen können, den der Agent genutzt hat. Der Engpass verlagert sich von der Kontrollkapazität zur Urteilskapazität. Für die Beschäftigungsstruktur hätte das eine Folge, die in der Debatte über Arbeitsplatzverluste selten auftaucht: Gebraucht würden weniger Sachbearbeiter, aber mehr Menschen, die Auslegungsfragen entscheiden können, und diese sind knapper und teurer.

Hinzu kommt ein weniger sichtbarer Effekt. Wer Regeln wiederholt auf dieselbe Weise auslegt, schafft Präzedenzfälle. Die Auslegung des Agenten wird zur gelebten Praxis und damit zur faktischen Regel, ohne je als solche beschlossen worden zu sein. Es spricht einiges dafür, dass regelintelligente Agenten auf diesem Weg schleichend zu regelentwerfenden werden, allerdings ohne das Verfahren, das für das Setzen von Regeln vorgesehen wäre.

Richard Cyert und James March haben in „A Behavioral Theory of the Firm“ (1963) beschrieben, dass Unternehmen Zielkonflikte zwischen Abteilungen selten auflösen, sondern nur vorläufig beilegen, etwa indem sie Ziele nacheinander bedienen oder durch Reserven abfedern, die sie als organisatorischen Slack bezeichnen. Ein regelintelligenter Agent, der zwischen widerstreitenden Vorgaben abwägt, etwa zwischen Kostensenkung und Lieferantenbeziehung, übernimmt diese Beilegung. Er trifft Abwägungen, die bisher in Abteilungsverhandlungen sichtbar wurden, und entzieht sie damit dem Blick derer, die sie verantworten sollen.

Die organisatorische Vorleistung besteht auf dieser Stufe darin, die Auslegungspraxis der Agenten systematisch zu beobachten und in festen Abständen zu entscheiden, welche Auslegungen als Regel übernommen und welche korrigiert werden. Das entspricht einer Rechtsprechungsaufsicht im Inneren des Unternehmens, für die die meisten Organisationen bislang weder Verfahren noch Zuständigkeiten haben.

Dritte Stufe: Die Frage der Legitimation

Auf der dritten Stufe entscheidet der Agent darüber, wie künftig alle Fälle einer Art zu behandeln sind. Hier liegt das größte Produktivitätspotenzial, weil nicht mehr einzelne Vorgänge beschleunigt werden, sondern die Organisation selbst umgebaut wird. Um in der Analogie der Elektrifizierung zu bleiben: Erst auf dieser Stufe würde die Fabrik neu geplant, statt nur den Antrieb auszutauschen.

Genau hier liegt jedoch die ökonomische Pointe. Die Neuplanung der Fabrik war im frühen 20. Jahrhundert eine Aufgabe von Ingenieuren und Unternehmern, die dafür einstanden. Bei regelentwerfenden Agenten würde diese Aufgabe teilweise an das System übergehen, dessen Produktivität gesteigert werden soll. Das Entscheiden über Entscheidungsprämissen ist in Luhmanns Verständnis aber der Kern dessen, was Leitung ausmacht. Ein Agent, der diese Ebene betritt, konkurriert nicht mehr mit Sachbearbeitern, sondern mit dem Management selbst.

Daraus ergibt sich die vorläufige These, dass Steuerung auf dieser Stufe nicht mehr als nachträgliche Kontrolle funktionieren kann. Eine Instanz, die jeden Regelentwurf prüft, bräuchte dieselbe Gestaltungskompetenz wie der Agent und wäre bei hoher Änderungsfrequenz schnell überfordert. Die Steuerung muss vorher ansetzen, in einer Art Verfassung: Welche Regeln darf der Agent ändern und welche nicht? Nach welchem Verfahren werden Änderungen wirksam? Welche sind umkehrbar, welche befristet, welche bedürfen der Zustimmung welcher Stelle?

Peter Drucker hat Management in „The Practice of Management“ (1954, deutsch „Die Praxis des Managements“) als eigenständige Praxis beschrieben, die sich von bloßer Verwaltung unterscheidet. Auf der dritten Stufe zeichnet sich eine neue Ausprägung dieser Praxis ab: die Gestaltung von Institutionen vor der Ausführung, statt der Führung und Koordination während des laufenden Betriebs.

Der Engpass verschiebt sich damit ein zweites Mal, von der Urteilskapazität zur Legitimationskapazität. Die entscheidende Frage lautet nicht mehr, ob eine Regel sachlich gut ist, sondern wer sie in Kraft setzen darf und wer für sie haftet. Kleins Satz, am Ende trage immer ein Mensch die Verantwortung, wird hier brüchig. Für eine Regel, die er weder entworfen hat noch in ihrer Begründung vollständig kennt, kann ein Mensch allenfalls formal einstehen.

Auch die Messung des Ertrags stößt an Grenzen. Die Wirkung einer geänderten Regel zeigt sich oft erst nach Monaten und in Bereichen, die mit der Änderung scheinbar nichts zu tun haben. Und ein Agent, der Regeln entwirft, entwirft womöglich die Kennzahlen mit, an denen sein Erfolg gemessen wird. Die Gefahr einer selbstbezüglichen Optimierung ist auf dieser Stufe strukturell angelegt.

Die J-Kurve der Agenten

Stellt man die drei Stufen nebeneinander, ergibt sich ein Muster, das bislang allenfalls als vorläufig gestützt gelten kann. Mit jeder Stufe wächst das Produktivitätspotenzial, weil Agenten tiefer in die Organisation eingreifen: erst in die Routine, dann in die Ausnahme, schließlich in die Struktur. Zugleich wandert der Engpass von der Kontrolle über das Urteil zur Legitimation, und die erforderlichen organisatorischen Vorleistungen werden umfangreicher: erst die Explizierung von Regeln, dann die Aufsicht über ihre Auslegung, schließlich eine Verfassung für ihre Änderung.

Das entspricht der Logik der J-Kurve, mit einer Besonderheit. Die ergänzenden Investitionen, die Agenten der höheren Stufen verlangen, betreffen nicht nur Prozesse und Qualifikationen, sondern die Leitungsstruktur des Unternehmens selbst. Sie lassen sich nicht einkaufen und nicht an einen Softwareanbieter delegieren. Wer sie nicht erbringt, bleibt faktisch bei regelgebundenen Agenten, auch wenn er leistungsfähigere einsetzt. Oder er erhält die Folgen der höheren Stufen ohne deren Steuerung.

Für die Erwartungen an die Produktivitätswirkung künstlicher Intelligenz folgt daraus eine nüchterne Vermutung. Die großen Gewinne, die Softwareanbieter in Aussicht stellen, dürften sich, wenn überhaupt, erst mit erheblicher Verzögerung einstellen, und zwar zuerst in Unternehmen, die ihre Entscheidungsordnung bewusst neu fassen. Die Elektrifizierung hat gezeigt, dass zwischen der Verfügbarkeit einer Technik und ihrer Wirkung Jahrzehnte liegen können. Bei Agenten hängt die Dauer dieser Verzögerung weniger von der Rechenleistung ab als von der Bereitschaft, die Frage zu beantworten, wer im Unternehmen die Regeln schreibt.

Ralf Keuper

Quellen

Literatur

• Brynjolfsson, Erik / Rock, Daniel / Syverson, Chad: The Productivity J-Curve: How Intangibles Complement General Purpose Technologies. In: American Economic Journal: Macroeconomics 13 (2021), Nr. 1, S. 333–372.
• Cyert, Richard M. / March, James G.: A Behavioral Theory of the Firm. Englewood Cliffs 1963.
• David, Paul A.: The Dynamo and the Computer: An Historical Perspective on the Modern Productivity Paradox. In: American Economic Review 80 (1990), Nr. 2, S. 355–361.
• Drucker, Peter F.: The Practice of Management. New York 1954 (deutsch: Die Praxis des Managements).
• Jensen, Michael C. / Meckling, William H.: Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure. In: Journal of Financial Economics 3 (1976), S. 305–360.
• Luhmann, Niklas: Organisation und Entscheidung. Opladen/Wiesbaden 2000.
• Penrose, Edith: The Theory of the Growth of the Firm. Oxford 1959.

Web

• heise online: SAP-Chef sieht historische Wachstumschance durch KI-Produkte – https://www.heise.de/news/SAP-Chef-sieht-historische-Wachstumschance-durch-KI-Produkte-11467558.html
• Tagesspiegel (dpa): Softwarekonzern: SAP-Chef sieht historische Wachstumschance durch KI-Produkte – https://www.tagesspiegel.de/wirtschaft/dpa-softwarekonzern-sap-chef-sieht-historische-wachstumschance-durch-ki-produkte-16100394.html