Wenn KI nicht mehr nur assistiert: Agentic AI zwischen HR und IT
KI-Agenten übernehmen nicht einfach weitere Aufgaben – sie verändern, wie Verantwortung im Unternehmen verteilt wird. Damit ihr Einsatz nicht im Pilotbetrieb stecken bleibt, müssen HR und IT früh klären, wer entscheidet, wer kontrolliert und welche Fähigkeiten künftig gebraucht werden.
Wer heute durch Büros geht, sieht KI längst im Alltag. Texte entstehen mit Unterstützung von Sprachmodellen, Protokolle werden automatisch zusammengefasst, Informationen schneller aufbereitet. Vieles davon folgt noch einem vertrauten Prinzip: Ein Mensch gibt etwas ein, die KI liefert ein Ergebnis, der Mensch entscheidet, was damit passiert. Bei Agentic AI wird diese Trennung weniger eindeutig, denn KI-Agenten warten nicht nur auf einzelne Anweisungen. Sie bekommen ein Ziel und führen dafür selbstständig mehrere Schritte aus, greifen auf Systeme zu, verarbeiten Informationen, treffen Zwischenentscheidungen und können Aufgaben an andere Agenten weitergeben.
Dass das Thema schnell an Bedeutung gewinnt, zeigen aktuelle Zahlen. Laut Deloittes „State of AI in the Enterprise 2026“ nutzen heute 23 Prozent der befragten Unternehmen Agentic AI mindestens in moderatem Umfang. Innerhalb der kommenden zwei Jahre erwarten das bereits 74 Prozent. Die organisatorischen Sicherungen halten mit diesem Tempo allerdings nicht Schritt: Nur 21 Prozent geben an, bereits über ein ausgereiftes Governance-Modell für autonome Agenten zu verfügen.
Damit verändert sich nicht nur die Technik im Hintergrund, sondern auch die Arbeit davor. Der Mensch sitzt nicht mehr zwangsläufig bei jedem einzelnen Schritt daneben und gibt ihn frei. Genau deshalb führt Agentic AI sehr schnell zu Fragen, die mitten in die Organisation reichen: Wer trägt Verantwortung? Welche Aufgaben verändern sich? Was müssen Führungskräfte im Blick behalten? Und wer greift ein, wenn ein Agent etwas tut, das so nicht vorgesehen war? Für diese Fragen braucht es IT – aber eben nicht nur IT.
Aus Unterstützung wird Delegation
Bei generativer KI ist die Rollenverteilung meist noch gut erkennbar. Ein Mitarbeitender stellt eine Frage oder gibt einen Auftrag, die KI erstellt einen Vorschlag, anschließend wird geprüft, verändert oder verworfen. Ein Agent arbeitet anders: Er erhält beispielsweise den Auftrag, Informationen aus mehreren Quellen zusammenzutragen, einen Vorgang vorzubereiten oder einen Prozess bis zu einem bestimmten Punkt selbstständig abzuarbeiten. Welche Einzelschritte dafür notwendig sind, entscheidet er innerhalb der gesetzten Grenzen selbst. Damit wird aus der Unterstützung bei einer Aufgabe ein Stück weit die Delegation einer Aufgabe.
In komplexeren Umgebungen kommen mehrere Agenten hinzu. Einer sammelt Daten, ein anderer bewertet sie, ein dritter stößt den nächsten Schritt an. Das macht Prozesse nicht automatisch schlechter, aber schwerer zu überblicken, denn ein Fehler verbleibt möglicherweise nicht an einer Stelle. Eine falsche Annahme zu Beginn kann sich durch den gesamten Ablauf ziehen und erst deutlich später auffallen.
Technisch lässt sich vieles davon absichern, organisatorisch bleibt trotzdem die Frage: Wer ist für welchen Teil verantwortlich? Spätestens hier reicht die Formel „IT stellt bereit, Fachbereich nutzt“ nicht mehr aus.
Zwischen IT und Fachbereich entsteht eine neue Lücke
Mit agentischen Systemen kommen Aufgaben hinzu, für die es in vielen Unternehmen noch keine saubere Zuständigkeit gibt. Jemand muss festlegen, welche Systeme ein Agent nutzen darf, welche Handlungen erlaubt sind und wann zwingend ein Mensch übernehmen muss. Ebenso muss jemand beurteilen können, ob der Agent noch innerhalb seines vorgesehenen Rahmens arbeitet und ob die Ergebnisse fachlich überhaupt sinnvoll sind. Das verlangt technisches Verständnis, aber genauso Fachwissen und Prozesskenntnis. Genau an dieser Stelle treffen IT, Fachbereich und HR aufeinander.
Wie groß der Abstand zwischen technischer Einführung und organisatorischer Anpassung bereits heute ist, zeigt ein weiterer Deloitte-Befund: 84 Prozent der befragten Unternehmen haben Jobs und Tätigkeitsprofile bislang nicht grundlegend an die Möglichkeiten von KI angepasst. Gleichzeitig gelten fehlende Fähigkeiten in der Belegschaft als eine der größten Hürden für die Integration von KI in bestehende Arbeitsabläufe. Viele Unternehmen schulen zwar ihre Mitarbeitenden, deutlich weniger gehen jedoch an Rollen, Karrierewege oder Arbeitsabläufe selbst heran.
Nehmen wir einen Agenten, der Teile eines Recruiting-Prozesses unterstützt. Die IT kann Zugriffe, Schnittstellen und technische Grenzen definieren. Ob bestimmte Schritte fachlich sinnvoll sind, welche Entscheidungen nicht automatisiert werden sollten und an welchen Stellen menschliches Urteil notwendig bleibt, lässt sich aber nicht allein technisch beantworten. Wenn niemand diese Schnittstelle ausdrücklich verantwortet, entstehen schnell informelle Lösungen: Einzelne Mitarbeitende eignen sich Wissen an, übernehmen zusätzliche Prüfaufgaben oder treffen Entscheidungen, für die es offiziell gar keine Rolle gibt. Solange alles funktioniert, fällt das kaum auf. Erst beim ersten ernsthaften Fehler wird sichtbar, dass Verantwortung zwar faktisch übernommen wurde, aber nie sauber geregelt war.
Governance beginnt nicht mit einem Dokument
Viele Unternehmen verbinden Governance zunächst mit Richtlinien, Freigabeprozessen und Zuständigkeiten auf dem Papier. Für Agentic AI ist das zu wenig, denn entscheidend ist, was im laufenden Betrieb passiert. Auf welche Daten darf ein Agent zugreifen? Darf er nur Vorschläge machen oder selbst Aktionen auslösen? Welche Entscheidungen müssen protokolliert werden, wann muss ein Mensch prüfen und wer merkt überhaupt, wenn sich das Verhalten eines Systems verändert? Eine einmalige Freigabe vor dem Start beantwortet diese Fragen nicht dauerhaft.
Bei Agenten bekommt diese Frage eine neue Dringlichkeit. Im Unterschied zu klassischen KI-Systemen können sie nicht nur Empfehlungen liefern, sondern selbst Handlungen auslösen, etwa Nachrichten verschicken, Systeme verändern oder Transaktionen anstoßen. Deloitte empfiehlt deshalb unter anderem klar definierte Grenzen für die Autonomie von Agenten, laufendes Monitoring und nachvollziehbare Protokolle ihrer Aktionen. Das erklärt auch, warum die erwähnte Lücke zwischen geplanter Nutzung und ausgereifter Governance so problematisch ist.
Agentische Systeme brauchen deshalb klare Grenzen und Menschen, die diese Grenzen im Alltag im Blick behalten. Verantwortung kann nicht vollständig bei einer zentralen Governance-Stelle liegen, sondern muss dort ankommen, wo die Systeme tatsächlich eingesetzt werden. Für HR und IT heißt das auch, Rollen so zu beschreiben, dass sie im Alltag funktionieren: Wer trägt die fachliche Verantwortung, wer die technische, wer entscheidet im Zweifel und wer hat das Recht, einen agentischen Prozess zu stoppen? Das klingt zunächst selbstverständlich. In der Praxis sind genau diese Fragen jedoch häufig nicht eindeutig beantwortet.
Führungskräfte bekommen eine neue Form der Delegation
Führung bedeutet unter anderem, Aufgaben zu verteilen, Ergebnisse einzuordnen und Verantwortung zu übernehmen. Wenn Teile der Arbeit an Agenten gehen, verschwindet diese Aufgabe nicht – sie verändert sich. Führungskräfte müssen künftig genauer entscheiden, welche Tätigkeiten ein Agent übernehmen kann und welche bewusst beim Menschen bleiben sollten. Sie müssen verstehen, an welchen Stellen Kontrolle notwendig ist und wann Mitarbeitende eingreifen müssen. Dafür muss niemand zum KI-Entwickler werden, ein Grundverständnis der eingesetzten Systeme ist trotzdem nötig.
In einer Befragung durch Prosci von 1.107 Fachkräften sahen 63 Prozent der Organisationen menschliche Faktoren als zentrale Herausforderung bei der Einführung von KI. 43 Prozent der Befragten brachten Probleme bei KI-Einführungen zudem mit mangelnder Unterstützung durch die Führungsebene in Verbindung. Die Zahlen beziehen sich auf KI-Einführungen insgesamt, nicht ausschließlich auf Agentic AI. Gerade deshalb sind sie interessant: Schon bei weniger autonomen KI-Systemen entscheidet die organisatorische Begleitung erheblich darüber mit, ob die Technik im Alltag angenommen wird.
Wer einen Prozess verantwortet, sollte daher wissen, welche Entscheidungen darin automatisiert getroffen werden, auf welcher Grundlage das geschieht und wo Fehlentscheidungen entstehen können. Ohne dieses Wissen lässt sich Verantwortung kaum sinnvoll wahrnehmen. Gleichzeitig verändert sich die Führungsarbeit im Team, denn Mitarbeitende müssen wissen, dass sie Ergebnisse eines Agenten hinterfragen dürfen und sollen. Wer Zweifel hat, darf nicht das Gefühl bekommen, damit den Fortschritt auszubremsen. Gerade dort, wo Systeme zunehmend selbstständig arbeiten, wird gesundes Misstrauen zu einer beruflichen Fähigkeit – und Führung muss genau dafür Raum schaffen.
Weiterbildung muss sich an Rollen orientieren
Viele KI-Einführungen folgen noch immer demselben Muster: Tool auswählen, Zugang bereitstellen, Schulung anbieten, fertig. Bei Agentic AI reicht das nicht, weil unterschiedliche Rollen sehr unterschiedliche Dinge verstehen müssen. Ein Entwickler braucht anderes Wissen als eine Personalerin. Eine Führungskraft, die einen agentischen Prozess verantwortet, muss andere Fragen beantworten können als ein Mitarbeitender, der Ergebnisse kontrolliert. Und jemand, der Zugriffsrechte oder Prozessgrenzen definiert, braucht wiederum ein anderes Kompetenzprofil.
Auch hier lohnt ein Blick auf die Prosci-Daten. Dort werden 38 Prozent der erfassten Herausforderungen bei der KI-Einführung mit unzureichender Schulung im Umgang mit KI-Tools in Verbindung gebracht. Die Schlussfolgerung daraus sollte allerdings nicht lauten, einfach mehr allgemeine KI-Schulungen anzubieten. Entscheidend ist vielmehr, Lernen an der tatsächlichen Rolle und den jeweiligen Aufgaben auszurichten.
Für manche geht es um technische Zusammenhänge, für andere um Datenschutz, Prozesslogik, Entscheidungsgrenzen oder die Frage, wann menschliches Urteil notwendig bleibt. Hinzu kommt etwas, das in vielen Schulungsprogrammen bisher kaum vorkommt: der sichere Umgang mit Unsicherheit. Agenten werden nicht immer exakt so reagieren, wie es ein fest programmiertes System tun würde. Mitarbeitende müssen damit umgehen können, ohne entweder blind zu vertrauen oder jedes Ergebnis grundsätzlich abzulehnen. Für HR liegt die Aufgabe deshalb nicht nur darin, Trainings zu organisieren, sondern veränderte Rollen früh zu erkennen und die dafür nötigen Fähigkeiten aufzubauen.
Der Pilot ist der einfache Teil
Einen Agentic-AI-Piloten aufzusetzen, ist vergleichsweise überschaubar. Schwieriger wird es, wenn aus einem einzelnen Anwendungsfall ein verlässlicher Bestandteil des Unternehmens werden soll. Dann müssen Zuständigkeiten geklärt, Prozesse angepasst, Führungskräfte vorbereitet und Mitarbeitende mitgenommen werden. Und zwar nicht erst, wenn der Pilot erfolgreich war, sondern möglichst vorher. Denn sobald ein Agent produktiv arbeitet, sind Fragen nach Verantwortung, Kontrolle und Eingriffsmöglichkeiten keine Theorie mehr.
Die entscheidenden Fragen gehören deshalb an den Anfang: Wer darf dem Agenten welche Aufgaben übertragen? Wer kontrolliert ihn? Welche Arbeit fällt weg, welche kommt neu hinzu? Welche Fähigkeiten brauchen die Menschen im Prozess? Und wer trägt am Ende die Verantwortung? Das sind keine Randfragen zur Technologie, sondern Voraussetzungen dafür, dass Agentic AI im Arbeitsalltag funktioniert. Dass drei Viertel der von Deloitte befragten Unternehmen Agentic AI binnen zwei Jahren in relevantem Umfang einsetzen wollen, während erst gut jedes fünfte über eine ausgereifte Governance verfügt, bringt den Widerspruch ziemlich gut auf den Punkt.
Unternehmen werden daher vermutlich seltener daran scheitern, dass ihre Systeme zu wenig können, als daran, dass Technik, Rollen und Verantwortlichkeiten unterschiedlich schnell wachsen. Genau dort müssen HR und IT zusammenkommen.
Marina Anderschitz ist Head of Data & AI bei Atos Deutschland. Sie hat langjährige Erfahrung im Bereich Organisational Change Management und KI-Adoption und begleitet Unternehmen bei der strategischen Einführung agentischer Systeme.
