Digitale Mitarbeiter führen: Agenten arbeiten, Menschen entscheiden

Wenn in Ihrem Unternehmen KI-Agenten Aufgaben übernehmen, stellt sich für Geschäftsführung und Führungskräfte eine Frage, die keine technische ist: Wer entscheidet, und wer steht dafür ein? Ein Agent kann Angebote vergleichen, Unterlagen zusammentragen und Vorgänge anstoßen. Verantwortung für die Folgen tragen kann er nicht. Daraus ergibt sich die Arbeitsteilung, um die es in diesem Artikel geht.

Agenten bereiten vor und führen aus, Menschen setzen die Grenzen, entscheiden und stehen für die Folgen ein.

Was mit digitalen Mitarbeitern gemeint ist

Ein digitaler Mitarbeiter ist ein KI-Agent, dem eine feste Aufgabe in einem Ablauf übertragen ist, etwa das Vorsortieren eingehender Anfragen oder das Vorbereiten eines Lieferantenvergleichs. Der Begriff ist ein Bild, keine Rechtsfigur: Der Agent hat keinen Arbeitsvertrag, keine Haftung und kein eigenes Urteil über die Folgen seines Handelns. Was ein Agent technisch ist und wie er sich von einem Assistenten unterscheidet, beschreibt unser Artikel zu den Reifegraden von KI-Systemen.

Das Bild vom Mitarbeiter trägt trotzdem, und zwar an einer Stelle: Auch ein digitaler Mitarbeiter braucht jemanden, der ihm Ziele gibt, seine Arbeit prüft und für sie geradesteht. Er braucht Führung.

Human in the Loop

Ein Ablauf, in dem ein Mensch an festgelegten Punkten prüft und freigibt, bevor das System weitermacht. Für Sie entscheidend ist, wo diese Punkte liegen: vor der Handlung, die sich nicht zurücknehmen lässt, nicht danach.

Human on the Loop

Ein Ablauf, in dem das System selbstständig handelt und ein Mensch die Ergebnisse im Nachgang beobachtet, stichprobenweise prüft und eingreift, wenn etwas schiefläuft. Für Sie heißt das: Diese Form passt nur dort, wo ein Fehler intern bleibt und sich korrigieren lässt.

Wer was übernimmt: Mensch und Agent

Die Grenze verläuft zwischen Vorbereiten und Entscheiden. Ein Agent sichtet in derselben Zeit mehr Unterlagen und rechnet mehr Varianten durch, als ein Mensch schafft, und legt die Optionen nebeneinander. Die Wahl zwischen diesen Optionen hängt an Werten, Zusagen und Zusammenhängen, die in keinem Datensatz stehen.

Was der Agent übernimmt

Entscheidungsgrundlagen vorbereiten, große Mengen an Dokumenten und Daten auswerten, Szenarien durchspielen, Optionen vorschlagen und freigegebene Schritte ausführen.

Was beim Menschen bleibt

Zwischen den Optionen wählen, freigeben oder ablehnen.

Wo genau die Grenze in Ihrem Ablauf liegt, entscheiden drei Fragen. Trifft die Handlung Menschen außerhalb des Systems, etwa Kunden, Bewerber oder Beschäftigte? Lässt sie sich zurücknehmen, wenn sie falsch war? Und braucht sie Ermessen, also eine Abwägung, die sich nicht vorab als Regel aufschreiben lässt? Je mehr dieser Fragen Sie mit Ja beantworten, desto früher im Ablauf gehört eine menschliche Freigabe hin.

Ein Agent, der Rechnungen gegen Bestellungen abgleicht und Abweichungen markiert, braucht wenig Aufsicht: Die Handlung ist intern, umkehrbar und regelbasiert. Ein Agent, der Kunden eine Kulanz zusagt, braucht viel: Die Zusage wirkt nach außen, lässt sich schwer zurücknehmen und verlangt Ermessen.

Wie viel Freiheit ein Agent bekommt

Wie viel ein Agent ohne Rückfrage tun darf, ist eine Führungsentscheidung, die vor dem Einsatz fällt. Die folgenden Arbeitsweisen unterscheiden sich darin, wo der Mensch eingreift. Freigabe vor der Handlung entspricht Human in the Loop, Stichprobe im Nachgang Human on the Loop.

Arbeitsweise	Was der Agent tut	Was der Mensch tut	Passt, wenn
Freigabe vor der Handlung	stoppt vor jedem folgenreichen Schritt und legt einen Vorschlag vor	prüft und gibt frei oder lehnt ab	die Handlung nach außen wirkt oder sich nicht zurücknehmen lässt
Gegenprüfung durch einen zweiten Agenten	ein zweiter Agent prüft die Arbeit des ersten auf Fehler und Regelverstöße	sieht nur, was die Prüfung beanstandet, und entscheidet dort; prüft zusätzlich Stichproben, weil Fehler, die beide Agenten übersehen, sonst niemand sieht	viele gleichartige Vorgänge anfallen und die Prüfregeln sich aufschreiben lassen
Stichprobe im Nachgang	handelt selbstständig innerhalb fester Grenzen	prüft regelmäßig einen Teil der Ergebnisse	Fehler intern bleiben und sich korrigieren lassen
Selbstständig	handelt ohne menschliche Beteiligung	legt Ziel und Grenzen fest und wertet aus, ob sie halten	das Ziel eindeutig ist und ein Fehler wenig kostet

Welche Arbeitsweise passt, entscheidet die Handlung, nicht die Dauer des Einsatzes. Mehr Freiheit bekommt ein Agent erst, wenn sich über Wochen gezeigt hat, dass seine Vorschläge halten und Fehler früh auffallen. Wie Sie das messen, statt es zu schätzen, beschreibt unser Artikel zu Evals für KI-Anwendungen.

Was Führung von digitalen Mitarbeitern heißt

Führung verschiebt sich vom Anleiten einzelner Schritte zum Setzen des Rahmens, in dem ein Agent arbeitet. Vier Aufgaben bleiben dabei beim Menschen:

Ziele und Grenzen setzen

Was der Agent erreichen soll, welche Daten er nutzen darf und welche Handlungen er nie ohne Freigabe ausführt. Was nicht aufgeschrieben ist, gilt für den Agenten nicht.

Vorschläge bewerten

Der Agent liefert Optionen, der Mensch wählt im Zusammenhang dessen, was das System nicht kennt: Zusagen an Kunden, die Lage im Team, die Strategie.

Final entscheiden

Bei allem, was Menschen betrifft oder sich nicht zurücknehmen lässt, liegt die letzte Entscheidung bei einer benannten Person, nicht bei einem Gremium und nicht beim System.

Für die Folgen einstehen

Wer freigibt, verantwortet. Diese Rolle lässt sich nicht an einen Agenten übertragen, auch nicht an einen, der zuverlässig arbeitet.

Eine Gefahr liegt in der Arbeitsteilung selbst. Wer nur noch aus vorbereiteten Optionen wählt, sieht nicht mehr, was der Agent weggelassen hat. Und bei hundert Freigaben am Tag kann das Prüfen in ein bloßes Bestätigen übergehen. Eine Freigabe ist nur so viel wert wie das Fachwissen und die Zeit, die hinter ihr stehen. Wer Freigabepunkte einrichtet, plant deshalb auch, wie viele Vorgänge eine Person wirklich prüfen kann.

Was sich für Ihr Team ändert

Wer bisher Vorbereitung erledigt hat, prüft künftig die Vorbereitung eines Agenten. Das ist eine Führungsaufgabe, keine Folge, die sich von selbst regelt.

Rolle und Sinn

Aus dem Vergleichen von Angeboten wird das Prüfen der Vergleiche eines Agenten. Das ist anspruchsvoller, nicht einfacher, und es braucht eine klare Aussage, was diese Rolle im Team wert ist.

Kompetenz zum Prüfen

Prüfen kann nur, wer die Aufgabe selbst beherrscht. Fachwissen wird nicht überflüssig, wenn ein Agent die Routine übernimmt; es wird zur Voraussetzung dafür, seine Fehler zu erkennen.

Vertrauen nach außen

Dass Kunden mit einem System sprechen, muss ihnen bei einem dafür bestimmten Agenten seit dem 2. August 2026 erkennbar sein, sofern es nicht offensichtlich ist; die Pflicht trifft den Anbieter (Art. 50 Abs. 1, siehe unten). Offen bleibt die zweite Frage: wer hinter einer Zusage des Agenten steht. Sie gehört vor den Einsatz, nicht in die erste Reklamation.

Mit der Zahl der Agenten wächst auch die Zahl der Stellen, die jemand im Blick behalten muss. Wer mit einem Ablauf beginnt und erst den zweiten angeht, wenn der erste ohne ständiges Nachsteuern läuft, hält die Zahl der Stellen klein, die jemand gleichzeitig beaufsichtigen muss.

Menschliche Aufsicht im EU AI Act

Für einen Agenten, der kein Hochrisiko-System ist, schreibt die europäische KI-Verordnung (EU AI Act) keine bestimmte Form der Freigabe vor. Sie verlangt unter anderem Maßnahmen zur KI-Kompetenz des Personals und, als Pflicht des Anbieters, einen Hinweis an Menschen, die mit einem dafür bestimmten KI-System interagieren. Für Hochrisiko-Systeme nach Anhang III verlangt sie ab dem 2. Dezember 2027 zusätzlich eine menschliche Aufsicht durch Personen mit Kompetenz, Ausbildung und Befugnis. Ein Agent, der Beschäftigten Aufgaben aufgrund ihres individuellen Verhaltens oder persönlicher Merkmale zuweist oder ihre Leistung und ihr Verhalten beobachtet und bewertet, kann in diese Gruppe fallen. Unabhängig von der KI-Verordnung bestimmt ein Betriebsrat, soweit keine gesetzliche oder tarifliche Regelung besteht, mit, wenn technische Einrichtungen eingeführt oder angewendet werden, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG).

Was die KI-Verordnung zur Aufsicht über Agenten sagt

KI-Kompetenz: Seit dem 2. Februar 2025 müssen Anbieter und Unternehmen, die KI-Systeme einsetzen (Betreiber), Maßnahmen zur KI-Kompetenz ihres Personals ergreifen. Seit dem 27. Juli 2026 gilt eine neue Fassung: Die Maßnahmen sollen die Entwicklung der KI-Kompetenz des Personals und anderer in ihrem Auftrag tätiger Personen unterstützen; ein bestimmtes Kompetenzniveau müssen sie für niemanden garantieren (Art. 4 Abs. 1).

Transparenz: Seit dem 2. August 2026 müssen Anbieter von Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, dafür sorgen, dass diese Menschen informiert werden, dass sie mit einem KI-System interagieren, außer es ist für eine verständige Person nach den Umständen offensichtlich (Art. 50 Abs. 1). Anbieter sind Sie auch dann, wenn Sie einen Agenten für Kundengespräche entwickeln lassen und unter eigenem Namen in Betrieb nehmen (Art. 3 Nr. 3).

Verbot: KI-Systeme, die am Arbeitsplatz aus biometrischen Daten wie Gesicht, Stimme oder Tippverhalten Emotionen einer natürlichen Person ableiten, sind seit dem 2. Februar 2025 verboten, außer sie werden aus medizinischen Gründen oder Sicherheitsgründen eingeführt (Art. 5 Abs. 1 Buchst. f in Verbindung mit Art. 3 Nr. 39). Ein Agent, der nur geschriebene Texte auswertet, fällt nach den Leitlinien der Kommission nicht unter das Verbot (Rn. 250 und 251); die Leitlinien sind eine Auslegungshilfe, kein Gesetz.

Hochrisiko: Ein Agent, der bestimmungsgemäß Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften von Beschäftigten zuweist oder deren Leistung und Verhalten beobachtet und bewertet, fällt unter Anhang III Nr. 4 Buchst. b und gilt damit als Hochrisiko-System (Art. 6 Abs. 2). Eine Ausnahme ist möglich, wenn er kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil er nur eine eng gefasste Verfahrensaufgabe erledigt (Art. 6 Abs. 3). Nimmt er ein Profiling vor, wertet er also personenbezogene Daten automatisiert aus, um persönliche Aspekte eines Menschen zu bewerten, gilt er immer als hochriskant (Art. 6 Abs. 3 Unterabs. 3). Bei einem Agenten, der Leistung oder Verhalten von Beschäftigten bewertet, liegt das nahe: Die Begriffsbestimmung des Profiling nennt ausdrücklich die Analyse oder Vorhersage von Arbeitsleistung und Verhalten (Art. 3 Nr. 52 KI-VO i. V. m. Art. 4 Nr. 4 DSGVO). Wer einen solchen Agenten selbst baut oder ein allgemeines KI-Werkzeug gezielt für diesen Zweck einrichtet, wird dabei selbst zum Anbieter eines Hochrisiko-Systems, mit dessen Pflichten (Art. 3 Nr. 3, Art. 25 Abs. 1 Buchst. c).

Betreiber müssen die menschliche Aufsicht dann natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Art. 26 Abs. 2), und als Arbeitgeber vor der Inbetriebnahme oder Verwendung am Arbeitsplatz die Arbeitnehmervertreter und die betroffenen Beschäftigten informieren (Art. 26 Abs. 7). Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c Ziff. i); für ein System, das vorher in Verkehr gebracht oder in Betrieb genommen wurde, nur, wenn es danach in seiner Konzeption erheblich verändert wird (Art. 111 Abs. 2).

Rechtsstand aller Rechtsaussagen in diesem Artikel: VO (EU) 2024/1689 in der Fassung der VO (EU) 2026/1744, VO (EU) 2016/679 (DSGVO) und § 87 BetrVG, geprüft am 14. Oktober 2026. Dieser Hinweis ersetzt keine Rechtsberatung.

Die Formel aus Art. 26 Abs. 2 taugt auch dort als Maßstab, wo sie nicht vorgeschrieben ist. Aufsicht braucht Kompetenz, um Fehler zu erkennen, und Befugnis, um einen Agenten anzuhalten. Wer prüfen soll, aber nichts stoppen darf, beaufsichtigt nicht, sondern dokumentiert. Ob ein konkretes System unter die Hochrisiko-Regeln fällt, hängt an seiner Zweckbestimmung und lässt sich nur am einzelnen System beurteilen; das klären wir in einer Beratung.

Wo Sie anfangen

Für den Anfang eignet sich ein Ablauf, den eine neue Kollegin allein anhand seiner schriftlichen Beschreibung ohne Rückfrage erledigen könnte und der oft genug anfällt, dass sich die Einrichtung lohnt. Was sich so nicht beschreiben lässt, erledigt auch kein Agent verlässlich; wie aus einem Ablauf eine solche Beschreibung wird, zeigt unser Artikel zu operativen Schulden.

Für diesen Ablauf benennen Sie vor dem Einsatz eine Person, die für den Agenten zuständig ist und ihn anhalten darf. Erst danach stellt sich die Frage, welches Werkzeug den Agenten baut.

Welche Abläufe sich in Ihrem Unternehmen für einen ersten digitalen Mitarbeiter eignen und wo die Freigabe liegen sollte, klären wir in einer Beratung. Schulungen zur KI-Kompetenz für Ihre Mitarbeitenden bieten wir in unseren Workshops an.