KI-Agenten im Unternehmen: Wo sie helfen – und wo nicht.

01 /Zuerst die Aufgabe und ihre Anforderungen klären

Eine klassische Automatisierung folgt einem vorgegebenen Weg: Wenn eine bezahlte Rechnung eingeht, hängt sie diese an den passenden Auftrag und schließt die Aufgabe. Ein Agent erhält ein Ziel und einen begrenzten Satz Werkzeuge und wählt einige Schritte selbst: eine ungewöhnliche Anfrage lesen, den relevanten Datensatz finden, fehlende Angaben erfragen oder eine Antwort vorbereiten.

Lassen sich die Schritte und Ausnahmen vollständig beschreiben, ist ein fester Ablauf meist günstiger, schneller und leichter zu testen. Ein Agent kommt für den Teil infrage, der unterschiedlich formulierte oder unvollständige Eingaben verarbeiten muss.

Vor der Modellwahl lohnt sich die Frage, wann regelbasierte Prozessautomatisierung sinnvoll ist.

02 /Welche Aufgaben sich für einen ersten Versuch eignen

Gute Kandidaten kommen als uneinheitlicher Text oder als Dokument herein, enden aber in einem engen, prüfbaren Ergebnis. Dazu gehören eingehende Anfragen in eine bestehende Warteschlange einzuordnen, vor der Antwort einer Kollegin die passende Richtlinie zu finden, ein Lieferantendokument mit der Bestellung abzugleichen oder einen Entwurf vorzubereiten, den ohnehin jemand prüft.

Die Aufgabe sollte häufig genug vorkommen, um Ergebnisse vergleichen zu können, und eine kurze Verzögerung vertragen. Sammle Beispiele korrekt bearbeiteter Fälle und lege fest, wann der Agent die Arbeit an einen Menschen übergibt: etwa bei widersprüchlichen Belegen, fehlenden Angaben oder unsicherer Zuordnung.

• Eine Person kann das Ergebnis schnell prüfen, ohne die gesamte Arbeit zu wiederholen.
• Die vorhandenen Unterlagen enthalten genug Belege für die Entscheidung.
• Ein Fehler lässt sich erkennen und korrigieren, bevor er Zahlungen, Zugriffsrechte oder Zusagen an Kunden beeinflusst.
• Die Werkzeuge erlauben genau die benötigten Aktionen und keinen allgemeinen Vollzugriff.
• Es gibt genug echte Beispiele – auch schwierige – für Tests vor dem Start.

Wie sich bestehende Programme anbinden lassen, erklärt der Leitfaden Bots, Chatbots und RPA im Unternehmen.

03 /Konkretes Beispiel: Ein gemeinsames Postfach vorsortieren

Nehmen wir ein fiktives Wartungsunternehmen mit einem Postfach für Störungen, Angebotsanfragen und Lieferantennachrichten. Heute liest eine Koordinatorin jede E-Mail, sucht den Kunden im Auftragssystem, legt eine Aufgabe an und leitet Dringendes weiter. Der nützliche Agent „übernimmt“ nicht den Kundendienst. Er liest einige Felder aus, sucht genau einen Kunden, schlägt Kategorie und Dringlichkeit vor und bereitet eine Aufgabe zur Prüfung vor.

Der feste Ablauf prüft weiterhin Pflichtfelder, schreibt die freigegebene Aufgabe und verschickt die Standardbestätigung. Eine Person genehmigt dringende Fälle und alles, was der Agent nicht zuordnen kann. So übernimmt das Modell das flexible Lesen, während Kundenversprechen und Datenbankänderungen deterministisch bleiben.

Der Pilot lässt sich an den Nachrichten eines vergangenen Monats messen: richtige Kategorie, richtige Kundenzuordnung, übersehene Notfälle, unnötige Übergaben und Prüfzeit. „Die Antworten sehen gut aus“ ist kein Freigabekriterium.

04 /Was vorhersehbar bleiben sollte

Lass ein Modell keinen Preis berechnen, für den es bereits eine Formel gibt, keine Berechtigung bestimmen, für die eine Richtlinie existiert, und kein Geld bewegen, weil eine Nachricht überzeugend klingt. Exakte Berechnungen, Zugriffskontrolle, gesetzliche Aufbewahrung, Bestandsbuchungen und endgültige Zahlungen gehören in Code und ausdrückliche Regeln. Der Agent darf Belege sammeln oder eine Ausnahme erklären; das System setzt die Grenze durch.

Dasselbe gilt, wenn die Antwort kaum zuverlässig beurteilt werden kann. Ein flüssiger Absatz kann eine schwache Entscheidung verbergen. Muss die prüfende Person jeden Fall von Grund auf recherchieren, spart der Agent wenig und schafft womöglich unverdientes Vertrauen.

05 /Die menschliche Prüfung von Anfang an planen

Lege vor der Umsetzung fest, was die prüfende Person sieht: Ursprungsmaterial, vorgeschlagene Aktion, verwendete Belege und Änderungen. Freigabe und Korrektur müssen verständlich und im Arbeitsalltag praktikabel sein.

Bestimme Auslöser, die immer geprüft werden – hohe Beträge, neue Kunden, sensible Daten oder widersprüchliche Dokumente. Gewöhnliche Fälle mit geringen Folgen dürfen erst automatisch weiterlaufen, wenn die gemessene Fehlerquote das rechtfertigt. Bewahre Eingabe und Prüfspur auf, damit eine Entscheidung später nachvollziehbar bleibt.

Der KI-Risikoleitfaden des NIST behandelt Steuerung, Tests, Beobachtung und klar zugewiesene menschliche Rollen als laufende Aufgabe, nicht als einmalige Checkliste vor dem Start. In einem KMU darf die Umsetzung schlank sein; die Verantwortlichen brauchen trotzdem Namen.

06 /Einen begrenzten Pilotversuch mit klaren Prüfkriterien planen

Wähle einen Eingangskanal, eine Fallart und ein Ergebnis. Teste den Agenten zunächst mit vergangenen Beispielen und anschließend parallel zum bestehenden Ablauf, ohne dass er selbst Änderungen vornimmt. Erfasse richtige Ergebnisse, Übergaben, Kosten und Prüfzeit. Beziehe auch schwierige Fälle ein.

Lege vor dem Versuch die Anforderungen fest, etwa keine übersehenen Notfälle im Testbestand, eine kürzere Prüfzeit und eine Kostengrenze pro Fall. Werden sie nicht erfüllt, grenze die Aufgabe weiter ein oder prüfe einen regelbasierten Ansatz. Auch die Entscheidung gegen einen Agenten ist ein verwertbares Testergebnis.

Bei der Planung des Tests hilft der Vergleich: Was Demo, Prototyp und MVP jeweils zeigen können.

07 /Begrenze, was der Agent sehen und tun darf

Gib dem Agenten Werkzeuge für genau einen Zweck: eine Bestellung lesen, eine Aufgabe entwerfen, eine Änderung vorschlagen. Übergib ihm keinen allgemeinen Datenbankzugang und keine unbeschränkte Browser-Sitzung. Prüfe jedes Werkzeugargument in normalem Code, begrenze Wiederholungen und Ausgaben und verlange eine Freigabe für unumkehrbare Aktionen.

Behandle eingehende Dokumente, Webseiten und E-Mails als nicht vertrauenswürdige Daten. Sie können Anweisungen enthalten, die sich an das Modell richten statt an den Geschäftsprozess. Trenne diesen Inhalt von Systemanweisungen, beschränke Werkzeugrechte und protokolliere Aufrufe und Ergebnisse. OWASP bezeichnet zu viele Funktionen, Rechte oder Autonomie als „Excessive Agency“ – ein zentrales Risiko agentischer Systeme.

Plane zuletzt Veränderungen ein. Modelle, Anweisungen und Quelldokumente entwickeln sich weiter. Bewahre einen kleinen Regressionstest mit echten Fällen auf, führe ihn vor Änderungen erneut aus und beobachte die Ergebnisse in Produktion, statt die Trefferquote von gestern für dauerhaft zu halten.

Wie leistungsfähigere Modelle diese Arbeit verändern, erklärt KI-Hacking-Agenten: belegte Fortschritte und Grenzen.