KI-Agenten scheitern im Betriebsalltag, wenn ihnen operativer Kontext, angebundene Systeme und ein überprüfbarer Ausführungsnachweis fehlen. Ein leistungsfähiges Modell kann überzeugende Antworten liefern. Zuverlässige Arbeit erfordert jedoch auch klare Verfahren, Zugriff auf die richtigen Anwendungen, Genehmigungsregeln und Belege dafür, dass das gewünschte Ergebnis tatsächlich eingetreten ist.
Wenn Ihre Agenten-Demos vielversprechend aussehen, Ihre Pilotprojekte aber weiterhin ständige Aufsicht benötigen, liegt das Problem möglicherweise nicht an der Denkfähigkeit des Agenten. Entscheidend könnte vielmehr sein, ob Ihr Unternehmen ihm die Regeln für die Ausführung zugänglich gemacht hat. Die folgenden drei fiktiven Beispiele zeigen, wo diese Lücke entsteht und was Sie zuerst beheben sollten.
Warum geraten KI-Agenten ohne operativen Kontext ins Stocken?
Pilotprojekte mit KI-Agenten geraten nach der Demo ins Stocken, weil ein Prompt selten alle Regeln, Zuständigkeiten und Ausnahmen enthält, von denen die tatsächliche Arbeit abhängt. Operativer Kontext umfasst die Informationen über Verfahren, Rollen, Systeme und Geschäftsregeln, die für eine korrekte Ausführung erforderlich sind.
Eine Demo beginnt meist mit einer eindeutigen Anfrage, brauchbaren Daten und einer reibungslosen Abfolge von Schritten. Im Betriebsalltag gibt es dagegen unvollständige Angaben, widersprüchliche Datensätze, nicht verfügbare Genehmigungsverantwortliche und kundenspezifische Zusagen.
Das Modell kann die Anfrage verstehen, ohne zu wissen, was Ihr Unternehmen als akzeptables Ergebnis betrachtet. Das sind zwei unterschiedliche Fähigkeiten.
Ein Prompt beschreibt ein Ziel, nicht das gesamte Verfahren
„Führe das Onboarding für diesen Kunden durch“ klingt konkret, bis Sie hinterfragen, was Onboarding genau bedeutet:
Muss ein unterzeichneter Vertrag vorliegen, bevor Zugriff gewährt wird?
Wer darf ein vom Standard abweichendes Leistungspaket genehmigen?
Welche Informationen müssen vom Kunden stammen, statt auf internen Annahmen zu beruhen?
Was passiert, wenn Zahlungsdaten fehlen?
Wer übernimmt die Verantwortung, wenn die Arbeit an das für die Leistungserbringung zuständige Team übergeht?
Eine Standardarbeitsanweisung, kurz SOP, legt fest, wie eine wiederkehrende Tätigkeit auszuführen ist. Ein Agent benötigt das relevante Verfahren und die aktuellen Informationen zum Vorgang, nicht nur eine allgemeine Anweisung, das Ziel zu erreichen.
Fiktives Beispiel: die Abkürzung beim Onboarding
Stellen Sie sich eine fiktive Unternehmensberatung vor, die einen Agenten beauftragt, einen neuen Kunden auf den Projektauftakt vorzubereiten. Der Agent legt ein Projekt an, entwirft eine Willkommensnachricht und markiert das Onboarding als abgeschlossen.
Die Beratung verlangt jedoch vor dem Projektauftakt eine Prüfung auf Interessenkonflikte und die Genehmigung durch einen Partner. Diese Anforderungen existieren nur im Gedächtnis eines erfahrenen Beraters, nicht in den Anweisungen, auf die der Agent zugreifen kann.
Der Agent hat die sichtbaren Aufgaben erledigt und dabei den tatsächlichen Prozess verletzt. Ein leistungsfähigeres Modell würde möglicherweise bessere Fragen stellen. Es kann aber keine Geschäftsregel zuverlässig durchsetzen, die ihm nie mitgeteilt wurde.
Ausnahmen und Übergaben gehören zum Kontext
Eine Ausnahme ist ein Fall, der nicht dem normalen Prozess folgen kann, weil erforderliche Voraussetzungen fehlen oder abweichen. Agenten müssen wissen, wann sie anhalten sollen, welche Informationen sie sichern müssen und wer entscheiden darf, wie es weitergeht.
Eine Übergabe überträgt Arbeit und Verantwortung an eine andere Person oder einen anderen Agenten. Einen Empfänger zu benennen reicht nicht aus: Dieser benötigt auch den aktuellen Status, offene Probleme und Nachweise aus den bisherigen Arbeitsschritten.
Ihr Verfahren sollte sowohl den regulären Ablauf als auch die Grenzen festlegen, jenseits derer der Agent nicht improvisieren darf. Wie diese Übergabe gestaltet werden kann, erfahren Sie im Beitrag über zuverlässige Übergaben zwischen Menschen und KI.
Warum scheitert Automatisierung ohne angebundene Systeme?
Ein KI-Agent kann betriebliche Aufgaben nicht zuverlässig abschließen, wenn er die Systeme, in denen diese Arbeit stattfindet, weder auslesen noch aktualisieren kann. Zu wissen, was zu tun ist, ist etwas anderes, als über die nötigen Zugriffsrechte, relevanten Daten und Bestätigungen für die Ausführung zu verfügen.
Ein Modell kann eine hervorragende Zahlungserinnerung entwerfen, ohne zu wissen, ob die Rechnung heute Morgen bezahlt wurde. Es kann eine erfolgreiche Kontoaktualisierung beschreiben, ohne das Konto tatsächlich geändert zu haben.
Dadurch entsteht eine Lücke zwischen generierter Ausgabe und tatsächlichem Geschäftszustand: den Fakten, die aktuell in Ihren Anwendungen hinterlegt sind.
Fiktives Beispiel: die unnötige Zahlungserinnerung
Stellen Sie sich einen fiktiven Buchhaltungsdienstleister vor, der einen Agenten für die Nachverfolgung überfälliger Rechnungen testet. Der Agent erhält die Tabelle von gestern und entwirft Erinnerungen für jede Rechnung, die als unbezahlt markiert ist.
Ein Kunde hat inzwischen bezahlt, doch der Agent hat keinen Zugriff auf den aktuellen Buchhaltungsdatensatz. Eine andere Rechnung ist laut einer Nachricht im gemeinsamen Postfach strittig. Auch dieses Postfach kann der Agent nicht lesen.
Das Verfassen der Nachrichten gelingt, der Forderungsprozess scheitert jedoch. Der Versand würde vermeidbare Irritationen bei Kunden verursachen, weil der Agent auf Grundlage eines unvollständigen Bildes handelt.
Eine Integration ist notwendig, reicht aber nicht aus
Eine Integration ist eine Verbindung, über die Softwaresysteme Daten austauschen oder Aktionen ausführen können. Die Anbindung einer Anwendung klärt nicht automatisch, welcher Datensatz maßgeblich ist, welche Felder relevant sind oder was der Agent ändern darf.
Für jede Aktion brauchen Sie klare Antworten auf vier Fragen:
Wo liegt der maßgebliche aktuelle Stand? Legen Sie die verbindliche Quelle für Zahlungsstatus, Kontaktdaten oder Genehmigungsstatus fest.
Welcher Datensatz ist gemeint? Verwenden Sie eine stabile Kennung, statt anzunehmen, dass zwei ähnliche Namen denselben Kunden bezeichnen.
Welcher Zugriff ist erlaubt? Unterscheiden Sie zwischen dem Lesen von Informationen, dem Ändern von Datensätzen und dem Versenden von Nachrichten.
Wie wird der Abschluss bestätigt? Unterscheiden Sie eine angeforderte Aktion von einer bestätigten Änderung im Zielsystem.
Die Zugriffsrechte sollten sich am Umfang der Aufgabe orientieren. Ein Agent, der Zahlungserinnerungen vorbereitet, muss möglicherweise Rechnungen lesen und Nachrichten entwerfen können. Er benötigt aber nicht zwangsläufig die Berechtigung, Bankdaten zu ändern oder Erstattungen auszulösen.
Schlägt ein Schreibvorgang fehl oder ist sein Ergebnis unklar, sollte der Agent diese Unsicherheit melden, statt Erfolg zu verkünden. Der Prozess braucht außerdem eine Regel, um vor einem erneuten Versuch zu prüfen, ob die Aktion bereits ausgeführt wurde.
Warum ist eine nicht nachvollziehbare Ausführung ein operatives Versagen?
Eine Ausführung ist aus betrieblicher Sicht unvollständig, wenn sich nicht feststellen lässt, was geschehen ist, wer es autorisiert hat und ob das gewünschte Ergebnis eingetreten ist. Ein Audit Trail ist eine aufgezeichnete Historie von Aktionen und Entscheidungen, die sich später überprüfen lässt.
Ein Chatprotokoll kann zeigen, was ein Agent angekündigt hat. Das ist jedoch nicht unbedingt ein Nachweis für die tatsächlich in einer externen Anwendung ausgeführte Aktion, die erteilte Genehmigung oder das Endergebnis.
Fiktives Beispiel: die nicht nachvollziehbare Erstattung
Stellen Sie sich ein fiktives Supportteam im E-Commerce vor, das einen Agenten für Erstattungsanfragen testet. Ein Kunde erhält eine Erstattung, und der Agent schreibt „erledigt“ in einen Teamchat.
Später fragt die operative Leitung, welche Richtlinie angewendet wurde und ob die zuständige Führungskraft die Ausnahme genehmigt hat. Im Chat finden sich weder die Genehmigungsentscheidung noch ein Link zur Zahlungstransaktion.
Die Erstattung war möglicherweise korrekt, doch das Team kann nicht nachweisen, dass es seine eigenen Regeln eingehalten hat. Es muss den Vorgang anhand von Nachrichten, Bestelldaten und Zahlungshistorie rekonstruieren.
Genehmigungen müssen Aktionen steuern, nicht nur beschreiben
Eine Genehmigungsschranke ist eine Kontrolle, die bestimmte Arbeiten blockiert, bis eine autorisierte Entscheidung dokumentiert wurde. „Zuerst eine Führungskraft fragen“ in einen Prompt zu schreiben, ist weniger wirksam, als die Aktion bis zum Vorliegen der Genehmigung zu sperren.
Die Genehmigung sollte die vorgeschlagene Aktion, den zugehörigen Vorgang, die entscheidende Person und die Entscheidung benennen. Ändern sich Betrag, Empfänger oder Umfang danach wesentlich, darf die frühere Genehmigung nicht als pauschale Erlaubnis gelten.
Nicht jede Aktion braucht eine solche Schranke. Einen Datensatz zu lesen, eine interne Zusammenfassung vorzubereiten und Geld zu überweisen hat jeweils andere Folgen. Richten Sie Genehmigungsanforderungen nach den Auswirkungen, der Umkehrbarkeit und den Verpflichtungen Ihres Unternehmens aus.
Nachweise müssen über das Gespräch hinaus erhalten bleiben
Bewahren Sie bei folgenreichen Aufgaben die Verknüpfung zwischen folgenden Elementen auf:
Dem Vorgang und dem angewendeten Verfahren.
Den für die Entscheidung verwendeten Eingaben.
Der Person oder dem Agenten, die oder der für die Aktion verantwortlich ist.
Der Entscheidung über Genehmigung, Ablehnung oder Ausnahme.
Der externen Aktion und ihrem bestätigten Ergebnis.
Allen ungelösten Problemen, die an eine Person übergeben wurden.
Diese Aufzeichnungen unterstützen Rechenschaftspflicht und Fehlerdiagnose. Sie beweisen für sich genommen jedoch weder, dass die zugrunde liegende Entscheidung korrekt war, noch, dass sämtliche regulatorischen Anforderungen erfüllt wurden.
Eine vertiefende Betrachtung der Nachvollziehbarkeit von Aktionen über einen gesamten Workflow hinweg finden Sie im Beitrag zur betrieblichen Observability für KI-gesteuerte Workflows.
Was sollten Sie klären, bevor Sie einem KI-Agenten echte Aufgaben übertragen?
Dokumentieren Sie zuerst das Verfahren, binden Sie anschließend die benötigten Systeme an und ergänzen Sie verbindlich durchgesetzte Genehmigungen sowie einen Audit Trail, bevor Sie folgenreiche Aktionen zulassen. Diese Reihenfolge macht fehlende Geschäftsregeln sichtbar, bevor daraus schneller ausgeführte Fehler werden.
Das sind aufeinander aufbauende Voraussetzungen, keine drei isolierten Technologieprojekte. Das Verfahren legt fest, welche Zugriffe benötigt werden. Die Genehmigungsregeln bestimmen wiederum, welche Aktionen diese Zugriffe erlauben dürfen.
Schwachstelle | Zugrunde liegende Lücke | Erster Lösungsansatz | Nachweis der Wirksamkeit |
|---|---|---|---|
Fehlender operativer Kontext | Der Agent muss Ihre Geschäftsregeln selbst erschließen | Schritte, erforderliche Eingaben, Abbruchbedingungen und Verantwortlichkeiten festlegen | Eine prüfende Person kann ein akzeptables von einem inakzeptablen Ergebnis unterscheiden |
Nicht angebundene Systeme | Der Agent sieht veraltete Daten oder kann die Aktion nicht ausführen | Maßgebliche Datenquellen mit begrenzten Berechtigungen anbinden | Der Datensatz im Zielsystem bestätigt die beabsichtigte Änderung |
Nicht nachvollziehbare Ausführung | Entscheidungen und Ergebnisse lassen sich nicht rekonstruieren | Genehmigungen durchsetzen und Aktionen im Kontext dokumentieren | Eine prüfende Person kann den Vorgang von der Anfrage bis zum bestätigten Ergebnis nachvollziehen |
1. Beschreiben Sie das Verfahren so klar, dass es sich kritisch prüfen lässt
Beginnen Sie mit einem klar abgegrenzten Ergebnis, etwa der Vorbereitung einer Zahlungserinnerung zur Prüfung, statt mit „Forderungsmanagement übernehmen“. Definieren Sie, welche Voraussetzungen vor Arbeitsbeginn und welche Bedingungen vorliegen müssen, bevor die Arbeit als abgeschlossen gelten kann.
Bitten Sie eine erfahrene Fachkraft, Fälle zu benennen, in denen der naheliegende Weg falsch wäre. Diese Fälle machen implizite Ermessensentscheidungen, fehlende Informationen und Genehmigungsanforderungen sichtbar.
Sie müssen nicht zuerst das gesamte Unternehmen dokumentieren. Sie brauchen aber ein ausreichend klares Verfahren für die Arbeit, die Sie delegieren möchten. Der Leitfaden zur Prozessdokumentation für die Ausführung zeigt, wie Sie Anweisungen nutzbar machen, ohne daraus ein reines Dokumentenarchiv zu schaffen.
2. Binden Sie nur an, was das Verfahren erfordert
Ordnen Sie jedem Schritt seine Datenquelle und sein Zielsystem zu. Legen Sie fest, welche Quelle bei widersprüchlichen Datensätzen Vorrang hat und wer für die Klärung von Unklarheiten verantwortlich ist.
Beginnen Sie mit eng begrenzten Berechtigungen. Wenn der Agent bereits durch das Lesen von Datensätzen und das Vorschlagen von Änderungen einen Mehrwert liefert, belassen Sie es dabei, bis es einen konkreten Grund gibt, die Ausführung zu erlauben.
3. Sichern Sie folgenreiche Aktionen mit Kontrollen und Nachweisen ab
Bestimmen Sie den Punkt, an dem aus Vorbereitung eine verbindliche Handlung wird: das Versenden einer Kundennachricht, das Veröffentlichen einer Kampagne, das Ändern eines Kontos oder das Autorisieren einer Zahlung. Platzieren Sie die passende Kontrolle vor diesem Punkt, nicht danach.
Erfassen Sie genügend Nachweise, um das Ergebnis erklären zu können, ohne sachfremde sensible Informationen zu sammeln. Ordnen Sie Fehler anschließend nach Kategorien ein: fehlende Regel, nicht verfügbare Daten, verweigerter Zugriff, fehlerhafte Schlussfolgerung oder fehlgeschlagene Aktion.
Diese Unterscheidung ist wichtig. Ein besseres Modell kann bei fehlerhaften Schlussfolgerungen helfen. Es repariert aber keine abgelaufenen Zugangsdaten und liefert keine undokumentierte Genehmigungsrichtlinie nach.
Wann passt OKiDO, und wann ist ein anderes Tool besser?
OKiDO passt, wenn Sie wiederkehrende Verfahren, Geschäftssysteme und menschliche Aufsicht in einer gemeinsamen, kontrollierten Ausführungsebene verbinden möchten. Als KI-Operationsplattform stellt es Menschen und Agenten gemeinsamen operativen Kontext, Ausführungskontrollen und eine überprüfbare Dokumentation der Arbeit bereit.
Für verfahrensbasierte Arbeit macht OKiDO aus SOP-Vorlagen laufende Ausführungen, sogenannte RUNs. Schritte können Verantwortliche, Anweisungen, strukturierte Eingaben und Genehmigungsschranken enthalten. Nachfolgende Arbeiten bleiben gesperrt, bis die erforderliche Genehmigung dokumentiert ist.
Ein KI-Agent, dem ein SOP-Schritt zugewiesen wird, erhält neben den Anweisungen auch den Prozesskontext, verknüpfte Dokumente, umliegende Schritte und RUN-Variablen. Die Plattform unterstützt Anbindungen an mehr als 400 Anwendungen, mit zweckgebundenen Zugangsdaten und Protokollierung externer Aktionen.
Aktionen außerhalb von OKiDO, etwa das Versenden von E-Mails oder das Schreiben in eine angebundene Anwendung, benötigen standardmäßig die Genehmigung einer Person. Administratoren können für einen bestimmten Agenten festlegen, dass einzelne Schreibwerkzeuge angebundener Anwendungen ohne Genehmigung ausgeführt werden dürfen. So lässt sich die Grenze bewusst anpassen, statt sie unausgesprochen zu lassen.
Das eignet sich für prozessintensive Dienstleistungsunternehmen, in denen Onboarding, Leistungserbringung, Prüfungen und wiederkehrende Abläufe mehrere Personen und Systeme einbeziehen. Die Verantwortung, das richtige Verfahren festzulegen und akzeptable Risiken zu bestimmen, bleibt bei Ihnen.
Wenn Sie nur Antworten aus Dokumenten benötigen, kann ein Wissensassistent ausreichen. Für einen eng umrissenen, deterministischen Datentransfer zwischen Anwendungen ist möglicherweise ein Automatisierungstool die bessere Wahl. Belassen Sie Buchhaltung, Kundendaten und spezialisierte Transaktionsaufgaben in den dafür vorgesehenen Systemen, statt OKiDO als deren Ersatz zu betrachten.
Entdecken Sie die KI-Agenten von OKiDO und erfahren Sie, wie Agenten innerhalb von Verfahren, Berechtigungen und Genehmigungskontrollen arbeiten können, statt sich allein auf Prompts zu stützen.
Häufig gestellte Fragen
Ein zuverlässiger Einsatz von Agenten erfordert mehr als ein leistungsfähigeres Modell: Sie brauchen angemessene Aufgabengrenzen, Kontrollen und klare menschliche Verantwortlichkeiten.
Wird ein leistungsfähigeres KI-Modell diese Probleme lösen?
Ein leistungsfähigeres Modell kann die Interpretation, Planung und den Umgang mit mehrdeutiger Sprache verbessern. Es kann aber weder den Zugriff auf aktuelle Datensätze garantieren noch eine nicht vorhandene Genehmigungsschranke durchsetzen oder eine Geschäftsregel rekonstruieren, die niemand dokumentiert hat. Ermitteln Sie zuerst, welche betriebliche Voraussetzung fehlt, bevor Sie jeden Fehler als Modellproblem behandeln.
Sollten Sie statt eines KI-Agenten deterministische Automatisierung einsetzen?
Deterministische Automatisierung folgt vordefinierten Regeln und ist oft die bessere Wahl, wenn Eingaben und Entscheidungen vorhersehbar sind. Ein Agent ist hilfreicher, wenn die Arbeit die Interpretation unterschiedlicher Informationen oder die Vorbereitung eines begründeten Vorschlags erfordert. Ein Workflow kann beides kombinieren, wobei Menschen für folgenreiche Ermessensentscheidungen verantwortlich bleiben.
Welche erste Aufgabe ist für einen Agenten sinnvoll und möglichst sicher?
Wählen Sie eine klar abgegrenzte Aufgabe, deren Ergebnis ein Mensch prüfen kann, bevor es Auswirkungen auf einen Kunden oder ein externes System hat. Eine interne Zusammenfassung oder ein Antwortvorschlag auf Basis freigegebener Quellen kann Kontextlücken aufdecken, ohne das Unternehmen sofort festzulegen. Geringe Auswirkungen bedeuten nicht, dass keine Kontrollen nötig sind: Der Datenzugriff muss weiterhin angemessen begrenzt sein.
Wer sollte für die operative Leistung eines KI-Agenten verantwortlich sein?
Die prozessverantwortliche Person sollte weiterhin dafür rechenschaftspflichtig sein, dass die delegierte Arbeit die betrieblichen Anforderungen erfüllt. Technische Fachkräfte können die Verantwortung für zuverlässige Integrationen und Berechtigungen übernehmen, während benannte Prüfverantwortliche für einzelne Genehmigungsentscheidungen zuständig sind. Die Zuweisung von Arbeit an einen Agenten darf nicht dazu führen, dass die Verantwortung ungeklärt bleibt.
Bevor Sie Ihr Pilotprojekt ausweiten, wählen Sie ein klar abgegrenztes Verfahren aus und bestätigen Sie die Zuständigkeit, die erforderlichen Datensätze, die Genehmigungsregeln und die Nachweise für den Abschluss.
