Multi-Agenten-Systeme für Unternehmen: Vom Prototyp zum produktiven Einsatz

Ein Multi-Agenten-System (MAS), auch Multiagentensystem genannt, verteilt einen Geschäftsprozess auf mehrere spezialisierte KI-Agenten. Ein Agent klassifiziert beispielsweise eine Anfrage, ein weiterer sucht Informationen und ein dritter bereitet eine Aktion in einem verbundenen System vor. Eine zentrale Orchestrierung koordiniert Aufgaben, Ergebnisse und Freigaben.

Frühe Multi Agenten Systeme zeigten bereits, dass mehrere Agenten zusammenarbeiten können. Im produktiven Betrieb entstanden jedoch Probleme durch unklare Rollen, unstrukturierte Übergaben, fehlende Berechtigungsgrenzen und eine unzureichende Überwachung.

Moderne Architekturkomponenten verbessern die Kontrollierbarkeit. Dazu gehören strukturierte Ein- und Ausgaben, zentrale Zustandsverwaltung, begrenzte Werkzeuge, nachvollziehbare Protokolle, definierte Abbruchbedingungen und menschliche Freigaben.

Für Unternehmen zählt, ob das System einen konkreten Prozess zuverlässig bearbeiten kann. Dieser Leitfaden zeigt, wie Multi-Agenten-Systeme aufgebaut sind, welche Aufgaben sich dafür eignen und welche technischen sowie organisatorischen Voraussetzungen für den produktiven Einsatz erfüllt sein müssen.

Eine Einführung in einzelne KI-Rollen, Einsatzbereiche und Freigabemodelle bietet außerdem unser Leitfaden über digitale Mitarbeiter mit KI.

Warum Multi-Agenten-Systeme im Betrieb scheitern können

Mit jedem zusätzlichen Agenten entstehen weitere Übergaben, Abhängigkeiten und mögliche Fehlerstellen. Die Architektur wird deshalb anspruchsvoller als bei einem einzelnen KI-Agenten oder einem fest definierten Workflow.

Probleme entstehen häufig durch unklare Verantwortlichkeiten, unstrukturierte Datenübergaben und fehlende Grenzen für Aktionen.

Fehler summieren sich über mehrere Arbeitsschritte

Bei einem mehrstufigen Prozess beeinflusst jeder Teilschritt das Gesamtergebnis. Liefert ein Agent unvollständige Daten, arbeiten nachfolgende Agenten möglicherweise mit einer falschen Ausgangslage weiter.

Eine vereinfachte Rechnung zeigt den Effekt: Erreicht jeder von 20 voneinander abhängigen Schritten eine Erfolgswahrscheinlichkeit von 98 Prozent, liegt die rechnerische Erfolgswahrscheinlichkeit des gesamten Ablaufs nur noch bei rund 67 Prozent.

Die tatsächlichen Werte hängen vom jeweiligen Prozess ab. Das Beispiel verdeutlicht jedoch, warum einzelne Agententests für die Qualitätsbewertung eines Multi-Agenten-Systems nicht ausreichen. Entscheidend sind End-to-End-Tests des vollständigen Ablaufs.

Übergaben benötigen feste Datenstrukturen

Freie Textnachrichten zwischen Agenten können mehrdeutig sein. Für einen produktiven Prozess sollten Übergaben deshalb definierte Felder enthalten.

Dazu gehören beispielsweise:

• eindeutige Vorgangsnummer
• Herkunft und Zeitpunkt der Information
• aktueller Bearbeitungsstatus
• verwendete Datenquellen
• Ergebnis des bisherigen Arbeitsschritts
• offene Fragen und fehlende Informationen
• erlaubte nächste Aktionen
• erforderliche menschliche Freigabe

Vor der Weitergabe wird geprüft, ob alle benötigten Felder vorhanden und plausibel sind.

Berechtigungen müssen pro Agent begrenzt werden

Jeder Agent sollte nur auf die Daten und Werkzeuge zugreifen können, die er für seine Aufgabe benötigt. Ein Agent zur Klassifizierung von E-Mails braucht beispielsweise keine Berechtigung, Datensätze im ERP-System zu löschen.

Schreibende Aktionen, finanzielle Auswirkungen und externe Kommunikation benötigen zusätzliche Kontrollen. Abhängig vom Risiko kann das System eine Freigabe anfordern oder den Vorgang vollständig an eine verantwortliche Person übergeben.

Schleifen und Wiederholungen kontrollieren

Agenten können versuchen, eine nicht lösbare Aufgabe mehrfach zu bearbeiten oder gegenseitig neue Teilaufgaben erzeugen. Ohne Grenzen steigen Laufzeit, Modellnutzung und Infrastrukturkosten.

Geeignete Schutzmaßnahmen sind:

• maximale Anzahl von Arbeitsschritten
• begrenzte Wiederholungsversuche
• Zeitlimit pro Vorgang
• Kostenlimit pro Prozess
• feste Anzahl gleichzeitig aktiver Agenten
• Abbruch bei wiederholt identischen Ergebnissen
• Übergabe an einen Menschen bei ungelösten Konflikten

Demo und Dauerbetrieb stellen unterschiedliche Anforderungen

Eine Demo bearbeitet meist wenige vorbereitete Beispiele. Im Unternehmensalltag treten unvollständige Informationen, widersprüchliche Daten, ausgefallene Schnittstellen und ungewöhnliche Nutzeranfragen auf.

Ein produktiver Testplan sollte daher normale Abläufe, Grenzfälle und technische Störungen abdecken. Zusätzlich müssen Änderungen an Modellen, Prompts, Werkzeugen und Schnittstellen vor dem Einsatz geprüft werden.

Anforderungen an ein belastbares System

Aus diesen Risiken ergeben sich zentrale Anforderungen:

• klare Rollen und Verantwortlichkeiten
• zentrale Orchestrierung
• strukturierte Übergaben
• begrenzte Berechtigungen
• definierte Freigaben
• vollständige Vorgangsprotokolle
• kontrollierte Wiederholungen
• messbare Qualitätskriterien
• End-to-End-Tests
• geregelte menschliche Übergaben

Mehr Agenten erhöhen den Koordinationsaufwand. Ihr Einsatz ist sinnvoll, wenn die fachliche Aufteilung einen nachvollziehbaren Vorteil für den Gesamtprozess bietet.

Technische Bausteine produktiver Multi-Agenten-Systeme

Ein produktives Multi-Agenten-System benötigt mehr als mehrere miteinander verbundene KI-Modelle. Die Architektur muss Aufgaben verteilen, Zustände verwalten, Berechtigungen durchsetzen und vollständige Vorgänge nachvollziehbar machen.

Zu den wichtigsten Bausteinen gehören:

Geeignete Orchestrierungsmuster

Die passende Orchestrierung richtet sich nach dem Geschäftsprozess. Häufig verwendete Muster sind:

Parallelisierung eignet sich für voneinander unabhängige Aufgaben. Bearbeiten mehrere Agenten denselben Datensatz, müssen Schreibreihenfolge, Konflikte und Prioritäten eindeutig geregelt sein.

Strukturierte Übergaben und Validierung

Jede Übergabe sollte einem festgelegten Schema folgen. Freie Textantworten können ergänzend gespeichert werden, reichen für die zuverlässige Steuerung nachfolgender Aktionen jedoch häufig nicht aus.

Eine strukturierte Übergabe kann diese Felder enthalten:

• Vorgangsnummer
• ausführender Agent
• bearbeitete Aufgabe
• verwendete Quellen
• Ergebnisstatus
• strukturierte Ergebnisdaten
• erkannte Unsicherheiten
• fehlende Informationen
• empfohlener nächster Schritt
• erforderliche Freigabe

Vor der Weiterverarbeitung prüft das System Datentypen, Pflichtfelder und erlaubte Werte. Inhaltliche Plausibilitätsprüfungen und fachliche Freigaben ergänzen diese technische Validierung.

Gemeinsamer Zustand und Vorgangshistorie

Alle Agenten benötigen Zugriff auf den aktuellen Bearbeitungsstand. Eine zentrale Zustandsverwaltung verhindert, dass Teilaufgaben mit veralteten oder widersprüchlichen Informationen ausgeführt werden.

Die Vorgangshistorie sollte dokumentieren:

• empfangene Eingaben
• beteiligte Agenten
• verwendete Werkzeuge
• abgerufene Quellen
• erzeugte Ergebnisse
• erfolgte Freigaben
• ausgeführte Aktionen
• Fehler und Wiederholungen
• abschließenden Prozessstatus

Eine eindeutige Vorgangsnummer verbindet sämtliche Arbeitsschritte und erleichtert spätere Prüfungen.

Unternehmenswissen kontrolliert bereitstellen

Retrieval-Augmented Generation, kurz RAG, kann Agenten relevante Informationen aus freigegebenen Dokumenten und Wissensquellen bereitstellen. Für den Unternehmenseinsatz müssen Zugriffsrechte, Aktualität und Herkunft der Informationen berücksichtigt werden.

Wichtige Anforderungen sind:

• Dokumente nach Rollen und Fachbereichen freigeben
• Quellen und Versionen erfassen
• veraltete Inhalte kennzeichnen oder entfernen
• Ergebnisse mit den verwendeten Quellen verbinden
• vertrauliche Inhalte vor unberechtigtem Zugriff schützen
• fehlende oder widersprüchliche Informationen erkennen

Der Wissenszugriff sollte immer im Kontext des jeweiligen Nutzers, Agenten und Vorgangs erfolgen.

Werkzeuge und Aktionen absichern

Werkzeuge verbinden Agenten mit E-Mail, CRM, ERP, Kalendern, Datenbanken und weiteren Anwendungen. Jeder Zugriff benötigt klar definierte Parameter und Berechtigungen.

Sicherheitsrelevante Maßnahmen sind:

• getrennte Lese- und Schreibrechte
• minimale Berechtigungen pro Agent
• erlaubte Aktionen ausdrücklich festlegen
• Eingaben vor der Ausführung validieren
• sensible Änderungen zur Freigabe vorlegen
• wiederholte Aktionen erkennen
• ausgeführte Änderungen protokollieren
• technische Rückabwicklung vorbereiten

Ein Agent sollte keine allgemeine Systemberechtigung erhalten, wenn für seine Aufgabe ein begrenzter Zugriff ausreicht.

Monitoring und Evaluation

Monitoring zeigt, wie sich das System im laufenden Betrieb verhält. Evaluation prüft anhand definierter Testfälle, ob die fachlichen Ergebnisse den Anforderungen entsprechen.

Geeignete Kennzahlen sind:

• Erfolgsquote vollständiger Prozesse
• Bearbeitungszeit pro Vorgang
• Anzahl benötigter Agentenschritte
• Wiederholungs- und Abbruchquote
• menschliche Übergabequote
• Korrekturquote
• Modell- und Infrastrukturkosten
• Fehler nach Agent, Werkzeug oder Prozessschritt

Für Veränderungen an Modellen, Prompts, Datenquellen oder Werkzeugen sollten feste Testfälle erneut ausgeführt werden.

Versionierung, Einführung und Rückfalloptionen

Prompts, Rollen, Datenformate, Werkzeuge und Prozessregeln sollten versioniert werden. Dadurch bleibt nachvollziehbar, welche Konfiguration ein bestimmtes Ergebnis erzeugt hat.

Eine kontrollierte Einführung kann mehrere Stufen umfassen:

1. Tests mit vorbereiteten Beispielen
2. Verarbeitung realer Vorgänge ohne schreibende Aktionen
3. Pilotbetrieb mit menschlicher Freigabe
4. begrenzter Produktivbetrieb
5. schrittweise Erweiterung von Volumen und Fähigkeiten

Für kritische Prozesse benötigt das Unternehmen einen Rückfallprozess. Bei technischen Störungen oder ungewöhnlichen Ergebnissen wird der Vorgang gestoppt und an die zuständige Person übergeben.

Praxisbeispiel: Von der Kundenanfrage zum Angebotsentwurf

Das folgende vereinfachte Beispiel zeigt, wie mehrere spezialisierte KI-Agenten eine eingehende B2B-Anfrage bearbeiten können. Ziel ist ein vollständiger Angebotsentwurf, der vor dem Versand von einer verantwortlichen Person geprüft wird.

Die zentrale Orchestrierung verwaltet den Bearbeitungsstatus und entscheidet, welcher Schritt als Nächstes ausgeführt werden darf.

Umgang mit fehlenden oder widersprüchlichen Informationen

Enthält die Anfrage keine ausreichenden Angaben, darf der Angebotsagent keine Werte ergänzen. Der Vorgang erhält stattdessen einen Status für fehlende Informationen.

Mögliche Reaktionen sind:

• Rückfrage an den Kunden vorbereiten
• zuständige Vertriebsmitarbeitende informieren
• widersprüchliche CRM-Daten markieren
• fehlende Preis- oder Produktinformationen melden
• Vorgang bis zur Klärung pausieren

Jede Entscheidung bleibt mit dem ursprünglichen Vorgang und den verwendeten Datenquellen verbunden.

Welche Ergebnisse gemessen werden können

Für den Pilotbetrieb werden Ausgangswerte des bisherigen Prozesses erfasst. Anschließend lassen sich unter anderem diese Kennzahlen vergleichen:

• Zeit bis zur ersten Bearbeitung
• gesamte Durchlaufzeit
• Anteil vollständig vorbereiteter Angebote
• Anzahl notwendiger Rückfragen
• Korrekturen vor der Freigabe
• menschliche Bearbeitungszeit pro Vorgang
• technische Kosten pro abgeschlossenem Vorgang
• Anteil abgebrochener oder eskalierter Prozesse

Diese Werte zeigen, ob die Aufteilung auf mehrere Agenten einen messbaren Vorteil bietet.

Wann sich ein Multi-Agenten-System wirtschaftlich lohnt

Ein Multi-Agenten-System eignet sich besonders für Prozesse, die mehrere Fachrollen, Datenquellen oder Anwendungen verbinden.

Günstige Voraussetzungen sind:

• regelmäßig auftretende Vorgänge
• ausreichend hohes Prozessvolumen
• klar abgrenzbare Teilaufgaben
• unterschiedliche benötigte Berechtigungen
• parallele oder spezialisierte Arbeitsschritte
• messbare Qualitätsanforderungen
• digital verfügbare Daten und Dokumente
• definierte Verantwortlichkeit für den Gesamtprozess

Ein einzelner Agent oder ein klassischer Workflow ist häufig effizienter, wenn der Ablauf linear, vollständig regelbasiert und technisch überschaubar ist.

Aufwand vollständig kalkulieren

Zur Wirtschaftlichkeitsbetrachtung gehören sowohl der erwartete Nutzen als auch alle Betriebsaufwände.

Mögliche Aufwandspositionen sind:

• Prozessanalyse und Konzeption
• Entwicklung und Konfiguration
• Anbindung vorhandener Systeme
• Aufbereitung von Wissen und Daten
• Modell- und Infrastrukturkosten
• Monitoring und Protokollierung
• menschliche Prüfungen
• Wartung und Weiterentwicklung
• Tests nach technischen Änderungen

Mögliche Nutzenpositionen sind:

• eingesparte Bearbeitungszeit
• kürzere Durchlaufzeiten
• höhere Bearbeitungskapazität
• vollständigere Vorgangsdaten
• weniger manuelle Übergaben
• schnellere Reaktion auf Anfragen
• bessere Nachvollziehbarkeit des Prozesses

Die Bewertung sollte auf realen Prozessdaten beruhen. Ein begrenzter Pilot liefert dafür belastbarere Werte als eine allgemeine Annahme über Effizienz oder Kosten.

Guardrails, Observability und Evaluation richtig unterscheiden

Guardrails, Observability und Evaluation erfüllen unterschiedliche Aufgaben im Betrieb eines Multi-Agenten-Systems. Gemeinsam helfen sie dabei, Aktionen zu begrenzen, Abläufe zu überwachen und die Ergebnisqualität zu bewerten.

Guardrails begrenzen Eingaben, Ergebnisse und Aktionen

Guardrails prüfen, ob ein Arbeitsschritt innerhalb der festgelegten Regeln liegt. Sie können vor einem Werkzeugaufruf, nach einem Agentenergebnis oder vor der Übergabe an einen weiteren Agenten eingesetzt werden.

Typische Guardrails sind:

• Pflichtfelder und Datentypen prüfen
• erlaubte Werte und Formate begrenzen
• Tool-Aufrufe über eine Positivliste steuern
• Rollen und Berechtigungen kontrollieren
• Betrags- und Mengenlimits durchsetzen
• vertrauliche Daten erkennen
• externe Kommunikation zur Freigabe vorlegen
• Schleifen und wiederholte Aktionen abbrechen
• Vorgänge bei fehlenden Informationen pausieren

Technische Formatprüfungen bestätigen, dass Daten korrekt aufgebaut sind. Die fachliche Richtigkeit muss durch zusätzliche Regeln, verlässliche Quellen, Tests oder menschliche Kontrolle bewertet werden.

Observability macht Prozesszustände nachvollziehbar

Observability erfasst, was innerhalb des Systems passiert. Jeder Vorgang sollte über eine eindeutige Kennung durch alle beteiligten Agenten und Werkzeuge verfolgt werden können.

Wichtige Informationen sind:

• Start- und Endzeit eines Arbeitsschritts
• zuständiger Agent und verwendete Version
• aufgerufenes Werkzeug
• Bearbeitungsstatus
• Fehlercode und Wiederholungsversuche
• verwendete Datenquelle
• Übergabe an den nächsten Agenten
• angeforderte und erteilte Freigaben
• Modell- und Infrastrukturkosten
• abschließendes Prozessergebnis

Protokolle können sensible Informationen enthalten. Zugriffe, Aufbewahrungsdauer und gespeicherte Inhalte sollten daher ebenso kontrolliert werden wie die eigentlichen Prozessdaten.

Observability zeigt den technischen Ablauf und die verwendeten Informationen. Sie liefert keine vollständige Erklärung interner Modellberechnungen.

Evaluation misst die fachliche Qualität

Eine erfolgreiche technische Ausführung bedeutet noch nicht, dass das Ergebnis fachlich korrekt oder hilfreich ist. Evaluation vergleicht die Resultate deshalb mit definierten Erwartungen.

Ein Testbestand kann unterschiedliche Fälle enthalten:

• normaler Standardvorgang
• fehlende Pflichtangaben
• widersprüchliche Informationen
• unzulässiger Aktionswunsch
• nicht erreichbare Datenquelle
• ausgefallene Schnittstelle
• mehrdeutige Kundenanfrage
• erforderliche menschliche Entscheidung

Bewertet werden beispielsweise Vollständigkeit, Quellenbezug, korrekte Werkzeugwahl, Einhaltung der Berechtigungen und der erreichte Prozessstatus.

Nach Änderungen an Prompts, Modellen, Rollen, Datenquellen oder Werkzeugen sollten die relevanten Testfälle erneut ausgeführt werden.

Parallelisierung gezielt einsetzen

Mehrere Agenten können unabhängige Teilaufgaben gleichzeitig bearbeiten. Das kann die Laufzeit verkürzen, wenn keine gegenseitigen Abhängigkeiten bestehen.

Geeignete parallele Aufgaben sind:

• verschiedene Datenquellen prüfen
• mehrere Dokumente analysieren
• voneinander unabhängige Qualitätskontrollen durchführen
• Fachbewertungen aus unterschiedlichen Perspektiven vorbereiten

Gemeinsame Schreibzugriffe benötigen dagegen eine festgelegte Reihenfolge oder Konfliktregel. Der Orchestrator muss erkennen, wann alle benötigten Ergebnisse vorliegen und wie widersprüchliche Resultate behandelt werden.

Kontrollen als zusammenhängende Kette planen

Ein belastbarer Ablauf verbindet mehrere Kontrollebenen:

1. Eingabe prüfen
2. Berechtigung feststellen
3. Aufgabe an den passenden Agenten übergeben
4. Ergebnisformat validieren
5. fachliche Kriterien prüfen
6. sensible Aktion freigeben lassen
7. Ausführung protokollieren
8. Gesamtprozess bewerten
9. bei Abweichungen warnen oder stoppen

Die konkrete Ausgestaltung richtet sich nach Prozessrisiko, Datenarten und möglichen Auswirkungen einer Aktion.

Wie KI-Agenten zuverlässig zusammenarbeiten

Die Zusammenarbeit mehrerer KI-Agenten benötigt festgelegte Kommunikationswege. Die Architektur bestimmt, welcher Agent Informationen anfordern, Ergebnisse übergeben oder Aktionen auslösen darf.

Dafür stehen verschiedene Kommunikationsmodelle zur Verfügung:

Für Unternehmensprozesse eignet sich häufig eine zentrale Orchestrierung in Verbindung mit einem gemeinsamen Vorgangsspeicher. Dadurch bleiben Ablauf, Zuständigkeit und aktueller Status nachvollziehbar.

Aufgaben mit einem vollständigen Informationspaket übergeben

Eine Übergabe sollte alle Informationen enthalten, die der nächste Agent für seine Aufgabe benötigt. Gleichzeitig werden unnötige oder nicht freigegebene Daten ausgeschlossen.

Ein Übergabepaket kann enthalten:

• eindeutige Vorgangsnummer
• Auftrag und erwartetes Ergebnis
• zuständiger Agent
• relevante Eingabedaten
• verwendete Quellen
• bisherige Entscheidungen
• erlaubte Werkzeuge
• Bearbeitungsfrist
• Qualitätskriterien
• erforderliche Freigaben
• Status bei Erfolg oder Fehler

Der empfangende Agent bestätigt, ob die Aufgabe vollständig und bearbeitbar ist. Fehlende Informationen führen zu einer Rückfrage oder geregelten Übergabe.

Gemeinsamen Prozesszustand verwalten

Jeder Agent sollte den für seine Rolle relevanten aktuellen Zustand des Vorgangs erhalten. Dazu gehören Bearbeitungsstatus, bereits abgeschlossene Schritte, offene Entscheidungen und erteilte Freigaben.

Änderungen am Vorgangsspeicher benötigen klare Regeln:

• festlegen, welcher Agent welche Felder verändern darf
• Schreibzugriffe versionieren
• gleichzeitige Änderungen erkennen
• vorherige Werte protokollieren
• widersprüchliche Aktualisierungen markieren
• abgeschlossene Prozessschritte sperren
• sensible Daten nach Rollen filtern

So lässt sich nachvollziehen, welche Information zu welchem Zeitpunkt gültig war.

Direkte Kommunikation gezielt begrenzen

Direkte Agent-zu-Agent-Kommunikation kann sinnvoll sein, wenn eine fachliche Rückfrage eng begrenzt ist. Offene Gesprächsschleifen zwischen mehreren Agenten erhöhen dagegen Laufzeit und Kontrollaufwand.

Eine direkte Übergabe sollte deshalb festlegen:

• welcher Agent angesprochen werden darf
• welche Art von Anfrage erlaubt ist
• wie viele Rückfragen möglich sind
• welches Antwortformat erwartet wird
• wann der Orchestrator informiert wird
• wann der Vorgang abgebrochen oder an einen Menschen übergeben wird

Ergebnisse aus direkter Kommunikation werden anschließend wieder dem zentralen Vorgang zugeordnet.

Konflikte zwischen Agentenergebnissen behandeln

Mehrere Agenten können zu unterschiedlichen Ergebnissen kommen. Der Prozess benötigt deshalb eine festgelegte Konfliktbehandlung.

Mögliche Verfahren sind:

1. Ergebnisse anhand definierter Kriterien vergleichen.
2. Quellen und Aktualität der Informationen prüfen.
3. einen spezialisierten Prüfagenten einsetzen.
4. betroffene Arbeitsschritte erneut ausführen.
5. eine verantwortliche Person entscheiden lassen.

Die Auswahl richtet sich nach Risiko und fachlicher Bedeutung des Vorgangs. Bei finanziellen, rechtlichen oder sicherheitsrelevanten Auswirkungen sollte eine menschliche Entscheidung vorgesehen werden.

Fehler und technische Ausfälle abfangen

Auch Schnittstellen, Datenbanken und externe Dienste können ausfallen. Ein Agentensystem muss solche Zustände erkennen und kontrolliert behandeln.

Dazu gehören:

• Zeitlimits für externe Aufrufe
• begrenzte Wiederholungsversuche
• Prüfung auf doppelte Aktionen
• alternative Datenquellen
• Zwischenspeicherung abgeschlossener Schritte
• geregelte Fortsetzung nach einer Störung
• Rückfall auf einen manuellen Prozess
• Benachrichtigung der zuständigen Person

Der Orchestrator dokumentiert, welcher Schritt fehlgeschlagen ist und welche Aktionen bereits erfolgreich ausgeführt wurden.

Menschliche Übergaben als regulären Prozessschritt behandeln

Eine menschliche Übergabe sollte einen vollständigen Arbeitsstand liefern. Mitarbeitende benötigen den bisherigen Verlauf, verwendete Quellen, offene Fragen und eine klare Entscheidungsvorlage.

Nach der Bearbeitung wird das Ergebnis wieder in den Vorgang übernommen. So kann der digitale Prozess fortgesetzt werden, ohne bereits erledigte Arbeitsschritte erneut auszuführen.

Einsatzbereiche von Multi-Agenten-Systemen in Unternehmen

Multi-Agenten-Systeme eignen sich für Prozesse, bei denen mehrere fachliche Rollen, Datenquellen oder Prüfungen zusammengeführt werden müssen. Die Aufteilung sollte sich an den tatsächlichen Arbeitsschritten und Verantwortlichkeiten des Unternehmens orientieren.

Kundenanfragen bearbeiten

Ein Triage-Agent erkennt Anliegen, Dringlichkeit und benötigte Fachkenntnisse. Anschließend ruft ein Wissensagent relevante Informationen ab, während ein Vorgangsagent Kunden- und Vertragsdaten prüft.

Ein Kommunikationsagent erstellt auf dieser Grundlage einen Antwortentwurf. Beschwerden, ungewöhnliche Forderungen oder verbindliche Zusagen werden an verantwortliche Mitarbeitende übergeben.

Geeignete Kennzahlen sind:

• Zeit bis zur Klassifizierung
• gesamte Bearbeitungszeit
• Anteil vollständig vorbereiteter Antworten
• Rückfragequote
• menschliche Übergabequote
• Korrekturen vor dem Versand

Dokumente und Geschäftsvorgänge verarbeiten

Bei Rechnungen, Bestellungen, Lieferscheinen oder Formularen können Agenten unterschiedliche Prüfschritte übernehmen.

Ein möglicher Ablauf:

1. Dokument klassifizieren
2. relevante Datenfelder erfassen
3. Lieferant oder Kunde zuordnen
4. Werte mit Bestellung oder Vertrag vergleichen
5. Abweichungen markieren
6. Freigabe vorbereiten
7. geprüfte Daten an das Zielsystem übergeben

Finanzielle Buchungen und Änderungen sollten nur innerhalb festgelegter Grenzen erfolgen. Unklare Dokumente werden mit den bisherigen Prüfergebnissen an eine zuständige Person übergeben.

Vertrieb und CRM unterstützen

Im Vertrieb können mehrere Agenten Recherche, Datenpflege und Nachbereitung verbinden. Ein Rechercheagent ergänzt freigegebene Unternehmensinformationen, ein CRM-Agent prüft bestehende Kontakte und ein Aufgabenagent bereitet nächste Schritte vor.

Nach einem Gespräch kann das System:

• Gesprächsnotizen strukturieren
• Interessen und offene Fragen erfassen
• vorhandene CRM-Daten abgleichen
• einen Follow-up-Entwurf vorbereiten
• Aufgaben mit Fristen anlegen
• fehlende Informationen markieren
• den Vorgang zur Freigabe vorlegen

Verbindliche Angebote und Preisentscheidungen bleiben durch definierte Freigaben geschützt.

Risiko- und Entscheidungsanalysen vorbereiten

Für eine Risikoanalyse können verschiedene Agenten freigegebene Quellen, interne Daten und definierte Bewertungskriterien bearbeiten.

Mögliche Rollen sind:

• Quellenagent für externe Informationen
• Datenagent für interne Kennzahlen
• Regelagent für vorgegebene Anforderungen
• Prüfagent für Widersprüche und fehlende Angaben
• Berichtsagent für die strukturierte Zusammenfassung

Das Ergebnis dient als Entscheidungsvorlage. Quellen, Annahmen und erkannte Unsicherheiten sollten sichtbar ausgewiesen werden.

Unternehmenswissen bereitstellen

Ein Wissenssystem kann mehrere Aufgaben voneinander trennen. Ein Agent versteht die Anfrage, ein weiterer prüft die Zugriffsberechtigung und ein Suchagent ruft passende Dokumente ab. Ein Antwortagent fasst die Informationen mit Quellenbezug zusammen.

Damit der Wissenszugriff zuverlässig funktioniert, braucht es:

• gepflegte und versionierte Dokumente
• eindeutige Zugriffsrechte
• nachvollziehbare Quellen
• Regeln für widersprüchliche Inhalte
• verantwortliche Personen für Aktualisierungen
• geregelte Übergabe bei fehlenden Informationen

Einkauf und Lieferantenmanagement vorbereiten

Bei Beschaffungsvorgängen können Agenten Bedarfsinformationen, Lieferantendaten und eingehende Angebote zusammenführen.

Sie können beispielsweise:

• Anforderungen strukturieren
• Angebote nach festgelegten Kriterien vergleichen
• fehlende Unterlagen erkennen
• Liefertermine und Bedingungen gegenüberstellen
• bestehende Lieferantendaten prüfen
• eine Entscheidungsvorlage erstellen

Die Auswahl eines Lieferanten und das Auslösen einer Bestellung benötigen eine klar benannte Verantwortung und passende Freigabe.

Erfolg pro Anwendungsfall messen

Jeder Einsatzbereich benötigt eigene Zielwerte. Geeignete Kennzahlen sind:

• Durchlaufzeit
• Bearbeitungszeit
• Prozesskosten
• Vollständigkeit der Daten
• Korrekturquote
• Wiederholungsquote
• Abbruchquote
• menschliche Übergaben
• Einhaltung von Freigaben
• Qualität des abschließenden Ergebnisses

Die Kennzahlen werden vor dem Pilotprojekt erfasst und während des Betriebs regelmäßig überprüft. Dadurch lässt sich beurteilen, ob die Aufteilung auf mehrere Agenten für den jeweiligen Prozess tatsächlich sinnvoll ist.

Multi-Agenten-Systeme kontrolliert in den Produktivbetrieb überführen

Der Übergang vom Prototyp zum produktiven Multi-Agenten-System betrifft Technik, Prozesse und Verantwortlichkeiten. Vor der Freigabe müssen Betriebsmodell, Sicherheitsanforderungen, Tests und Rückfalloptionen definiert sein.

Eine mögliche Einführung erfolgt in mehreren Stufen:

Jede Stufe erhält eigene Erfolgskriterien. Eine Erweiterung erfolgt erst, wenn Qualität, Stabilität und Betrieb innerhalb der festgelegten Zielwerte liegen.

Betriebsverantwortung festlegen

Vor dem Produktivbetrieb muss geklärt werden, wer für das Gesamtsystem und die einzelnen Prozessschritte verantwortlich ist.

Benötigte Rollen können sein:

• fachliche Prozessverantwortung
• technische Systemverantwortung
• Betreuung der Daten- und Wissensquellen
• Informationssicherheit
• Datenschutz
• Qualitätssicherung
• Anwenderbetreuung
• Freigabeverantwortliche
• Störungs- und Notfallkoordination

Zusätzlich braucht es geregelte Wege für Fehlermeldungen, fachliche Rückfragen und Änderungen am System.

Entwicklungs-, Test- und Produktivumgebungen trennen

Änderungen sollten zunächst außerhalb des laufenden Betriebs geprüft werden. Dafür werden Entwicklungs-, Test- und Produktivumgebungen voneinander getrennt.

In der Testumgebung lassen sich unter anderem prüfen:

• neue oder veränderte Agentenrollen
• angepasste Prompts
• andere KI-Modelle
• zusätzliche Werkzeuge
• geänderte Datenformate
• neue Wissensquellen
• aktualisierte Berechtigungen
• veränderte Prozessregeln

Testdaten sollten die benötigten Fälle realistisch abbilden und gleichzeitig den Schutz sensibler Informationen berücksichtigen.

Komponenten und Konfigurationen versionieren

Ein Multi-Agenten-System besteht aus mehreren veränderlichen Komponenten. Für jeden produktiven Vorgang sollte nachvollziehbar sein, welche Versionen beteiligt waren.

Zu versionieren sind beispielsweise:

• Agentenrollen und Instruktionen
• Orchestrierungslogik
• Ein- und Ausgabeformate
• Werkzeugdefinitionen
• Berechtigungsregeln
• Prüf- und Freigaberegeln
• verwendete Modelle
• Wissensquellen und Dokumentstände
• Testfälle und Bewertungskriterien

Eine Änderung an einer einzelnen Komponente kann Auswirkungen auf nachfolgende Agenten haben. Deshalb müssen auch abhängige Prozessschritte erneut getestet werden.

Passende Betriebsform auswählen

Die technische Betriebsform richtet sich nach Datenarten, Integrationen, Lastprofil, Sicherheitsanforderungen und vorhandener IT-Infrastruktur.

Mögliche Varianten sind:

• getrennte Cloud-Instanz
• Betrieb in der vorhandenen Cloud-Umgebung
• Betrieb in der eigenen Infrastruktur
• hybride Architektur mit getrennten Daten- und Modellkomponenten
• verwalteter Betrieb durch einen Dienstleister

Container können dabei helfen, Komponenten reproduzierbar bereitzustellen. Sie lösen jedoch keine Fragen zu Berechtigungen, Netzwerkzugriffen, Datenhaltung, Überwachung oder fachlicher Verantwortung.

Systeme über kontrollierte Schnittstellen anbinden

CRM, ERP, E-Mail, Dokumentenmanagement und weitere Anwendungen sollten über dokumentierte Schnittstellen angebunden werden.

Für jede Integration werden festgelegt:

• erlaubte Daten und Aktionen
• verwendete technische Identität
• Lese- und Schreibrechte
• Zeit- und Mengenlimits
• Fehler- und Wiederholungsverhalten
• Protokollierung
• Verhalten bei Ausfällen
• Rückabwicklung einer fehlerhaften Aktion
• verantwortliche Systembetreuung

Zugangsdaten und technische Schlüssel werden getrennt von Prompts und Agententexten gespeichert. Ihre Verwendung sollte regelmäßig überprüft werden.

Releases kontrolliert ausrollen

Neue Versionen können zunächst für einen kleinen Anteil geeigneter Vorgänge freigegeben werden. Die Ergebnisse werden mit der bisherigen Version oder festgelegten Zielwerten verglichen.

Vor einer vollständigen Freigabe sollten diese Fragen beantwortet werden:

• Haben alle relevanten Testfälle bestanden?
• Funktionieren Übergaben und Freigaben weiterhin?
• Haben sich Laufzeit oder Kosten wesentlich verändert?
• Treten neue Fehler oder Abbrüche auf?
• Bleiben Berechtigungen und Datenzugriffe unverändert korrekt?
• Kann zur vorherigen Version zurückgekehrt werden?
• Sind Fachbereich und Betrieb über die Änderung informiert?

Bei kritischen Abweichungen wird die neue Version gestoppt oder zurückgenommen.

Produktivbetrieb überwachen

Im laufenden Betrieb sollten technische und fachliche Kennzahlen gemeinsam betrachtet werden.

Dazu gehören:

• Verfügbarkeit der beteiligten Komponenten
• Prozessabbrüche
• fehlerhafte Werkzeugaufrufe
• Wiederholungsversuche
• Laufzeit pro Vorgang
• menschliche Übergaben
• fachliche Korrekturen
• Kosten pro abgeschlossenem Prozess
• Auslastung angebundener Systeme
• ungewöhnliche Berechtigungs- oder Datenzugriffe

Warnwerte und Eskalationswege müssen vor dem Produktivstart definiert sein.

Rückfall- und Notfallprozesse vorbereiten

Für technische Störungen oder unerwartete Ergebnisse benötigt jeder kritische Prozess eine Rückfalloption.

Mögliche Maßnahmen sind:

• automatische Aktionen vorübergehend deaktivieren
• nur lesenden Zugriff erlauben
• Vorgänge in eine manuelle Warteschlange übergeben
• auf die vorherige Systemversion zurückkehren
• betroffene Zugänge sperren
• bereits ausgeführte Aktionen identifizieren
• zuständige Personen benachrichtigen
• Ursache und Auswirkungen dokumentieren

Nach einer Störung wird geprüft, welche Vorgänge betroffen waren und ob Daten oder Aktionen korrigiert werden müssen.

Nach dem Start kontrolliert erweitern

Zusätzliche Agenten und Funktionen werden wie eigenständige Systemänderungen behandelt. Für jede Erweiterung werden Ziel, Berechtigungen, Schnittstellen, Tests und Verantwortlichkeiten erneut dokumentiert.

So wächst das Multi-Agenten-System entlang realer Prozessanforderungen und bleibt auch bei zunehmender Komplexität betreibbar.

Multi-Agenten-Systeme sind die nächste Ausbaustufe. Zuerst lohnt der Blick auf den kompletten Leitfaden für AI Agents.

Fazit: Multi-Agenten-Systeme gezielt einsetzen

Multi-Agenten-Systeme können komplexe Geschäftsprozesse auf spezialisierte KI-Agenten verteilen. Ihr Nutzen entsteht, wenn Rollen, Datenquellen, Berechtigungen und Übergaben eindeutig definiert sind.

Geeignete Prozesse besitzen mehrere dieser Merkmale:

• unterschiedliche fachliche Teilaufgaben
• mehrere benötigte Datenquellen
• verschiedene angebundene Systeme
• getrennte Berechtigungen
• parallel ausführbare Arbeitsschritte
• definierte Qualitätskontrollen
• gezielte menschliche Freigaben
• ausreichend hohes und wiederkehrendes Prozessvolumen

Für einfache und lineare Abläufe genügt häufig ein klassischer Workflow oder ein einzelner KI-Agent. Zusätzliche Agenten sollten einen fachlich oder wirtschaftlich nachvollziehbaren Beitrag leisten.

Der Einstieg erfolgt idealerweise mit einem begrenzten Pilotprozess. Ausgangswerte, Zielkennzahlen und Abbruchbedingungen werden vor der Umsetzung festgelegt. Nach erfolgreichen End-to-End-Tests kann das System schrittweise um weitere Rollen, Werkzeuge und Vorgänge erweitert werden.

Für den dauerhaften Betrieb sind zentrale Orchestrierung, strukturierte Übergaben, minimale Berechtigungen, Monitoring und geregelte menschliche Entscheidungen entscheidend.

Multi-Agenten-System für Ihr Unternehmen planen

Mit AI Cowork entwickeln wir unternehmenseigene KI-Systeme mit spezialisierten virtuellen Mitarbeitern. Die Lösung wird auf Ihre Prozesse, Wissensquellen, Berechtigungen und vorhandene Systemlandschaft abgestimmt.

In einer Potenzialanalyse prüfen wir gemeinsam:

• welcher Prozess sich für den Einstieg eignet
• ob ein einzelner Agent oder mehrere Agenten benötigt werden
• welche Systeme und Datenquellen angebunden werden müssen
• welche Aktionen automatisiert werden dürfen
• wo menschliche Freigaben erforderlich sind
• wie sich Nutzen und Qualität messen lassen

Kostenlose Potenzialanalyse und Demo anfragen

Häufige Fragen zu Multi-Agenten-Systemen

Über den Autor

Peter Krause

KI-Berater, Buchautor & Gründer

Über Peter Krause LinkedIn KI-Buch