Ein Chatbot ist noch kein intelligenter Geschäftsprozess.

Die sichtbare Antwort ist nur die Oberfläche

Viele KI-Projekte beginnen mit einem Chatfenster. Das ist nachvollziehbar: Ein Dialog macht die Fähigkeiten eines Sprachmodells unmittelbar sichtbar. Für einen produktiven Unternehmensprozess ist das Interface jedoch nur ein kleiner Teil des Systems.

Ein Support-Mitarbeiter benötigt beispielsweise nicht irgendeine plausible Antwort. Er benötigt eine Antwort, die:

• zum konkreten Kunden gehört,
• dessen Verträge und bisherigen Kontakt kennt,
• die aktuelle Produkt- oder Leistungslogik berücksichtigt,
• nur Informationen verwendet, auf die der Mitarbeiter zugreifen darf,
• Unsicherheit erkennt,
• bei Bedarf weitere Systeme abfragt,
• die Antwort dokumentiert,
• und möglicherweise einen nächsten Schritt im CRM auslöst.

Das ist kein Chatbot mehr. Es ist ein operatives System mit KI-Komponente.

Kontext muss aus verlässlichen Quellen kommen

Ein Sprachmodell besitzt kein eingebautes Verständnis der aktuellen Unternehmensrealität. Relevanter Kontext muss kontrolliert bereitgestellt werden.

Mögliche Quellen sind:

• CRM-Daten
• Vertrags- und Kundendaten
• Produktinformationen
• Support-Historie
• E-Mails und Gesprächszusammenfassungen
• interne Dokumentation
• Wissensdatenbanken
• aktuelle Prozesszustände
• ERP- oder Finance-Daten
• Berechtigungsinformationen

Die technische Herausforderung besteht nicht nur darin, Inhalte auffindbar zu machen. Das System muss entscheiden, welche Informationen im jeweiligen Fall relevant, aktuell und zulässig sind.

Fachlogik darf nicht im Prompt verschwinden

Geschäftsregeln verändern sich und müssen nachvollziehbar bleiben. Kritische Logik sollte deshalb nicht ausschließlich in einem langen, schwer prüfbaren Prompt verborgen sein.

Beispiele für explizite Fachlogik:

• Welche Kundengruppe darf welche Leistung erhalten?
• Ab welchem Betrag ist eine Freigabe erforderlich?
• Welche Vertragsinformationen sind maßgeblich?
• Welche Antwortkategorien gibt es?
• Wann muss ein Fall eskaliert werden?
• Welche Schritte darf die KI selbst ausführen?
• Welche Informationen dürfen nach außen kommuniziert werden?

Sprachmodelle sind stark bei Interpretation, Zusammenfassung und Formulierung. Eindeutige Regeln, Grenzwerte und Berechtigungen sollten dagegen deterministisch und testbar modelliert werden.

Aktionen benötigen Orchestrierung

Eine produktive KI soll häufig nicht nur antworten, sondern Arbeit vorbereiten oder erledigen. Dafür muss sie mit bestehenden Anwendungen interagieren können.

Mögliche Aktionen:

• Kundendaten abrufen
• einen Vorgang klassifizieren
• einen CRM-Eintrag ergänzen
• einen Datensatz zur Prüfung markieren
• eine Antwort als Entwurf speichern
• ein Dokument erzeugen
• einen Folgeprozess starten
• eine Aufgabe an einen Mitarbeiter übergeben
• einen Status aktualisieren

Diese Aktionen benötigen eine kontrollierte Orchestrierung. Das System muss wissen, in welcher Reihenfolge Schritte erfolgen, welche Voraussetzungen gelten und was bei einem Fehler passiert.

Rollen und Berechtigungen gelten auch für KI

Ein KI-System darf nicht zu einer Abkürzung um bestehende Zugriffsregeln werden. Wenn ein Nutzer bestimmte Vertrags-, Finanz- oder Personendaten nicht sehen darf, darf das System diese Informationen auch nicht über eine generierte Antwort offenlegen.

Deshalb müssen Identität und Berechtigung durch den gesamten Prozess geführt werden:

• Wer stellt die Anfrage?
• In welcher Rolle handelt die Person?
• Welche Daten darf sie sehen?
• Welche Aktion darf sie auslösen?
• Welche Informationen dürfen in Protokollen gespeichert werden?
• Welche Freigabe wird für einen kritischen Schritt benötigt?

KI-Governance beginnt nicht bei einer Richtlinie, sondern in der Systemarchitektur.

Human in the Loop ist ein Betriebsmodell

Bei manchen Aufgaben ist vollständige Automatisierung sinnvoll. Bei anderen bleibt eine menschliche Entscheidung dauerhaft erforderlich.

Beispiele:

• Ein Antwortentwurf wird automatisch erzeugt, aber vor dem Versand geprüft.
• Datensätze werden automatisch kategorisiert; unsichere Fälle landen in einer Prüfliste.
• Die KI berechnet und dokumentiert eine Empfehlung; ein Mitarbeiter genehmigt die Aktion.
• Standardfälle werden automatisch abgeschlossen, während Ausnahmen eskaliert werden.

Human in the Loop ist damit kein vorübergehendes Provisorium. Es kann das bewusst gewählte Zielbild für einen kontrollierten Prozess sein.

Qualität muss messbar werden

Eine überzeugende Einzeldemo sagt wenig über die Qualität im Alltag aus. Produktive KI benötigt Testfälle, fachliche Bewertung und Monitoring.

Mögliche Qualitätsdimensionen:

• fachliche Richtigkeit
• Vollständigkeit
• Quellenbezug
• Einhaltung von Berechtigungen
• korrekte Klassifikation
• angemessene Eskalation
• erfolgreiche Ausführung von Aktionen
• Bearbeitungszeit
• Anteil menschlicher Korrekturen
• Fehler- und Abbruchquoten

Die richtigen Kennzahlen hängen vom Prozess ab. Entscheidend ist, Qualität nicht nur subjektiv über „gute Antworten“ zu bewerten.

Drei sinnvolle Automatisierungsstufen

Der richtige Einstieg ist häufig nicht die maximal mögliche Automatisierung, sondern die Stufe, bei der Nutzen und Kontrollierbarkeit gut zusammenpassen.

Mit einem begrenzten Prozess beginnen

Ein erfolgversprechender Startpunkt besitzt:

• einen klaren Anfang und ein klares Ergebnis,
• ausreichend häufige Wiederholung,
• zugängliche Daten,
• erkennbare manuelle Arbeit,
• fachlich bewertbare Qualität,
• begrenzte Risiken,
• und eine Fachabteilung, die den Prozess tatsächlich kennt.

Ein solcher Prozess kann Ende zu Ende umgesetzt und bewertet werden. Danach lässt sich entscheiden, welche weiteren Aufgaben auf derselben Grundlage automatisiert werden sollen.

Abschluss

KI erzeugt dann operativen Wert, wenn sie Teil eines belastbaren Systems wird. Das Modell bleibt wichtig – aber erst Daten, Fachlogik, Rollen, Aktionen und Betrieb machen daraus einen intelligenten Geschäftsprozess.