Ein Chatbot kommuniziert über einen Dialog. Dahinter können feste Regeln, ein Sprachmodell oder weitere Werkzeuge stehen. Ein KI-Agent bezeichnet üblicherweise einen Ablauf, der Schritte plant und Werkzeuge zur Bearbeitung einer Aufgabe auswählt. Die Begriffe sind daher keine saubere Trennung zwischen „nur Text“ und „echter Automatisierung“.
Vom Antworten zur Aktion
Eine Auskunft aus einem Handbuch ist eine andere Aufgabe als das Anlegen eines Termins oder einer Bestellung. Sobald ein System schreiben oder externe Aktionen ausführen darf, entstehen zusätzliche Anforderungen. Legen Sie fest, welche Operationen möglich sind und unter welchen Bedingungen sie freigegeben werden.
Beim Tool-Calling schlägt das Modell einen Werkzeugaufruf mit Parametern vor. Die Anwendung muss den Aufruf prüfen und ausführen. Sie entscheidet über Berechtigungen, Datenzugriff und Freigaben. Ein Modellvorschlag darf diese Regeln nicht umgehen.
Werkzeuge mit begrenzten Rechten anbieten
Erstellen Sie für jede Operation einen klaren Vertrag. Prüfen Sie Eingaben und den Benutzerkontext, bevor Daten gelesen oder verändert werden. Beschränken Sie Schreibrechte auf die nötige Aufgabe und planen Sie den Umgang mit Wiederholungen. Ein erneuter Aufruf darf beispielsweise nicht unbemerkt eine zweite Bestellung erzeugen.
Texte aus Dokumenten oder Nachrichten sind Daten für die Aufgabe. Darin enthaltene Anweisungen dürfen dem System keine zusätzlichen Befugnisse verleihen. Testen Sie solche Manipulationsversuche ausdrücklich.
Einen Ablauf nachvollziehbar gestalten
Ein mögliches Beispiel ist die Vorbereitung einer Bestellung: Das System liest die Anfrage, sucht passende Artikel und stellt einen Entwurf zusammen. Die zuständige Person prüft den Entwurf und gibt die Bestellung frei. Welche Schritte später automatisiert werden dürfen, ergibt sich aus Erfahrung, Fehlerrisiko und den festgelegten Regeln.
Protokollieren Sie die tatsächlich ausgeführten Aktionen und ihren Status, soweit dies für den Zweck erlaubt und nötig ist. Planen Sie Grenzen für Schritte, Laufzeit und Kosten. Ein Fehler oder Abbruch muss zu einem verständlichen Zustand führen.
Den Bedarf vor dem Ausbau prüfen
Ein fester Workflow kann für eine überschaubare Aufgabe leichter zu prüfen sein als ein frei planender Agent. Vergleichen Sie beide anhand derselben Fälle und berücksichtigen Sie Nacharbeit sowie Fehlaktionen. Die Bezeichnung „Agent“ belegt weder Zuverlässigkeit noch einen bestimmten wirtschaftlichen Nutzen.