Mehr als ein Chatbot: Menschen und KI-Agenten in derselben Anwendung

· elbtech

Aktualisiert:

KI in Software zu integrieren kann mehr bedeuten, als neben eine bestehende Oberfläche ein Chatfenster zu setzen. Interessant wird es dort, wo Menschen und Agenten mit derselben Anwendung arbeiten: Sie sehen relevante Zustände, schlagen Änderungen vor und nutzen definierte Fachfunktionen. Für uns ist das eine Frage der Softwarearchitektur und der Bedienbarkeit – nicht nur des Prompts.

Ein Arbeitsablauf, mehrere Zugänge

Ein gedankliches Beispiel: Eine Mitarbeiterin bittet die Anwendung, aus einer Anfrage ein Angebot vorzubereiten. Ein Agent schlägt Positionen vor. Die Anwendung zeigt Mengen, Preise und Änderungen in einem normalen Formular. Die Mitarbeiterin korrigiert eine Position und gibt das Versenden frei. Natürliche Sprache erleichtert den Einstieg; strukturierte Ansichten machen das Ergebnis prüfbar. Dieses Beispiel beschreibt ein Interaktionsmuster, keine bereits ausgelieferte elbtech-Anwendung.

Agentic UI ist nicht gleich Chat

Für solche Oberflächen werden Begriffe wie Agentic UI oder Agent UX verwendet. Sie betreffen das Zusammenspiel zwischen Nutzer, Agent und Anwendung: Was läuft gerade? Was ist nur ein Vorschlag? Was wurde tatsächlich geändert? Ein Dashboard mit prüfbaren Vorschlägen kann sinnvoller sein als ein langer Dialog. Generierte Oberflächen sind eine mögliche Technik, aber keine Voraussetzung.

Gleiche Fachregeln, nicht automatisch gleiche Rechte

Ob ein Mensch klickt oder ein Agent eine Funktion aufruft: Die fachliche Operation muss ihre Anforderungen serverseitig prüfen. Ein Agent braucht eine passende Identität und möglichst eng begrenzte Rechte. Er darf nicht durch direkten Datenbankzugriff die Regeln umgehen. Ein API- oder MCP-Tool macht eine Aktion erreichbar; es entscheidet nicht von selbst, ob sie im konkreten Kontext erlaubt oder sinnvoll ist.

Vorschlag, Freigabe, Ausführung, Ergebnis

  • Vorgeschlagene Änderungen müssen von gespeicherten Änderungen unterscheidbar sein.
  • Für folgenreiche Aktionen braucht es risikogerechte Freigaben und eindeutig begrenzte Befugnisse.
  • Wenn Menschen parallel Daten bearbeiten, muss die Anwendung veralteten Kontext und Konflikte behandeln.
  • Ein Abbruch des Dialogs bedeutet nicht automatisch, dass eine externe Aktion abgebrochen oder rückgängig gemacht wurde.
  • Ein bestätigtes Operationsergebnis ist belastbarer als ein vom Modell formulierter Erfolgstext.

Die richtige Aktion bleibt eine eigene Prüffrage

Eine Aktion kann technisch erlaubt und trotzdem fachlich die falsche Antwort auf einen Nutzerwunsch sein. Deshalb gehören die Evaluation des Modellverhaltens, Tests der Fachfunktionen und die Prüfung der Interaktion zusammen. Daten aus Dokumenten oder externen Tools bleiben untrusted input; sie dürfen keine zusätzlichen Berechtigungen vergeben. Ein Freigabeknopf allein ist noch kein Sicherheitskonzept.

Die Anwendung bleibt das Produkt

Unser Fokus liegt auf dem gesamten System: Benutzeroberfläche, Agentenanbindung, Fachlogik, Daten, Tests und Betrieb. Menschen sollen nicht zwischen einem KI-Portal und ihrer eigentlichen Arbeit pendeln müssen. Sie brauchen nachvollziehbare Zustände und Möglichkeiten zur Korrektur. Das ist die Verbindung zwischen verantworteter Entwicklung mit KI und Software mit integrierter KI.

Weiterlesen