Der KI-Agent darf kreativ denken. Handeln sollte er kontrolliert.

Viele Agenten-Demos überspringen den unangenehmen Teil. Eine Anfrage wird gestellt, der Agent plant mehrere Schritte und am Ende ist etwas erledigt. Das sieht flüssig aus. In echten Organisationen liegen zwischen Anfrage und Ausführung jedoch Fragen wie: Ist der fachliche Kontext eindeutig? Darf der Agent diese Daten verwenden? Welche Version einer Definition gilt? Welche Systeme sind betroffen? Wer muss zustimmen? Was passiert bei einem Fehler? Wie lässt sich die Änderung zurückverfolgen? Ein Agent sollte diese Unsicherheiten nicht mit Selbstbewusstsein überdecken. Er sollte sie bearbeiten.

Das beginnt mit Rückfragen. Eine Anfrage wie „Erstelle einen Bericht zu gefährdeten Kunden“ ist kein ausführbarer Auftrag. Es fehlen Zielgruppe, Definition, Zeitraum, Datenbasis, Qualitätsanforderung und Verantwortlichkeit. Ein guter Agent macht aus der Unschärfe zunächst einen prüfbaren Plan.

Kontrolliertes Handeln bedeutet nicht, jede Aktion in Bürokratie zu ersticken. Fünf klare Grenzen machen einen Agenten verlässlich und produktionsfähig.

Kein erfundener Kontext. Fehlt eine freigegebene Definition oder Entscheidung, wird das sichtbar. Der Agent darf einen Vorschlag machen, aber nicht so tun, als sei die offene Frage bereits geklärt.

Nur bekannte Fähigkeiten. Produktive Aktionen sollten auf freigegebenen, typisierten Fähigkeiten beruhen. Der Agent kann auswählen und kombinieren, aber nicht im Hintergrund beliebige neue Logik erfinden.

Ein verständlicher Plan. Vor der Ausführung muss erkennbar sein, welche Schritte stattfinden, welche Inputs verwendet werden und welche Ergebnisse erwartet werden.

Zustimmung an der richtigen Stelle. Nicht jeder Schritt braucht eine Freigabe. Kritische Entscheidungen schon. Der Agent sollte wissen, wann menschliches Urteil erforderlich ist und wer zuständig ist.

Sichtbare Evidenz. Nach der Ausführung bleibt nachvollziehbar, was passiert ist: verwendete Versionen, Ergebnisse, Abweichungen und getroffene Entscheidungen. Diese Grenzen machen den Agenten nicht schwächer. Sie machen ihn produktionsfähig.

Ein hilfreicher Sparringspartner bestätigt nicht jede Anfrage. Er erkennt Widersprüche und stellt unbequeme Fragen. Angenommen, ein Team möchte ein neues Datenprodukt für „Kundenwert“ aufbauen. Der Agent findet bereits zwei ähnliche Produkte, unterschiedliche Definitionen und eine offene Governance-Entscheidung. Die beeindruckendste Reaktion wäre nicht, in Sekunden ein drittes Produkt anzulegen. Besser wäre:

Ein Unternehmensassistent sollte nicht nur Dokumente durchsuchen. Er braucht eine strukturierte Arbeitswelt aus Zielen, Anforderungen, Datenprodukten, Regeln, Verantwortlichkeiten und freigegebenen Fähigkeiten. Darin kann er Anforderungen hinterfragen, Zusammenhänge aufzeigen und einen kontrollierten nächsten Schritt vorbereiten.

Ein sinnvoller Ablauf reicht von der fachlichen Anfrage über Rückfragen und einen verständlichen Plan bis zur menschlichen Freigabe, versionierten Ausführung und dokumentierten Rückmeldung. Kreativität bleibt möglich, ohne Kontrolle und Verantwortung abzugeben.

Bei Agenten wird häufig gefragt, wie viele Schritte sie selbstständig erledigen können. Das ist eine technische Kennzahl, aber keine gute Produktvision. Entscheidender ist: Wie gut erkennt der Agent, wann Kontext fehlt? Wie klar erklärt er seinen Vorschlag? Wie zuverlässig hält er Grenzen ein? Wie sauber übergibt er Entscheidungen an Verantwortliche? Wie nachvollziehbar bleibt das Ergebnis?

Ein Agent, der zehn Schritte autonom ausführt und dabei die falsche Definition verwendet, ist weniger hilfreich als ein Agent, der nach Schritt zwei die richtige Frage stellt. Vertrauen entsteht nicht dadurch, dass ein System möglichst viel alleine tut. Vertrauen entsteht, wenn klar ist, was es tut, warum es das tut und wann es bewusst nicht weitergeht. Kreativ denken darf der Agent gern. Produktiv handeln sollte er nur auf einer Grundlage, die das Unternehmen verantworten kann.