„Der Agent darf das nicht entscheiden» ist keine Einstellung im System. Es ist eine Aussage über einen bestimmten Schritt in einem bestimmten Prozess – und genau dort gehört sie hin.
Die Frage wird meist falsch gestellt
In den meisten Diskussionen klingt sie so: Wie viel Autonomie geben wir der KI? Damit ist die Antwort schon verdorben, weil sie eine Zahl verlangt, wo eine Liste nötig wäre.
Autonomie ist keine Eigenschaft des Agenten. Sie ist eine Eigenschaft der Aufgabe. Derselbe Agent darf einen Prozessschritt selbständig abschliessen und beim nächsten nur einen Vorschlag machen – nicht weil er dazwischen dümmer geworden wäre, sondern weil die Folgen andere sind.
Nicht der Agent bekommt eine Freigabestufe, sondern der Schritt.
Drei Stufen genügen
Wer mehr als drei Stufen einführt, bekommt eine Matrix, die niemand pflegt. Drei reichen, wenn sie klar getrennt sind:
1 Selbständig
Der Agent führt aus und schliesst ab. Kein Mensch sieht das Ergebnis vorher.
Wann vertretbar: Wenn ein Fehler im nächsten Schritt auffällt und ohne Schaden korrigierbar ist. Beispiel: ein Modell aus einem Workshop-Protokoll erzeugen. Ist es falsch, sieht das der Fachbereich sofort.
2 Vorlage zur Freigabe
Der Agent bereitet vollständig vor, ein Mensch gibt frei. Ohne Freigabe passiert nichts.
Wann nötig: Wenn das Ergebnis nach aussen wirkt oder in einem anderen System landet. Beispiel: Vorgänge in Jira anlegen, eine Confluence-Seite veröffentlichen, eine Spezifikation an einen Dienstleister geben.
Diese Stufe wird am häufigsten unterschätzt. Sie ist nicht der Kompromiss zwischen den beiden anderen, sondern der Normalfall.
3 Ausgeschlossen
Der Agent darf nicht einmal vorschlagen.
Wann zwingend: Wenn die Entscheidung Verantwortung zuweist oder Menschen betrifft. Ein Agent darf keine Rolle vergeben, keine Freigabe erteilen, keine Abnahme unterschreiben.
Warum ein Agent nie „A» trägt
Nach RACI bedeutet A: jemand steht dafür gerade. Diese Zuschreibung setzt voraus, dass man die Person zur Rede stellen kann – dass sie Konsequenzen trägt, ihre Meinung ändern kann, sich weigern kann.
Nichts davon trifft auf einen Agenten zu. Ein Agent, der ein A trägt, erzeugt eine Lücke, die aussieht wie eine Besetzung.
Die Regel: R, C und I sind für Agenten zulässig. A nicht. Wer einen Agenten einsetzt, trägt das A für seinen Einsatz.
Das ist übrigens die einzige Regel dieser Art, die sich technisch prüfen lässt: Ein Modell kann melden, wo ein Agent ein A trägt. Für alles andere braucht es Urteilsvermögen.
Die vier Fragen vor der Einstufung
| Frage | Wenn die Antwort ungünstig ausfällt |
|---|---|
| Wer merkt einen Fehler – und wann? | Merkt ihn niemand zeitnah: nicht selbständig |
| Was kostet die Korrektur? | Mehr als die Ersparnis: Freigabe vorschalten |
| Wirkt das Ergebnis nach aussen? | Ja: Freigabe, ohne Ausnahme |
| Weist es jemandem Verantwortung zu? | Ja: ausgeschlossen |
Vier Fragen, die man in fünf Minuten beantwortet. Sie ersparen die Grundsatzdebatte, weil sie am konkreten Schritt geführt werden.
Was in der Praxis schiefgeht
Die Stufe steht in der Konfiguration statt am Prozess
Wird die Freigabepflicht im Werkzeug eingestellt, kennt sie nur, wer das Werkzeug bedient. Steht sie am Prozessschritt, sieht sie jeder, der den Prozess ansieht – und sie überlebt den Wechsel des Werkzeugs.
Freigabe als Klick ohne Blick
Wer zwanzig Freigaben am Tag bestätigt, prüft keine davon. Zu viele Freigabeschritte sind gefährlicher als zu wenige, weil sie Sicherheit vortäuschen. Lieber wenige echte Freigaben als viele geklickte.
Niemand prüft die Einstufung nach
Was vor einem Jahr Freigabe brauchte, läuft heute vielleicht selbständig – und umgekehrt. Ohne festen Zeitpunkt für die Überprüfung veraltet jede Einstufung still.
Kurz gefasst
Autonomie gehört an den Schritt, nicht an den Agenten. Drei Stufen genügen: selbständig, Vorlage zur Freigabe, ausgeschlossen. Und eine Regel gilt ohne Ausnahme: Ein Agent trägt kein A.
Weiterlesen:
Eskalation und KI-Agenten ·
RACI – wer entscheidet, wer wird gehört ·
Governance und Compliance
Deja una respuesta