Fünf Fragen, die vor dem KI-Einsatz beantwortet sein sollten

Laut dem Work Trend Index 2024 von Microsoft und LinkedIn nutzen drei von vier Wissensarbeitenden KI bei der Arbeit – und 78 Prozent davon bringen ihre eigenen Werkzeuge mit. 60 Prozent der Führungskräfte sorgen sich, dass ihrem Unternehmen dafür ein Plan fehlt. Die Frage ist also nicht mehr, ob KI eingesetzt wird, sondern ob geordnet.

1. Wer haftet für das Ergebnis?

Die Antwort muss vor dem Einsatz feststehen, nicht nach dem ersten Fehler. Die EU-KI-Verordnung verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht (Art. 14). TAOM setzt das grundsätzlich um: Ein Agent schlägt vor, freigeben tut ein Mensch, und die Freigabe steht mit Person und Zeitpunkt am Ergebnis.

Die Verordnung gilt in der EU. Schweizer Unternehmen betrifft sie vor allem dann, wenn sie KI-Systeme in der EU anbieten oder deren Ergebnisse dort verwendet werden.

2. Wo liegen die Daten – und was sieht die KI davon?

Der Eidgenössische Datenschutzbeauftragte hält fest, dass das Datenschutzgesetz direkt auf KI-gestützte Bearbeitungen anwendbar ist; Zweck, Funktionsweise und Datenquellen müssen transparent sein (EDÖB: AI and data protection). Bei TAOM beginnt der Normalfall in der Schweiz (Trust Center), und personenbezogene oder vertrauliche Inhalte werden erkannt und geschützt, bevor sie an eine KI gehen (Automatisierter Datenschutz).

3. Woher weiss ich, dass es stimmt?

Ein Ergebnis ohne Herkunft ist eine Behauptung. In TAOM ist gekennzeichnet, was ein Agent erzeugt und was ein Mensch geprüft hat. Fassungen und Freigaben sind protokolliert – nachvollziehbar statt nachträglich behauptet.

4. Was darf der Agent – und was nie?

Autonomie ist keine Eigenschaft des Agenten, sondern des Schritts. Wie man das in drei Stufen festlegt, beschreibt unser Beitrag Was darf ein KI-Agent entscheiden?.

5. Wie holen wir die Schatten-KI zurück?

Schatten-KI nennt man KI-Werkzeuge, die Mitarbeitende auf eigene Faust nutzen – ohne Freigabe, ohne Vertrag und oft mit Firmendaten. Verbote wirken selten. Besser ist ein Weg, der einfacher ist als der private Chat: ein Agent, der das Unternehmen kennt, weil er auf dem Prozessmodell arbeitet, und dessen Ergebnisse dort landen, wo alle sie finden.

Zum Vertiefen: NIST AI Risk Management Framework – ein frei verfügbarer Rahmen, um KI-Risiken zu erkennen und zu steuern.

Über TAOM: TAOM ist die Methode und Plattform der Traniva AG (Schweiz) für das Zusammenspiel von Menschen, Prozessen und KI – mit Process Studio Editor und Viewer, TAOM Training und Support. Grundsatz: KI unterstützt, die Verantwortung bleibt beim Menschen.

Weiterlesen: Governance und Compliance · KI-Belegschaft · Trust Center