Ein digitaler Mitarbeiter ist eine kontrollierte Rolle. Aufgabe, Daten, Freigabe und Rückfallweg entscheiden über den Nutzen.

Beschreiben Sie Aufgabe, erwartetes Ergebnis, Nutzer, Systemgrenzen und verantwortliche Person. Die regulatorische Einordnung folgt dem tatsächlichen Verwendungszweck; die Bezeichnung als Assistent oder Mitarbeiter ändert die Risikoklasse nicht.

Prüfen Sie, ob der Einsatz Beschäftigung, Bonität, Gesundheit, biometrische Daten, wesentliche Dienste oder andere grundrechtsrelevante Bereiche berührt. Vertrag, Preis, Personalentscheidung oder rechtlich erhebliche Einzelfallentscheidung bleiben ohne gesonderte Prüfung und klar geregelte menschliche Verantwortung außerhalb des autonomen Scopes.

Listen Sie CRM-Felder, E-Mails, Dokumente und externe Wissensquellen einzeln auf. Bei personenbezogenen Daten müssen Zweck, Rechtsgrundlage, Datenminimierung, Speicherlogik und Betroffenenrechte geklärt sein; ein Modell ist nicht automatisch anonym.

Starten Sie mit lesenden oder vorbereitenden Rechten. Versand, Löschung, Buchung, Preisänderung und Systemschreibzugriffe werden einzeln freigegeben, protokolliert und möglichst zunächst durch einen Menschen bestätigt.

Wenn Kunden oder andere Personen unmittelbar mit einem KI-System interagieren, prüfen Sie die Transparenzpflichten und informieren verständlich über die maschinelle Interaktion. Eine menschliche Kontakt- oder Eskalationsmöglichkeit sollte erkennbar bleiben.

Testen Sie richtige und unvollständige Eingaben, unbekannte Sonderfälle, widersprüchliche Quellen, Prompt-Injection, erfundene Fakten und unzulässige Datenanforderungen. Abnahmekriterien müssen vor dem Pilot feststehen.

Dokumentieren Sie Quelle, Ausgabe, Freigabe und Fehler in einem angemessenen Umfang. Definieren Sie, wer den Einsatz stoppt, wie offene Vorgänge übernommen werden und wie der vorherige manuelle Prozess wieder funktioniert.

Schulen Sie die beteiligten Personen passend zu Rolle, Erfahrung und Einsatzkontext. Überwachen Sie Qualitätsabweichungen, Modell- oder Prozessänderungen und neue Risiken; der AI Act verlangt Maßnahmen zur KI-Kompetenz, ohne ein pauschales Einheitsniveau vorzugeben.