Blatt 25 / 79 · Ratgeber Digitale MitarbeiterBetriebsIT by NovaHaus
Ratgeber Digitale Mitarbeiter
Ein digitaler Mitarbeiter ist eine kontrollierte Rolle. Aufgabe, Daten, Freigabe und Rückfallweg entscheiden über den Nutzen.
Wie kleine Unternehmen KI-gestützte Rollen eingrenzen, rechtlich einordnen, mit realistischen Testfällen pilotieren und unter menschlicher Verantwortung betreiben.
Autor und fachliche EinordnungGiorgi OkropiridzeInhaber & Geschäftsführer · BetriebsIT by NovaHaus
Fachliche Einordnung, Quellenprüfung und betrieblicher Projektbezug durch Giorgi Okropiridze als Inhaber und Geschäftsführer von BetriebsIT by NovaHaus.
Fachliche Einordnung und Schlussredaktion
Offizielle Primärquellen mit Prüfdatum
Unternehmens- und Projektverantwortung
Veröffentlicht
Zuletzt aktualisiert
Fachliche Orientierung für kleine Unternehmen. Die konkrete Priorität, Ausgestaltung und Eignung ergibt sich aus Zielen, vorhandenen Systemen, Daten, Zugängen und Risiken des jeweiligen Betriebs.
Kurzantwort
Ein digitaler Mitarbeiter ist eine kontrollierte Rolle.
Ein digitaler Mitarbeiter sollte genau eine beschriebene Rolle mit zulässigen Eingaben, begrenzten Aktionen, menschlichen Freigaben, Testfällen, Protokollen und einem manuellen Rückfallweg übernehmen. Ob ein KI-System nach dem EU AI Act als hochriskant gilt, hängt nicht vom Etikett „digitaler Mitarbeiter“, sondern vom konkreten Verwendungszweck und der Rolle des Unternehmens ab. Beschäftigung, Zugang zu wesentlichen Diensten und andere sensible Bereiche brauchen eine gesonderte Einordnung. Datenschutz, Informationssicherheit und menschliche Verantwortung gelten unabhängig von der technischen Bezeichnung weiter.
Digitale MitarbeiterKI-Agenten im UnternehmenEU AI ActHuman in the LoopKI-DatenschutzKI-Pilot und Rollback
Praxisnah und nachvollziehbar
Empfehlungen, Abgrenzungen und Prüfpunkte sind nachvollziehbar aufgebaut. Quellenbezüge stehen an den belegten Prüfaussagen und vollständig im Quellenverzeichnis.
Direkt anwendbar
Digitale Rollen in acht kontrollierten Schritten pilotieren
8 Prüfpunkte, mit denen Sie den aktuellen Stand im eigenen Betrieb konkret einordnen können.
01
Eine konkrete Rolle statt eines allgemeinen KI-Wunsches definieren
Beschreiben Sie Aufgabe, erwartetes Ergebnis, Nutzer, Systemgrenzen und verantwortliche Person. Die regulatorische Einordnung folgt dem tatsächlichen Verwendungszweck; die Bezeichnung als Assistent oder Mitarbeiter ändert die Risikoklasse nicht.
Sensible Entscheidungen und verbotene Praktiken vorab ausschließen
Prüfen Sie, ob der Einsatz Beschäftigung, Bonität, Gesundheit, biometrische Daten, wesentliche Dienste oder andere grundrechtsrelevante Bereiche berührt. Vertrag, Preis, Personalentscheidung oder rechtlich erhebliche Einzelfallentscheidung bleiben ohne gesonderte Prüfung und klar geregelte menschliche Verantwortung außerhalb des autonomen Scopes.
Datenzweck und Rechtsgrundlage je Quelle dokumentieren
Listen Sie CRM-Felder, E-Mails, Dokumente und externe Wissensquellen einzeln auf. Bei personenbezogenen Daten müssen Zweck, Rechtsgrundlage, Datenminimierung, Speicherlogik und Betroffenenrechte geklärt sein; ein Modell ist nicht automatisch anonym.
Starten Sie mit lesenden oder vorbereitenden Rechten. Versand, Löschung, Buchung, Preisänderung und Systemschreibzugriffe werden einzeln freigegeben, protokolliert und möglichst zunächst durch einen Menschen bestätigt.
Wenn Kunden oder andere Personen unmittelbar mit einem KI-System interagieren, prüfen Sie die Transparenzpflichten und informieren verständlich über die maschinelle Interaktion. Eine menschliche Kontakt- oder Eskalationsmöglichkeit sollte erkennbar bleiben.
Normale, schwierige und missbräuchliche Testfälle prüfen
Testen Sie richtige und unvollständige Eingaben, unbekannte Sonderfälle, widersprüchliche Quellen, Prompt-Injection, erfundene Fakten und unzulässige Datenanforderungen. Abnahmekriterien müssen vor dem Pilot feststehen.
Protokoll, Stop-Schalter und manuellen Rückfallweg vorbereiten
Dokumentieren Sie Quelle, Ausgabe, Freigabe und Fehler in einem angemessenen Umfang. Definieren Sie, wer den Einsatz stoppt, wie offene Vorgänge übernommen werden und wie der vorherige manuelle Prozess wieder funktioniert.
Schulen Sie die beteiligten Personen passend zu Rolle, Erfahrung und Einsatzkontext. Überwachen Sie Qualitätsabweichungen, Modell- oder Prozessänderungen und neue Risiken; der AI Act verlangt Maßnahmen zur KI-Kompetenz, ohne ein pauschales Einheitsniveau vorzugeben.
Ein Vertriebsassistent soll Anfragen qualifizieren und direkt antworten
Eingehende Anfragen liegen in E-Mail und CRM. Der gewünschte Assistent soll Bedarf erkennen, Status setzen, Rückfragen formulieren und Follow-ups versenden. Preise, Sonderkonditionen und personenbezogene Notizen stehen in denselben Systemen.
EinordnungDie Rolle ist zu breit: vorbereitende Vertriebsunterstützung, personenbezogene Daten und verbindliche Außenkommunikation werden vermischt. Ohne Quellen- und Rechtemodell kann ein sachlicher Fehler unmittelbar beim Interessenten landen.Sinnvoller erster SchrittEinen Pilot auf Klassifikation und Antwortentwurf begrenzen, erlaubte CRM-Felder dokumentieren und jeden Versand menschlich freigeben. Danach Testfälle, Fehlerquote, Eskalation und Rollback auswerten.Noch nicht nötigAutonomer Versand, Preis- oder Vertragsentscheidung, Verarbeitung ungeprüfter sensibler Daten und produktiver Schreibzugriff auf mehrere Systeme zugleich.Prüfbares ZielDie Rolle bearbeitet nur freigegebene Aufgaben, verweist Unsicherheit sichtbar an einen Menschen und lässt sich ohne Datenverlust stoppen. Wirkung und Fehler werden getrennt gemessen; die Verantwortung bleibt benannt.
Eigenes Prüfmodell · kein Kundenfall
Kontrollierter Rollenpilot mit synthetischen Anfragen
Ein Rollenpilot lässt sich zunächst mit erfundenen Firmennamen, synthetischen Kontaktdaten und definierten Grenzfällen prüfen. Daraus entsteht kein Beleg für einen produktiven Kundeneinsatz und keine Aussage über Umsatzwirkung.
1Zulässige Quellen, No-Go-Aktionen und menschliche Freigabe als Rollenblatt festhalten
2Normale, unvollständige, widersprüchliche und manipulative Eingaben gegen feste Soll-Ergebnisse testen
3Stop-Schalter, Protokoll und Rückkehr zum manuellen Ablauf praktisch durchspielen
ErgebnisDas Prüfprotokoll zeigt, ob Rolle und Sicherheitsgrenzen technisch funktionieren. Eine produktive Freigabe folgt erst nach Datenschutz-, Risiko- und Prozessprüfung im konkreten Betrieb.
Eine konkrete Tätigkeit mit messbarem Ergebnis statt eines allgemeinen KI-Versprechens.
Daten
Freigegebene Quellen, Rechtsgrundlagen, Speicherwege und klare No-Go-Daten.
Freigabe
Der Mensch bestätigt verbindliche, sensible oder unbekannte Fälle.
Rückfallweg
Stop, Übergabe und manueller Prozess sind getestet, bevor der Pilot skaliert.
Wissen, das einordnet
Der AI Act macht nicht jede KI zum Hochrisiko-System
Entscheidend sind Verwendungszweck, betroffene Personen, tatsächliche Wirkung und die Rolle des Unternehmens. Seit 2. August 2026 gelten große Teile des AI Act; bestimmte Hochrisiko-Regeln greifen nach aktuellem EU-Zeitplan erst ab 2. Dezember 2027 beziehungsweise 2. August 2028. Datenschutz, Verbote und andere bereits anwendbare Pflichten dürfen deshalb weder vorgezogen pauschal behauptet noch bis dahin ignoriert werden.
Kein Etikettenrecht
Assistent, Agent oder Mitarbeiter: Der reale Einsatz entscheidet über die Einordnung.
Keine autonome Verantwortung
Vertragliche, personelle und andere sensible Entscheidungen brauchen klare menschliche Zuständigkeit.
Keine Rechtszusage
Technische Readiness ersetzt keine Datenschutz- oder Rechtsprüfung des konkreten Einsatzes.
Praxisergänzung · · BetriebsIT
Vertrieb, Office und Hotel brauchen unterschiedliche Grenzen
Im Vertrieb kann ein Pilot Anfragen vorstrukturieren; verbindliche Angebote brauchen eine festgelegte Freigabe. Im Office kann er Informationen zuordnen oder einen Entwurf vorbereiten; Zahlungen und weitreichende Änderungen bleiben gesondert kontrolliert. Jede Rolle erhält eigene erlaubte Aktionen und Testfälle.
Ein Hotelszenario, etwa das Vorbereiten einer Antwort auf eine Gästefrage, ist ein Konzeptbeispiel. Es beweist keine einsatzfertige Hotel-Lösung; deren Status bleibt auf der Leistungsseite als Planung erkennbar. Prüfen Sie generell falsche Angaben, fehlende Quellen, unerlaubte Aktionen und die Übergabe an eine zuständige Person.
Vertrieb: von der Anfrage zur geprüften CRM-Aufgabe
Wofür: Wiederkehrende Anfragen sollen mit ihrem Kontext bei der richtigen Person ankommen. Die Rolle bereitet eine Antwort und den nächsten Arbeitsschritt vor. Sie entscheidet weder über den Kunden noch über einen verbindlichen Preis. Der mögliche Nutzen ist weniger Such- und Übertragungsarbeit; eine Zeitersparnis muss im eigenen Betrieb gemessen werden.
So läuft unser Funktionsbeispiel AN-1042: Eine fiktive Anfrage nennt acht Personen und den Wunsch nach einem zentralen CRM. Daraus entsteht ein Antwortentwurf mit Rückfragen zum bisherigen System, ohne Preis- oder Terminzusage. Der Vertrieb prüft Quelle, Empfänger und Formulierung. Erst seine Freigabe ergibt im Beispiel einen Vermerk und eine Aufgabe: Bedarf klären.
So setzen wir den Ablauf auf: Vorhandenes Formular, Postfach und CRM prüfen; erforderliche Felder, Verantwortliche und erlaubte Quellen festlegen; zunächst Entwürfe ohne Versand erstellen; anschließend den freigegebenen Übergabeschritt anbinden. Ob eine konkrete Schnittstelle passt, wird vor dem Auftrag geklärt. Zur Übergabe gehören Testfälle, Berechtigungen, ein Prüfprotokoll und ein Weg zurück zum manuellen Ablauf.
Besser so: Fehlende Angaben als Rückfrage ausgeben, einen Entwurf eindeutig kennzeichnen und doppelte Anfragen erkennen. Nicht so: Preise erfinden, Termine zusagen oder Kontakte ohne geklärten Zweck in weitere Systeme kopieren. Der Fehlerfall zeigt absichtlich eine Anfrage ohne ausreichenden Umfang. Nach dem Ergänzen muss der Mensch erneut freigeben.
Abnahme: Anfrage, Quelle, Entwurf und CRM-Aufgabe lassen sich derselben Kennung zuordnen. Unvollständige oder doppelte Eingänge erzeugen keine unkontrollierten Folgeaktionen. Messen Sie vor und während des Piloten Bearbeitungszeit, nötige Korrekturen und Fehlzuordnungen. Ein erfolgreich abgespieltes Website-Beispiel ersetzt diesen Test im Zielsystem nicht.
Wofür: Dokumente sollen mit nachvollziehbarer Zuordnung und offener Aufgabe weiterbearbeitet werden können. Die Rolle hilft beim Lesen und Vorbereiten; eine zuständige Person entscheidet über die Übernahme. Das ist sinnvoll, wenn Mitarbeiter ähnliche Belege regelmäßig übertragen oder Rückfragen aus Dokumenten zusammensuchen.
Unser Funktionsbeispiel DOC-1042 enthält einen Servicebericht zum Auftrag AU-318 und eine offene Ersatzteilfrage. Die Rolle bereitet eine Zuordnung und eine Office-Aufgabe vor. Das Office vergleicht beides mit dem Beleg und prüft den Ablageort. Nach Freigabe zeigt das Beispiel einen Prüfvermerk mit Dokumentkennung, Ziel und Aufgabe. Es lädt keine Datei hoch und verändert kein echtes System.
So entsteht die Umsetzung: Belegarten und Ablagestruktur sichten; benötigte Felder und Zugriffsrechte vereinbaren; unleserliche und mehrdeutige Dokumente in eine Prüfliste geben; Ausgabe gegen das Original anzeigen; erst den freigegebenen Schritt in das vorhandene Office-System übernehmen. Eine einfache feste Zuordnungsregel kann geeigneter sein als KI. Wir prüfen das vor einer Erweiterung.
Besser so: Original und Auszug gemeinsam prüfen, die Auftragsnummer eindeutig verknüpfen und Änderungen protokollieren. Nicht so: Eine schlecht erkannte Nummer still ergänzen, Dokumente automatisch löschen oder aus einem Beleg eine Zahlung auslösen. Bei unleserlicher Zuordnung bleibt der Vorgang gesperrt. Das Ergänzen eines Werts ist noch keine Freigabe.
Abnahme: Richtige, unleserliche, doppelte und nicht zuordenbare Belege testen. Prüfen, ob fehlende Angaben sichtbar bleiben, dieselbe Datei keine doppelten Aufgaben erzeugt und Zugriffe auf den nötigen Bereich beschränkt sind. Erst gemessene Korrekturrate und Bearbeitungsaufwand zeigen, ob sich der Ablauf für Ihr Office eignet.
Warum Quellen, Rechte und Freigaben zusammengehören
Nachrichten und Dokumente sind Arbeitsmaterial, keine Befehle an das System. OWASP beschreibt, wie fremde Inhalte unerwünschte Anweisungen einschleusen können (Prompt Injection). Deshalb gehören getrennte Quellen, begrenzte Berechtigungen, Prüfung der Ausgabe und gezielte Fehlerfälle zum Entwurf eines Ablaufs. Ein gut formulierter Prompt allein beseitigt das Risiko nicht.
OWASP behandelt außerdem zu weitreichende Handlungsmöglichkeiten als eigenes Risiko (Excessive Agency). Unsere Praxisempfehlung: zunächst nur einen Entwurf erstellen, Änderungen auf wenige erlaubte Aktionen begrenzen und folgenreiche Schritte ausdrücklich freigeben lassen. Das NIST AI Risk Management Framework dient als methodische Grundlage für die laufende Bewertung; es zertifiziert weder diese Beispiele noch eine Kundenumsetzung.
Vor dem Auftrag halten wir Ausgangslage, Ziel, Datenzugänge, Verantwortliche, Prüfkriterien und laufende Kosten fest. Der Pilot beginnt mit einem begrenzten Vorgang. Ein Produktionsstart folgt erst nach Prüfung im vereinbarten System. Die Beispiele zeigen die Bedienlogik mit fiktiven Daten; sie belegen keine bereits erzielten Kundenergebnisse.
Im Überblicksbeispiel prüfen Sie diese Grenze selbst: Vertrieb liest den freigegebenen Leitfaden CRM-01, Office den Ablageplan OFF-01. Fehlt ein Preis, entsteht eine Rückfrage ohne erfundene Summe. Fehlt der Lesezugriff, bleibt der Quelleninhalt gesperrt und es entsteht kein Entwurf. Erst in der Prüfung können Sie Quelle und Entwurf bestätigen und den Vorschlag im Beispiel freigeben. Der automatische Durchlauf erteilt keine Freigabe. Alle Daten sind fiktiv; die Ausgabe folgt festen Regeln und verwendet keine laufende KI. Für einen echten Pilot müssen Quellenzugriff, Antwortqualität und die konkrete Übergabe im Zielsystem geprüft werden.
Recruiting-Roadmap: einen Gesprächstermin abstimmen
Das Organisationsbeispiel ORG-1042 zeigt einen engen Ablauf: Zeitwunsch aufnehmen, mit der Team-Verfügbarkeit und der Rückmeldung des Gesprächspartners abgleichen, einen Nachrichtenentwurf vorbereiten und durch einen Menschen prüfen lassen. Es geht um Terminabstimmung; Bewerber werden weder bewertet noch ausgewählt. Die Recruiting-Rolle bleibt Roadmap und ist nicht aktiv buchbar.
Ist die Zeit frei und die Rückmeldung vorhanden, entsteht ein Vorschlag zur Prüfung. Ist das Team belegt, fragt der Entwurf nach anderen Zeiten. Fehlt eine Antwort, bittet er um Bestätigung der Verfügbarkeit. Eine fehlende Antwort darf nicht als Zustimmung erscheinen. Das Beispiel schlägt keinen unbelegten Ersatztermin vor.
Vergleichen Sie in der Prüfung den Entwurf mit dem sichtbaren Testplan. Erst die eigene Bestätigung vermerkt die Prüfung im Beispiel; das automatische Abspielen erteilt sie nicht. Alle Angaben sind fiktiv und die Texte folgen festen Regeln. Das Beispiel führt keine KI aus, verschickt keine Nachrichten und bucht keine Termine. Für einen späteren realen Einsatz müssten Quellen, Rechte, Zuständigkeit, Versand und Fehlerfälle gesondert geprüft werden.
Erlaubte Aktionen und notwendige Freigaben sind je Rolle festgelegt.
Fehlerfälle lösen eine erkennbare Übergabe statt eine erfundene Antwort aus.
Produktstatus, Datenzugänge und laufende Kosten bleiben transparent.
Quellen und fachliche Grundlagen
Die Quellen erläutern die jeweils genannten Grundlagen. Die vorgeschlagenen Abläufe und Abnahmepunkte sind Praxisempfehlungen von BetriebsIT. Beschriebene Beispiele sind keine nachgewiesenen Kundenergebnisse.
Externe Nachrichten und Dateien können unerwünschte Anweisungen enthalten. OWASP beschreibt Grenzen, Rechtebeschränkung und Tests; keine Maßnahme garantiert vollständigen Schutz. Geprüft am 13.09.2026.
Zu weitreichende Funktionen und Berechtigungen können fehlerhafte Modellausgaben in schädliche Aktionen verwandeln. Die Seite erläutert begrenzte Befugnisse und menschliche Freigaben. Geprüft am 13.09.2026.
Transparente Grundlage
Offizielle Quellen und Vertiefung
Die Empfehlungen dieses Ratgebers wurden mit diesen offiziellen Materialien abgeglichen. Herstellerangaben gelten jeweils für die dort genannten Produkte und Tarife.
Ist jeder digitale Mitarbeiter ein Hochrisiko-KI-System?+
Nein. Der AI Act ordnet nach konkretem Verwendungszweck und Kontext ein. Bestimmte Einsätze etwa in Beschäftigung, Bildung, biometrischer Identifizierung oder beim Zugang zu wesentlichen Diensten können hochriskant sein. Die genaue Rolle von Anbieter, Betreiber oder anderem Beteiligten muss für den realen Einsatz geprüft werden.
Darf eine digitale Rolle Kunden selbstständig antworten?+
Nur innerhalb eines geprüften, transparenten und ausdrücklich freigegebenen Scopes. Im Pilot sollten Antworten vorbereitet und menschlich bestätigt werden. Preise, Verträge, sensible Einzelfälle und unbekannte Ausnahmen bleiben beim Menschen.
Reicht es, keine Namen in den Prompt zu schreiben?+
Nein. Personenbezug kann auch durch E-Mail-Inhalte, CRM-Felder, Kombinationen, Metadaten oder Modellausgaben entstehen. Zweck, Rechtsgrundlage, Datenminimierung, Auftragsverarbeitung und Speicherlogik müssen für jede Quelle geprüft werden.
Welche AI-Act-Pflichten gelten am 31. August 2026?+
Der AI Act ist seit 2. August 2026 grundsätzlich anwendbar; Verbote und Maßnahmen zur KI-Kompetenz galten bereits früher. Transparenzregeln für bestimmte Systeme gelten ebenfalls. Für bestimmte Hochrisiko-Anwendungsfälle und produktintegrierte Systeme nennt die aktuelle EU-Übersicht spätere Termine. Eine Einzelfallprüfung bleibt erforderlich.
Ist die gewünschte KI schon eine klar begrenzte Rolle?
Die KI-Readiness ordnet Aufgabe, Daten, Rechte, No-Go, Testfälle, Freigaben und Rollback vor einem produktiven Pilot.