Zum Hauptinhalt springen

Blatt 25 / 79 · Ratgeber Digitale MitarbeiterBetriebsIT by NovaHaus

Ratgeber Digitale Mitarbeiter

Ein digitaler Mitarbeiter ist eine kontrollierte Rolle. Aufgabe, Daten, Freigabe und Rückfallweg entscheiden über den Nutzen.

Wie kleine Unternehmen KI-gestützte Rollen eingrenzen, rechtlich einordnen, mit realistischen Testfällen pilotieren und unter menschlicher Verantwortung betreiben.

EU- und BSI-PrimärquellenMenschliche VerantwortungPilot vor Automatik
Blatt
25 / 79 · Ratgeber Digitale Mitarbeiter
Stand
15.09.2026
Verantwortlich
Giorgi Okropiridze
Zusagen
Umfang & Preis vor Auftrag · Übergabe dokumentiert · Verantwortlicher benannt

Fortsetzung Blatt 26 →

Orientierung mit klarer EmpfehlungErst verstehen, dann sauber entscheiden.
23 Ratgeberkonkrete FragenAntwort + Checkliste
PrimärquellenBSI · EU · Anbietersichtbar zugeordnet
1 AutorQualifikation sichtbarfachlich verantwortet
AktualisiertDatum je Beitragnachvollziehbarer Stand
Digital-Check BeispieldatenSichtbarkeitteilweiseSicherheitpriorisierenProzessestabil
Kurzantwort

Ein digitaler Mitarbeiter ist eine kontrollierte Rolle.

Ein digitaler Mitarbeiter sollte genau eine beschriebene Rolle mit zulässigen Eingaben, begrenzten Aktionen, menschlichen Freigaben, Testfällen, Protokollen und einem manuellen Rückfallweg übernehmen. Ob ein KI-System nach dem EU AI Act als hochriskant gilt, hängt nicht vom Etikett „digitaler Mitarbeiter“, sondern vom konkreten Verwendungszweck und der Rolle des Unternehmens ab. Beschäftigung, Zugang zu wesentlichen Diensten und andere sensible Bereiche brauchen eine gesonderte Einordnung. Datenschutz, Informationssicherheit und menschliche Verantwortung gelten unabhängig von der technischen Bezeichnung weiter.

Digitale MitarbeiterKI-Agenten im UnternehmenEU AI ActHuman in the LoopKI-DatenschutzKI-Pilot und Rollback
Praxisnah und nachvollziehbar

Empfehlungen, Abgrenzungen und Prüfpunkte sind nachvollziehbar aufgebaut. Quellenbezüge stehen an den belegten Prüfaussagen und vollständig im Quellenverzeichnis.

Direkt anwendbar

Digitale Rollen in acht kontrollierten Schritten pilotieren

8 Prüfpunkte, mit denen Sie den aktuellen Stand im eigenen Betrieb konkret einordnen können.

  1. 01
    Eine konkrete Rolle statt eines allgemeinen KI-Wunsches definieren

    Beschreiben Sie Aufgabe, erwartetes Ergebnis, Nutzer, Systemgrenzen und verantwortliche Person. Die regulatorische Einordnung folgt dem tatsächlichen Verwendungszweck; die Bezeichnung als Assistent oder Mitarbeiter ändert die Risikoklasse nicht.

    QuellenEU-Kommission · AI Act: aktueller Anwendungsrahmen und ZeitplanBSI · Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden
  2. 02
    Sensible Entscheidungen und verbotene Praktiken vorab ausschließen

    Prüfen Sie, ob der Einsatz Beschäftigung, Bonität, Gesundheit, biometrische Daten, wesentliche Dienste oder andere grundrechtsrelevante Bereiche berührt. Vertrag, Preis, Personalentscheidung oder rechtlich erhebliche Einzelfallentscheidung bleiben ohne gesonderte Prüfung und klar geregelte menschliche Verantwortung außerhalb des autonomen Scopes.

    QuellenEUR-Lex · Verordnung (EU) 2024/1689 über künstliche IntelligenzEU-Kommission · AI Act: aktueller Anwendungsrahmen und Zeitplan
  3. 03
    Datenzweck und Rechtsgrundlage je Quelle dokumentieren

    Listen Sie CRM-Felder, E-Mails, Dokumente und externe Wissensquellen einzeln auf. Bei personenbezogenen Daten müssen Zweck, Rechtsgrundlage, Datenminimierung, Speicherlogik und Betroffenenrechte geklärt sein; ein Modell ist nicht automatisch anonym.

    QuellenEUR-Lex · Verordnung (EU) 2016/679 – Datenschutz-GrundverordnungEDPB · Opinion 28/2024 on data protection aspects related to AI models
  4. 04
    Zugriffe technisch auf das Nötige begrenzen

    Starten Sie mit lesenden oder vorbereitenden Rechten. Versand, Löschung, Buchung, Preisänderung und Systemschreibzugriffe werden einzeln freigegeben, protokolliert und möglichst zunächst durch einen Menschen bestätigt.

    QuellenBSI · Generative KI-Modelle: Chancen und Risiken für Industrie und BehördenEUR-Lex · Verordnung (EU) 2016/679 – Datenschutz-Grundverordnung
  5. 05
    KI-Interaktion transparent kennzeichnen

    Wenn Kunden oder andere Personen unmittelbar mit einem KI-System interagieren, prüfen Sie die Transparenzpflichten und informieren verständlich über die maschinelle Interaktion. Eine menschliche Kontakt- oder Eskalationsmöglichkeit sollte erkennbar bleiben.

    QuellenEUR-Lex · Verordnung (EU) 2024/1689 über künstliche IntelligenzEU-Kommission · AI Act: aktueller Anwendungsrahmen und Zeitplan
  6. 06
    Normale, schwierige und missbräuchliche Testfälle prüfen

    Testen Sie richtige und unvollständige Eingaben, unbekannte Sonderfälle, widersprüchliche Quellen, Prompt-Injection, erfundene Fakten und unzulässige Datenanforderungen. Abnahmekriterien müssen vor dem Pilot feststehen.

    QuellenBSI · Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden
  7. 07
    Protokoll, Stop-Schalter und manuellen Rückfallweg vorbereiten

    Dokumentieren Sie Quelle, Ausgabe, Freigabe und Fehler in einem angemessenen Umfang. Definieren Sie, wer den Einsatz stoppt, wie offene Vorgänge übernommen werden und wie der vorherige manuelle Prozess wieder funktioniert.

    QuellenBSI · Generative KI-Modelle: Chancen und Risiken für Industrie und BehördenEUR-Lex · Verordnung (EU) 2024/1689 über künstliche Intelligenz
  8. 08
    Kompetenz und Betrieb regelmäßig nachhalten

    Schulen Sie die beteiligten Personen passend zu Rolle, Erfahrung und Einsatzkontext. Überwachen Sie Qualitätsabweichungen, Modell- oder Prozessänderungen und neue Risiken; der AI Act verlangt Maßnahmen zur KI-Kompetenz, ohne ein pauschales Einheitsniveau vorzugeben.

    QuellenEU-Kommission · AI Literacy – Questions & AnswersEU-Kommission · AI Act: aktueller Anwendungsrahmen und Zeitplan
Typisches Betriebsszenario

Ein Vertriebsassistent soll Anfragen qualifizieren und direkt antworten

Eingehende Anfragen liegen in E-Mail und CRM. Der gewünschte Assistent soll Bedarf erkennen, Status setzen, Rückfragen formulieren und Follow-ups versenden. Preise, Sonderkonditionen und personenbezogene Notizen stehen in denselben Systemen.

QuellenEU-Kommission · AI Act: aktueller Anwendungsrahmen und ZeitplanEDPB · Opinion 28/2024 on data protection aspects related to AI modelsBSI · Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden
EinordnungDie Rolle ist zu breit: vorbereitende Vertriebsunterstützung, personenbezogene Daten und verbindliche Außenkommunikation werden vermischt. Ohne Quellen- und Rechtemodell kann ein sachlicher Fehler unmittelbar beim Interessenten landen.
Sinnvoller erster SchrittEinen Pilot auf Klassifikation und Antwortentwurf begrenzen, erlaubte CRM-Felder dokumentieren und jeden Versand menschlich freigeben. Danach Testfälle, Fehlerquote, Eskalation und Rollback auswerten.
Noch nicht nötigAutonomer Versand, Preis- oder Vertragsentscheidung, Verarbeitung ungeprüfter sensibler Daten und produktiver Schreibzugriff auf mehrere Systeme zugleich.
Prüfbares ZielDie Rolle bearbeitet nur freigegebene Aufgaben, verweist Unsicherheit sichtbar an einen Menschen und lässt sich ohne Datenverlust stoppen. Wirkung und Fehler werden getrennt gemessen; die Verantwortung bleibt benannt.
Eigenes Prüfmodell · kein Kundenfall

Kontrollierter Rollenpilot mit synthetischen Anfragen

Ein Rollenpilot lässt sich zunächst mit erfundenen Firmennamen, synthetischen Kontaktdaten und definierten Grenzfällen prüfen. Daraus entsteht kein Beleg für einen produktiven Kundeneinsatz und keine Aussage über Umsatzwirkung.

  1. 1Zulässige Quellen, No-Go-Aktionen und menschliche Freigabe als Rollenblatt festhalten
  2. 2Normale, unvollständige, widersprüchliche und manipulative Eingaben gegen feste Soll-Ergebnisse testen
  3. 3Stop-Schalter, Protokoll und Rückkehr zum manuellen Ablauf praktisch durchspielen
ErgebnisDas Prüfprotokoll zeigt, ob Rolle und Sicherheitsgrenzen technisch funktionieren. Eine produktive Freigabe folgt erst nach Datenschutz-, Risiko- und Prozessprüfung im konkreten Betrieb.
BetriebsIT-Demos und Prüfgrenzen ansehen

Vier Grenzen machen aus KI eine betreibbare Rolle

Aufgabe

Eine konkrete Tätigkeit mit messbarem Ergebnis statt eines allgemeinen KI-Versprechens.

Daten

Freigegebene Quellen, Rechtsgrundlagen, Speicherwege und klare No-Go-Daten.

Freigabe

Der Mensch bestätigt verbindliche, sensible oder unbekannte Fälle.

Rückfallweg

Stop, Übergabe und manueller Prozess sind getestet, bevor der Pilot skaliert.

Wissen, das einordnet

Der AI Act macht nicht jede KI zum Hochrisiko-System

Entscheidend sind Verwendungszweck, betroffene Personen, tatsächliche Wirkung und die Rolle des Unternehmens. Seit 2. August 2026 gelten große Teile des AI Act; bestimmte Hochrisiko-Regeln greifen nach aktuellem EU-Zeitplan erst ab 2. Dezember 2027 beziehungsweise 2. August 2028. Datenschutz, Verbote und andere bereits anwendbare Pflichten dürfen deshalb weder vorgezogen pauschal behauptet noch bis dahin ignoriert werden.

Kein Etikettenrecht

Assistent, Agent oder Mitarbeiter: Der reale Einsatz entscheidet über die Einordnung.

Keine autonome Verantwortung

Vertragliche, personelle und andere sensible Entscheidungen brauchen klare menschliche Zuständigkeit.

Keine Rechtszusage

Technische Readiness ersetzt keine Datenschutz- oder Rechtsprüfung des konkreten Einsatzes.

Praxisergänzung · · BetriebsIT

Vertrieb, Office und Hotel brauchen unterschiedliche Grenzen

Im Vertrieb kann ein Pilot Anfragen vorstrukturieren; verbindliche Angebote brauchen eine festgelegte Freigabe. Im Office kann er Informationen zuordnen oder einen Entwurf vorbereiten; Zahlungen und weitreichende Änderungen bleiben gesondert kontrolliert. Jede Rolle erhält eigene erlaubte Aktionen und Testfälle.

Ein Hotelszenario, etwa das Vorbereiten einer Antwort auf eine Gästefrage, ist ein Konzeptbeispiel. Es beweist keine einsatzfertige Hotel-Lösung; deren Status bleibt auf der Leistungsseite als Planung erkennbar. Prüfen Sie generell falsche Angaben, fehlende Quellen, unerlaubte Aktionen und die Übergabe an eine zuständige Person.

Vertrieb: von der Anfrage zur geprüften CRM-Aufgabe

Wofür: Wiederkehrende Anfragen sollen mit ihrem Kontext bei der richtigen Person ankommen. Die Rolle bereitet eine Antwort und den nächsten Arbeitsschritt vor. Sie entscheidet weder über den Kunden noch über einen verbindlichen Preis. Der mögliche Nutzen ist weniger Such- und Übertragungsarbeit; eine Zeitersparnis muss im eigenen Betrieb gemessen werden.

So läuft unser Funktionsbeispiel AN-1042: Eine fiktive Anfrage nennt acht Personen und den Wunsch nach einem zentralen CRM. Daraus entsteht ein Antwortentwurf mit Rückfragen zum bisherigen System, ohne Preis- oder Terminzusage. Der Vertrieb prüft Quelle, Empfänger und Formulierung. Erst seine Freigabe ergibt im Beispiel einen Vermerk und eine Aufgabe: Bedarf klären.

So setzen wir den Ablauf auf: Vorhandenes Formular, Postfach und CRM prüfen; erforderliche Felder, Verantwortliche und erlaubte Quellen festlegen; zunächst Entwürfe ohne Versand erstellen; anschließend den freigegebenen Übergabeschritt anbinden. Ob eine konkrete Schnittstelle passt, wird vor dem Auftrag geklärt. Zur Übergabe gehören Testfälle, Berechtigungen, ein Prüfprotokoll und ein Weg zurück zum manuellen Ablauf.

Besser so: Fehlende Angaben als Rückfrage ausgeben, einen Entwurf eindeutig kennzeichnen und doppelte Anfragen erkennen. Nicht so: Preise erfinden, Termine zusagen oder Kontakte ohne geklärten Zweck in weitere Systeme kopieren. Der Fehlerfall zeigt absichtlich eine Anfrage ohne ausreichenden Umfang. Nach dem Ergänzen muss der Mensch erneut freigeben.

Abnahme: Anfrage, Quelle, Entwurf und CRM-Aufgabe lassen sich derselben Kennung zuordnen. Unvollständige oder doppelte Eingänge erzeugen keine unkontrollierten Folgeaktionen. Messen Sie vor und während des Piloten Bearbeitungszeit, nötige Korrekturen und Fehlzuordnungen. Ein erfolgreich abgespieltes Website-Beispiel ersetzt diesen Test im Zielsystem nicht.

Vertrieb: Normalfall und fehlende Angaben ausprobieren

CRM und Anfrageprozess: Leistungsumfang ansehen

Office: vom Beleg zur freigegebenen Zuordnung

Wofür: Dokumente sollen mit nachvollziehbarer Zuordnung und offener Aufgabe weiterbearbeitet werden können. Die Rolle hilft beim Lesen und Vorbereiten; eine zuständige Person entscheidet über die Übernahme. Das ist sinnvoll, wenn Mitarbeiter ähnliche Belege regelmäßig übertragen oder Rückfragen aus Dokumenten zusammensuchen.

Unser Funktionsbeispiel DOC-1042 enthält einen Servicebericht zum Auftrag AU-318 und eine offene Ersatzteilfrage. Die Rolle bereitet eine Zuordnung und eine Office-Aufgabe vor. Das Office vergleicht beides mit dem Beleg und prüft den Ablageort. Nach Freigabe zeigt das Beispiel einen Prüfvermerk mit Dokumentkennung, Ziel und Aufgabe. Es lädt keine Datei hoch und verändert kein echtes System.

So entsteht die Umsetzung: Belegarten und Ablagestruktur sichten; benötigte Felder und Zugriffsrechte vereinbaren; unleserliche und mehrdeutige Dokumente in eine Prüfliste geben; Ausgabe gegen das Original anzeigen; erst den freigegebenen Schritt in das vorhandene Office-System übernehmen. Eine einfache feste Zuordnungsregel kann geeigneter sein als KI. Wir prüfen das vor einer Erweiterung.

Besser so: Original und Auszug gemeinsam prüfen, die Auftragsnummer eindeutig verknüpfen und Änderungen protokollieren. Nicht so: Eine schlecht erkannte Nummer still ergänzen, Dokumente automatisch löschen oder aus einem Beleg eine Zahlung auslösen. Bei unleserlicher Zuordnung bleibt der Vorgang gesperrt. Das Ergänzen eines Werts ist noch keine Freigabe.

Abnahme: Richtige, unleserliche, doppelte und nicht zuordenbare Belege testen. Prüfen, ob fehlende Angaben sichtbar bleiben, dieselbe Datei keine doppelten Aufgaben erzeugt und Zugriffe auf den nötigen Bereich beschränkt sind. Erst gemessene Korrekturrate und Bearbeitungsaufwand zeigen, ob sich der Ablauf für Ihr Office eignet.

Office: Beleg und fehlende Zuordnung ausprobieren

Microsoft 365: Zusammenarbeit und Zugänge planen

Warum Quellen, Rechte und Freigaben zusammengehören

Nachrichten und Dokumente sind Arbeitsmaterial, keine Befehle an das System. OWASP beschreibt, wie fremde Inhalte unerwünschte Anweisungen einschleusen können (Prompt Injection). Deshalb gehören getrennte Quellen, begrenzte Berechtigungen, Prüfung der Ausgabe und gezielte Fehlerfälle zum Entwurf eines Ablaufs. Ein gut formulierter Prompt allein beseitigt das Risiko nicht.

OWASP behandelt außerdem zu weitreichende Handlungsmöglichkeiten als eigenes Risiko (Excessive Agency). Unsere Praxisempfehlung: zunächst nur einen Entwurf erstellen, Änderungen auf wenige erlaubte Aktionen begrenzen und folgenreiche Schritte ausdrücklich freigeben lassen. Das NIST AI Risk Management Framework dient als methodische Grundlage für die laufende Bewertung; es zertifiziert weder diese Beispiele noch eine Kundenumsetzung.

Vor dem Auftrag halten wir Ausgangslage, Ziel, Datenzugänge, Verantwortliche, Prüfkriterien und laufende Kosten fest. Der Pilot beginnt mit einem begrenzten Vorgang. Ein Produktionsstart folgt erst nach Prüfung im vereinbarten System. Die Beispiele zeigen die Bedienlogik mit fiktiven Daten; sie belegen keine bereits erzielten Kundenergebnisse.

Im Überblicksbeispiel prüfen Sie diese Grenze selbst: Vertrieb liest den freigegebenen Leitfaden CRM-01, Office den Ablageplan OFF-01. Fehlt ein Preis, entsteht eine Rückfrage ohne erfundene Summe. Fehlt der Lesezugriff, bleibt der Quelleninhalt gesperrt und es entsteht kein Entwurf. Erst in der Prüfung können Sie Quelle und Entwurf bestätigen und den Vorschlag im Beispiel freigeben. Der automatische Durchlauf erteilt keine Freigabe. Alle Daten sind fiktiv; die Ausgabe folgt festen Regeln und verwendet keine laufende KI. Für einen echten Pilot müssen Quellenzugriff, Antwortqualität und die konkrete Übergabe im Zielsystem geprüft werden.

Quelle, Rückfrage und Freigabe selbst prüfen

OWASP: Risiken durch fremde Anweisungen

OWASP: zu weitreichende Handlungsrechte

Readiness: Voraussetzungen vor dem Pilot klären

Recruiting-Roadmap: einen Gesprächstermin abstimmen

Das Organisationsbeispiel ORG-1042 zeigt einen engen Ablauf: Zeitwunsch aufnehmen, mit der Team-Verfügbarkeit und der Rückmeldung des Gesprächspartners abgleichen, einen Nachrichtenentwurf vorbereiten und durch einen Menschen prüfen lassen. Es geht um Terminabstimmung; Bewerber werden weder bewertet noch ausgewählt. Die Recruiting-Rolle bleibt Roadmap und ist nicht aktiv buchbar.

Ist die Zeit frei und die Rückmeldung vorhanden, entsteht ein Vorschlag zur Prüfung. Ist das Team belegt, fragt der Entwurf nach anderen Zeiten. Fehlt eine Antwort, bittet er um Bestätigung der Verfügbarkeit. Eine fehlende Antwort darf nicht als Zustimmung erscheinen. Das Beispiel schlägt keinen unbelegten Ersatztermin vor.

Vergleichen Sie in der Prüfung den Entwurf mit dem sichtbaren Testplan. Erst die eigene Bestätigung vermerkt die Prüfung im Beispiel; das automatische Abspielen erteilt sie nicht. Alle Angaben sind fiktiv und die Texte folgen festen Regeln. Das Beispiel führt keine KI aus, verschickt keine Nachrichten und bucht keine Termine. Für einen späteren realen Einsatz müssten Quellen, Rechte, Zuständigkeit, Versand und Fehlerfälle gesondert geprüft werden.

Terminabstimmung und Grenzen selbst ansehen

Bestehende Lösungen für Personalvermittlung

Vor dem Auftrag vereinbaren

Woran Sie das Ergebnis prüfen können

  • Erlaubte Aktionen und notwendige Freigaben sind je Rolle festgelegt.
  • Fehlerfälle lösen eine erkennbare Übergabe statt eine erfundene Antwort aus.
  • Produktstatus, Datenzugänge und laufende Kosten bleiben transparent.

Quellen und fachliche Grundlagen

Die Quellen erläutern die jeweils genannten Grundlagen. Die vorgeschlagenen Abläufe und Abnahmepunkte sind Praxisempfehlungen von BetriebsIT. Beschriebene Beispiele sind keine nachgewiesenen Kundenergebnisse.

NIST: AI Risk Management Framework

Das freiwillige Rahmenwerk betrachtet Risiken über Entwicklung, Nutzung und Bewertung von KI-Systemen hinweg. Es ist keine deutsche Rechtsfreigabe.

OWASP: Prompt Injection

Externe Nachrichten und Dateien können unerwünschte Anweisungen enthalten. OWASP beschreibt Grenzen, Rechtebeschränkung und Tests; keine Maßnahme garantiert vollständigen Schutz. Geprüft am 13.09.2026.

OWASP: Excessive Agency

Zu weitreichende Funktionen und Berechtigungen können fehlerhafte Modellausgaben in schädliche Aktionen verwandeln. Die Seite erläutert begrenzte Befugnisse und menschliche Freigaben. Geprüft am 13.09.2026.

Transparente Grundlage

Offizielle Quellen und Vertiefung

Die Empfehlungen dieses Ratgebers wurden mit diesen offiziellen Materialien abgeglichen. Herstellerangaben gelten jeweils für die dort genannten Produkte und Tarife.

Europäische Union · EUR-LexVerordnung (EU) 2024/1689 über künstliche Intelligenz

Offizieller konsolidierbarer Rechtstext des EU AI Act mit risikobasiertem Ansatz, verbotenen Praktiken, Pflichten für Anbieter und Betreiber, menschlicher Aufsicht und Transparenzregeln.

Offizielle Quelle öffnen
Europäische KommissionAI Act: aktueller Anwendungsrahmen und Zeitplan

Offizielle aktuelle Übersicht zum risikobasierten Ansatz und zum Zeitplan nach dem 2026 in Kraft getretenen AI Omnibus: allgemeine Anwendung ab 2. August 2026, spätere Termine für bestimmte Hochrisiko-Regeln.

Offizielle Quelle öffnen
Europäische KommissionAI Literacy – Questions & Answers

Offizielle Erläuterung zu Artikel 4 AI Act: Anbieter und Betreiber müssen Maßnahmen zur KI-Kompetenz der beteiligten Personen unterstützen; Kontext, Wissen und Erfahrung sind zu berücksichtigen.

Offizielle Quelle öffnen
Europäischer DatenschutzausschussOpinion 28/2024 on data protection aspects related to AI models

Offizielle Stellungnahme zu Anonymität von KI-Modellen, berechtigtem Interesse als möglicher Rechtsgrundlage und Folgen unrechtmäßig verarbeiteter personenbezogener Trainingsdaten.

Offizielle Quelle öffnen
Bundesamt für Sicherheit in der InformationstechnikGenerative KI-Modelle: Chancen und Risiken für Industrie und Behörden

Offizielle BSI-Einordnung zu Sicherheitsrisiken generativer KI, darunter fehlerhafte Ausgaben, Datenabfluss, Manipulation und notwendige organisatorische sowie technische Schutzmaßnahmen.

Offizielle Quelle öffnen
Europäische Union · EUR-LexVerordnung (EU) 2016/679 – Datenschutz-Grundverordnung

Offizieller Rechtstext zu Grundsätzen, Rechtsgrundlagen, Informationspflichten, Betroffenenrechten, Datenschutz durch Technikgestaltung und Sicherheit personenbezogener Daten.

Offizielle Quelle öffnen

Häufige Fragen

Ist jeder digitale Mitarbeiter ein Hochrisiko-KI-System?

Nein. Der AI Act ordnet nach konkretem Verwendungszweck und Kontext ein. Bestimmte Einsätze etwa in Beschäftigung, Bildung, biometrischer Identifizierung oder beim Zugang zu wesentlichen Diensten können hochriskant sein. Die genaue Rolle von Anbieter, Betreiber oder anderem Beteiligten muss für den realen Einsatz geprüft werden.

Darf eine digitale Rolle Kunden selbstständig antworten?

Nur innerhalb eines geprüften, transparenten und ausdrücklich freigegebenen Scopes. Im Pilot sollten Antworten vorbereitet und menschlich bestätigt werden. Preise, Verträge, sensible Einzelfälle und unbekannte Ausnahmen bleiben beim Menschen.

Reicht es, keine Namen in den Prompt zu schreiben?

Nein. Personenbezug kann auch durch E-Mail-Inhalte, CRM-Felder, Kombinationen, Metadaten oder Modellausgaben entstehen. Zweck, Rechtsgrundlage, Datenminimierung, Auftragsverarbeitung und Speicherlogik müssen für jede Quelle geprüft werden.

Welche AI-Act-Pflichten gelten am 31. August 2026?

Der AI Act ist seit 2. August 2026 grundsätzlich anwendbar; Verbote und Maßnahmen zur KI-Kompetenz galten bereits früher. Transparenzregeln für bestimmte Systeme gelten ebenfalls. Für bestimmte Hochrisiko-Anwendungsfälle und produktintegrierte Systeme nennt die aktuelle EU-Übersicht spätere Termine. Eine Einzelfallprüfung bleibt erforderlich.

Ist die gewünschte KI schon eine klar begrenzte Rolle?

Die KI-Readiness ordnet Aufgabe, Daten, Rechte, No-Go, Testfälle, Freigaben und Rollback vor einem produktiven Pilot.