Schatten-KI im Mittelstand: erkennen, einordnen, regeln

Inhalt in Kürze

• Schatten-KI ist selten Absicht. Sie entsteht, wenn jemand einer Dritt-App mit dem Firmenkonto Zugriff erteilt — in zwei Klicks, ohne Beteiligung der IT.
• Das größte Rechtsproblem ist nicht der fehlende Vertrag, sondern die fehlende Rechtsgrundlage. Wer einen kostenlosen Dienst mit Firmendaten füttert, hat es mit einem Anbieter zu tun, der zu eigenen Zwecken verarbeitet.
• Art. 26 KI-VO trifft normale Mittelständler nicht. Er gilt nach Absatz 1 nur für Hochrisiko-Systeme. Wer das anders erzählt, verkauft Ihnen eine Pflicht, die es nicht gibt.
• Sichtbar wird nur, was am Firmenkonto hängt. Diese Grenze gehört ausgesprochen, bevor jemand aus einer leeren Liste schließt, es gebe nichts.

Die Frage ist nicht mehr, ob Ihre Leute KI benutzen. Die Frage ist, welche Dienste dabei Zugriff auf Postfächer, Kalender und Dateien bekommen haben — und ob das jemand weiß.

Schatten-KI ist etwas anderes als Schatten-IT

Bei Schatten-IT geht es um Software, die jemand installiert oder abonniert hat. Der Weg führt über eine Installation, eine Rechnung oder ein Kreditkartenlimit — irgendwo bleibt eine Spur.

Schatten-KI läuft anders. Der übliche Weg ist ein Zustimmungsdialog: „Diese Anwendung möchte Ihre Kalender lesen.” Ein Klick, und eine fremde Anwendung hängt am Firmenkonto. Es wird nichts installiert, nichts gekauft, nichts beantragt. Genau deshalb sieht niemand hin.

Was rechtlich wirklich gilt — und was nur behauptet wird

Rund um KI kursieren Pflichten, die es so nicht gibt. Diese Übersicht trennt beides.

Drei Punkte davon werden regelmäßig falsch wiedergegeben.

Erstens: Art. 26 der KI-Verordnung gilt ausschließlich für Hochrisiko-Systeme. Das steht in Absatz 1. Ein Betrieb, dessen Belegschaft einen Chatbot benutzt, betreibt kein Hochrisiko-System. Die praktisch einschlägigen Absätze sind Abs. 6 (Aufbewahrung der Protokolle) und Abs. 7 (Information der Beschäftigten und ihrer Vertretung) — nicht „Abs. 5 und 6”, wie es in vielen Vorlagen steht. Eine Registerpflicht enthält Art. 26 nicht; Abs. 8 betrifft ausschließlich Behörden und Unionsstellen.

Zweitens: Art. 50 trifft den Betreiber fast nie. Die Absätze 1 und 2 richten sich an den Anbieter. Beim Betreiber landen nur Abs. 3 (Emotionserkennung, biometrische Kategorisierung) und Abs. 4 (Deepfakes sowie veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse).

Drittens: Der Vertrag ist nicht die erste Frage. Wer einen kostenlosen KI-Dienst mit dem Firmenkonto benutzt, hat es in aller Regel mit einem Anbieter zu tun, der zu eigenen Zwecken verarbeitet. Dann gibt es keine Auftragsverarbeitung, für die man einen Vertrag schließen könnte — es fehlt schlicht die Rechtsgrundlage nach Art. 6 DSGVO. Wo tatsächlich eine Auftragsverarbeitung besteht, gelten Art. 28 und Art. 32; bei Diensten mit Mail- oder Dateizugriff kommt zusätzlich eine Datenschutz-Folgenabschätzung nach Art. 35 in Betracht.

Lesetipp: Dieses Thema wird in unserem kostenlosen E-Book „KI sicher einsetzen — Der Leitfaden für Geschäftsführer” (93 Seiten) ausführlich behandelt. Jetzt herunterladen →

Sichtbar machen: was ein Blick in den Mandanten zeigt

Der schnellste Weg zum Bestand führt nicht über eine Umfrage, sondern über das Verzeichnis, das Sie ohnehin betreiben. Microsoft 365 weiß, welche Dritt-Anwendungen mit Firmenkonten verbunden sind, welche Berechtigungen sie haben und wer zugestimmt hat.

Genau das liest der Schatten-KI-Radar in Hugo KI: welche KI-Dienste am Mandanten hängen, mit welchem Berechtigungsumfang und in welchen Abteilungen sie benutzt werden. Aus jedem Fund wird mit einem Klick ein Eintrag im KI-Register, eine Schulungszuweisung oder eine Richtlinie zur Kenntnisnahme.

Zwei Fundgruppen tauchen dabei fast immer auf. Selbstgebaute Assistenten aus dem eigenen Mandanten — was davon ins Verzeichnis gehört, steht in Copilot-Agenten inventarisieren. Und Notiz-Assistenten für Besprechungen, bei denen der Berechtigungsumfang die eigentliche Frage ist: dazu der Beitrag zu Otter, Fireflies & Co.

• Keine Inhalte. Was jemand einer KI geschrieben hat, wird nicht gelesen — technisch nicht vorgesehen, nicht nur nicht angezeigt.
• Berechtigungen im Klartext. Ein Dienst mit „Kalender lesen" ist ein anderer Fall als einer mit „Mail lesen". Erst der Umfang macht aus einem Namen eine Risikoeinschätzung.
• Abteilung statt Person. Voreingestellt ist die zusammengefasste Sicht. Personenbezug ist ein bewusster Schalter, kein Standard.

Was der Blick nicht zeigt

Diese Grenzen gehören auf den Tisch, bevor jemand aus einer kurzen Liste die falschen Schlüsse zieht.

1. Nur das Firmenkonto ist sichtbar. Wer sich privat im Browser anmeldet, taucht nirgends auf. Dagegen wirken nur Richtlinie, Alternative und Schulung.
2. Anmeldeprotokolle setzen Entra ID P1 voraus. Ohne diese Lizenzstufe sehen Sie die zugestimmten Anwendungen, aber nicht, wie oft sie benutzt werden.
3. Der Copilot-Bericht liefert nur Zahlen. Microsoft anonymisiert die Kennungen mandantenweit — daran ändert kein Werkzeug etwas.
4. Eine leere Antwort ist kein Befund. Microsoft drosselt Abfragen und antwortet dann leer. Wer das als „nichts gefunden" liest, protokolliert eine Fehlinformation.

Bevor Sie einschalten: der Betriebsrat

Eine Auswertung, wer welchen Dienst benutzt, ist eine technische Einrichtung, die zur Überwachung von Verhalten oder Leistung geeignet ist. Nach § 87 Abs. 1 Nr. 6 BetrVG kommt es auf diese objektive Eignung an, nicht auf Ihre Absicht — das Bundesarbeitsgericht hat das im Beschluss vom 16.07.2024 (1 ABR 16/23) bestätigt. Mitbestimmungspflichtig ist deshalb bereits die Aktivierung eines solchen Werkzeugs, nicht erst die erste personenbezogene Auswertung. Was dafür zu klären ist, steht ausführlich im Beitrag zu Betriebsrat und KI-Nutzungsauswertung.

Aus der Praxis

Es kam wirklich häufig vor, dass es dann ein Aha-Erlebnis war. Die Geschäftsleitung sagte: Das war mir so gar nicht bewusst. Ich dachte, Datenschutz ist dafür da, um mich zu ärgern.

Nils OehmichenDatenschutzberater bei frag.hugo

Beim Thema KI ist dieser Moment fast immer derselbe: Nicht die Zahl der Dienste überrascht, sondern die Berechtigungen. Ein Notiz-Assistent, den vier Leute für Besprechungen benutzen, liest den kompletten Kalender mit — und niemand hatte das so beschlossen.

In vier Schritten zum geregelten Bestand

1. Bestand aufnehmen. Zugestimmte Anwendungen, Berechtigungsumfang, betroffene Abteilungen. Erst Liste, dann Meinung.
2. Einordnen statt sofort sperren. Je Dienst: genehmigt, geduldet oder blockiert. Ein pauschales Verbot verlagert die Nutzung nur in den privaten Browser, wo Sie sie nicht mehr sehen.
3. Regeln aufschreiben. Eine KI-Nutzungsrichtlinie beantwortet die Fragen, die Ihre Leute tatsächlich haben: Welcher Dienst ist frei, was darf hinein, wer gibt Neues frei.
4. Schulen und dokumentieren. Art. 4 KI-VO verlangt, die KI-Kompetenz des Personals nach besten Kräften zu unterstützen — ohne Bußgeldtatbestand, aber mit Nachweislast. Wer weiß, welches Werkzeug in welcher Abteilung läuft, kann gezielt schulen statt pauschal.

Ihr nächster Schritt

Öffnen Sie in Ihrem Microsoft-365-Mandanten die Liste der Unternehmensanwendungen und sortieren Sie nach dem Datum der Zustimmung. Die letzten zwölf Monate reichen für den ersten Schreck. Wie Sie die Funde in ein prüfbares Verzeichnis überführen, steht in der Anleitung zum KI-Register; welche Risikoklasse Ihr Einsatz hat, klärt das kostenlose Werkzeug zur AI-Act-Einstufung.

Dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.

Häufige Fragen (FAQ)

Was ist Schatten-KI?

Schatten-KI sind KI-Dienste, die im Unternehmen benutzt werden, ohne dass Geschäftsführung, IT oder Datenschutzbeauftragter davon wissen. Typisch sind Dritt-Apps, denen jemand mit dem Firmenkonto Zugriff erteilt hat, und kostenlose Chatbots im Browser.

Braucht die KI-Verordnung ein KI-Register für jedes Unternehmen?

Nein. Art. 26 KI-VO gilt nach seinem Absatz 1 ausschließlich für Betreiber von Hochrisiko-Systemen, und eine Registerpflicht enthält er auch dort nicht. Ein Verzeichnis der eingesetzten KI-Dienste ist trotzdem sinnvoll: Ohne Bestand lässt sich weder die Schulungspflicht aus Art. 4 KI-VO erfüllen noch das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO führen.

Ist ein AVV die richtige Antwort auf Schatten-KI?

Meist nicht. Wer einen kostenlosen KI-Dienst mit dem Firmenkonto benutzt, hat es in der Regel mit einem Anbieter zu tun, der zu eigenen Zwecken verarbeitet. Dann liegt keine Auftragsverarbeitung vor, und die erste Frage ist die nach der Rechtsgrundlage nach Art. 6 DSGVO, nicht die nach einem Vertrag nach Art. 28 DSGVO.

Welche Nutzung bleibt bei einer Auswertung unsichtbar?

Alles, was ohne Firmenkonto läuft. Wer sich mit einer privaten Adresse im Browser an einem Chatbot anmeldet, taucht in keiner Auswertung des Microsoft-365-Mandanten auf. Dagegen helfen nur eine verständliche Richtlinie, eine freigegebene Alternative und Schulung.

Muss der Betriebsrat vor einer Auswertung beteiligt werden?

In Betrieben mit Betriebsrat regelmäßig ja. Eine Auswertung, wer welchen Dienst benutzt, ist eine technische Einrichtung, die zur Überwachung geeignet ist. Nach § 87 Abs. 1 Nr. 6 BetrVG kommt es auf die objektive Eignung an, nicht auf die Absicht (BAG, Beschluss vom 16.07.2024 – 1 ABR 16/23). Mitbestimmungspflichtig ist schon die Aktivierung.