ChatGPT Datenschutz und Copilot: der Check für Chefs

Entwirf ein Arbeitszeugnis im befriedigenden Bereich für einen Kundenberater im Autohaus X. Diesen Satz nennen die deutschen Datenschutzbehörden als Beispiel für eine Eingabe mit Personenbezug.

Braucht es auch nicht. Wenn erkennbar ist, aus welcher Firma die Eingabe wann kam, kann der Kundenberater bestimmbar sein.

Sehr wahrscheinlich. Die Frage ist nicht, ob Sie KI nutzen, sondern mit welchem Konto, welchen Einstellungen und welchen Daten.

Welches Konto Ihre Daten schützt und welches nicht. Wir gehen drei typische Fehler durch: das private Gratiskonto, den Copilot, der zu viel sieht, und den Glauben, Namen weglassen genüge.

Bei diesen Konten für Einzelpersonen schreibt OpenAI selbst, dass Inhalte zum Training der Modelle genutzt werden können. Das ist die Grundeinstellung, bis jemand sie abschaltet.

Der Schalter liegt in den Einstellungen unter Datenkontrollen und heißt sinngemäß: Modell für alle verbessern. Aber es gibt einen Haken, den kaum jemand kennt.

Wer eine Antwort mit Daumen hoch oder runter bewertet, erlaubt, dass das ganze Gespräch zum Training genutzt werden kann. Das gilt laut OpenAI auch dann, wenn das Training vorher abgeschaltet wurde.

Aus dem Verlauf, ja, und sie werden nicht zum Training genutzt. OpenAI darf aber eine Kopie bis zu dreißig Tage für Sicherheitszwecke behalten.

Beim privaten Konto ist für Nutzer in Europa die irische Tochter von OpenAI selbst verantwortlich. Ihre Firma hat keinen Vertrag, und der Anbieter verarbeitet die Daten nach seiner eigenen Datenschutzerklärung.

Dann sind personenbezogene Daten an einen Dritten gegangen, ohne dass Sie das erlaubt haben. Das kann eine Verletzung des Schutzes personenbezogener Daten nach Artikel vier Nummer zwölf der DSGVO sein.

Nach Artikel dreiunddreißig melden Sie so etwas unverzüglich und möglichst binnen zweiundsiebzig Stunden nach Bekanntwerden der Aufsichtsbehörde. Das entfällt nur, wenn voraussichtlich kein Risiko für die Betroffenen entsteht.

Sie entscheiden als Verantwortliche, aber nicht allein. Holen Sie sofort den Datenschutzbeauftragten dazu und halten Sie die Abwägung schriftlich fest, auch wenn Sie nicht melden.

Ein Firmenkonto. Bei ChatGPT Business und Enterprise nutzt OpenAI die Inhalte standardmäßig nicht zum Training, und der Daumen nach oben gibt dort auch kein Gespräch frei.

Ja, einen Vertrag zur Auftragsverarbeitung nach Artikel achtundzwanzig. Den schließt OpenAI für Business, Enterprise und die Programmierschnittstelle ab, Sie müssen ihn aber über ein Formular selbst anstoßen.

Gespeichert ja, wenn Sie das beim Einrichten eines neuen Arbeitsbereichs wählen, bei Enterprise und laut Fachpresse seit September auch bei Business. Die Zusage gilt für gespeicherte Inhalte, nicht automatisch für die Verarbeitung.

Das legen Ihre Administratoren fest. Gelöschte Gespräche entfernt der Anbieter laut eigener Angabe binnen dreißig Tagen, außer ein Gesetz verlangt es länger oder es ist zum Schutz vor Schäden nötig.

Dann nimmt er seinen Verlauf mit, samt Angeboten und Kundennamen. Im Firmenkonto dagegen kann er weder selbst exportieren noch sein Konto löschen, das läuft über den Inhaber des Arbeitsbereichs.

Ja, bei Zusatzfunktionen. Ruft ein angepasster Assistent über eine Schnittstelle einen fremden Dienst auf, gilt für diese Daten die Datenschutzerklärung des Empfängers.

Der Empfänger darf die Daten laut OpenAI länger als dreißig Tage behalten und für andere Zwecke nutzen. Ihre Administratoren sollten deshalb festlegen, welche Zusatzdienste überhaupt erlaubt sind.

Mit dem Arbeitskonto ist die Grundlage gut. Microsoft arbeitet dann als Auftragsverarbeiter nach seinem Datenschutznachtrag, und Eingaben und Antworten werden nicht zum Training der Basismodelle genutzt.

Im Copilot Chat steht oben neben dem Knopf für einen neuen Chat ein grünes Schild. Fehlt es, gehören dort keine Firmendaten hinein, bis geklärt ist, mit welchem Konto jemand angemeldet ist.

Nein, im Copilot Chat ist er laut Microsoft ohne Aufpreis enthalten. Zwei Stellen sollten Sie trotzdem kennen.

Erstens die Websuche. Copilot schickt dafür ein paar Suchwörter an Bing, und dort handelt Microsoft als eigener Verantwortlicher, außerhalb der europäischen Datengrenze.

Ja, mit einer Richtlinie für den ganzen Mandanten, also Ihren Firmenbereich bei Microsoft. Stellt niemand etwas ein, ist die Websuche eingeschaltet.

Laut Produktbedingungen keine Werbeprofile und kein Training. Der Datenschutznachtrag gilt dafür aber nicht, deshalb gehört die Entscheidung ins Protokoll.

Microsoft bietet im Copilot auch Modelle von Anthropic an. Die sind laut Microsoft derzeit von der europäischen Datengrenze ausgenommen, Ihre Administratoren entscheiden, ob sie freigeschaltet werden.

Bei der bezahlten Copilot-Lizenz. Dieser Copilot durchsucht alles, worauf der einzelne Nutzer mindestens Leserechte hat, also Mails, Chats und Dateien.

Nehmen wir an, ein Ordner mit Gehaltsdaten liegt in SharePoint, also der Dateiablage in Microsoft 365. Und er ist versehentlich für alle freigegeben.

Genau das ändert sich. Fragt dann jemand Copilot nach Gehältern in der Konstruktion, kann die Antwort aus genau dieser Datei kommen.

Nicht ganz. Auch der Copilot Chat ohne Lizenz greift in Outlook auf Mails, Kalender und Dateien von häufig besuchten SharePoint-Seiten zu, soweit der Nutzer sie sehen darf.

Microsoft empfiehlt selbst, zuerst die zu weit gefassten Freigaben zu beheben. Das Werkzeug SharePoint Advanced Management ist in der Copilot-Lizenz enthalten und hilft, zu weit freigegebene Websites zu finden.

Microsoft speichert Eingaben und Antworten in Ihrem Mandanten, zusammen mit Ihren übrigen Inhalten in Microsoft 365. Legen Sie dafür eine Aufbewahrungsfrist fest, wie für Mails auch.

Für diese Agenten verweist Microsoft auf deren eigene Datenschutzerklärung und Nutzungsbedingungen. Ihre Administratoren legen fest, welche Agenten im Unternehmen erlaubt sind.

Die Datenschutzkonferenz hat im November zweitausendzweiundzwanzig festgestellt, dass Firmen den Nachweis auf Basis des damaligen Vertrags nicht führen können. Im November zweitausendfünfundzwanzig kam der hessische Datenschutzbeauftragte zu einem anderen Ergebnis.

Bezogen auf die sieben Kritikpunkte von zweitausendzweiundzwanzig sei ein datenschutzkonformer Betrieb möglich, wenn auch die Kunden ihre Pflichten erfüllen. Den Copilot hat der Bericht aber nicht eigens bewertet.

Stand heute ist das bundesweit nicht einheitlich geklärt. Deshalb dokumentieren Sie Ihre Prüfung und Ihre Einstellungen, statt sich auf eine einzelne Behördenmeinung zu verlassen.

Die Datenschutzkonferenz schreibt ausdrücklich, dass es regelmäßig nicht reicht, Namen und Anschriften zu entfernen. Aus dem Zusammenhang lässt sich unter Umständen trotzdem erkennen, um wen es geht.

Genau. Bei Programmen, die gerade dafür gebaut sind, Zusammenhänge herzustellen, ist diese Gefahr laut den Behörden besonders hoch.

Gehen Sie davon aus, dass Personendaten hineinkommen. Dann brauchen Sie eine Rechtsgrundlage, müssen die Betroffenen informieren und tragen die Verarbeitung in Ihr Verzeichnis ein.

Das hängt vom Zweck ab, und das prüfen Sie mit dem Datenschutzbeauftragten. Die Behörden verlangen eine Grundlage für die Verarbeitung und für die Übermittlung an den Anbieter.

Für Kunden ja. Für Beschäftigte gehört derselbe Hinweis in die Datenschutzinformation für Mitarbeitende.

Artikel fünfunddreißig verlangt sie bei voraussichtlich hohem Risiko, gerade bei neuen Technologien. Die Behörden schreiben, dass dies beim Einsatz von KI vielfach der Fall sein wird.

Für ein einzelnes Chat-Programm mit Firmenkonto muss das kein Großprojekt sein. Den Rat Ihres Datenschutzbeauftragten holen Sie dabei ein, das schreibt der Artikel ausdrücklich vor.

Vom Anbieter. Die Behörden raten, schon beim Einkauf darauf zu achten, dass er erklärt, wie das System arbeitet.

Dann gelten die Rechte auf Berichtigung und Löschung auch für Ihre KI-Nutzung. Sie brauchen also einen Weg, Gespräche im Firmenkonto zu finden und zu löschen.

Ja. Nutzer können ihren Copilot-Verlauf im Kontoportal selbst löschen, und Administratoren finden Eingaben und Antworten über die Inhaltssuche von Microsoft Purview.

Grundlage ist der Angemessenheitsbeschluss der EU-Kommission zum Datenschutzrahmen mit den USA vom zehnten Juli zweitausenddreiundzwanzig. Das Gericht der EU hat ihn im September zweitausendfünfundzwanzig bestätigt.

Nicht ganz. Gegen das Urteil läuft seit Oktober zweitausendfünfundzwanzig ein Rechtsmittel beim Europäischen Gerichtshof, Stand heute ist das nicht abschließend geklärt.

Bis dahin gilt er. Achten Sie aber schon jetzt darauf, dass im Vertrag zusätzlich Standardvertragsklauseln stehen, also die Mustervertragsklauseln der EU für Übermittlungen ins Ausland.

Eine Person, die die Liste der freigegebenen Programme führt, zusammen mit dem Datenschutzbeauftragten. Die Verantwortung bleibt bei Ihnen in der Geschäftsführung.

Erstens: Lösen Sie private KI-Konten durch Firmenkonten mit Vertrag zur Auftragsverarbeitung ab. Und legen Sie fest, was passiert, wenn Kundendaten im falschen Konto gelandet sind, mit der Frist von zweiundsiebzig Stunden.

Prüfen Sie vor der Copilot-Lizenz die Freigaben in SharePoint und Teams. Klären Sie mit Ihren Administratoren Websuche, zusätzliche Modelle und Aufbewahrungsfristen.

Gehen Sie davon aus, dass Personendaten in den Eingaben landen. Tragen Sie die Programme ins Verzeichnis ein, prüfen Sie die Folgenabschätzung mit dem Datenschutzbeauftragten und behalten Sie das Verfahren zum USA-Datenschutzrahmen im Blick.

Fangen Sie mit acht Fragen zu Konten, Verträgen und Copilot an. Den kostenlosen Schatten-KI-Check mit Sofort-Auswertung finden Sie bei frag.hugo.