Muss ich KI-Inhalte kennzeichnen?

• Wirkt es wie ein echtes Foto? Ja

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Ein KI-Bild, das wirklichen Gegenständen ähnelt und fälschlich als echtes Foto erscheinen würde, ist ein Deepfake im Sinne von Art. 3 Nr. 60 — auch wenn es Ihr Produkt richtig zeigt. Es muss offengelegt werden, dass es künstlich erzeugt ist. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

Auch beachten: Unabhängig von Art. 50: Werbung darf nicht irreführen (§ 5 UWG). Ein Bild, das ein Produkt besser zeigt, als es ist, kann schon deshalb unzulässig sein.

• Wirkt es wie ein echtes Foto? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Ein Bild, das erkennbar gezeichnet, gerendert oder illustriert ist und das niemand für ein echtes Foto hält, ist nach überwiegender Ansicht kein Deepfake. Eine Kennzeichnung ist dann freiwillig.

Auch beachten: Unabhängig von Art. 50: Werbung darf nicht irreführen (§ 5 UWG). Ein Bild, das ein Produkt besser zeigt, als es ist, kann schon deshalb unzulässig sein.

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

• Hat die KI nur Farbe, Helligkeit oder Hintergrund angepasst, oder ändert sich die Aussage des Bildes? Nur Farbe, Helligkeit, Hintergrund

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Übliche Bildbearbeitung, die den Inhalt nicht wesentlich verändert, macht aus einem echten Foto keinen Deepfake. So sehen es auch die Leitlinien der Kommission.

• Hat die KI nur Farbe, Helligkeit oder Hintergrund angepasst, oder ändert sich die Aussage des Bildes? Die Aussage ändert sich

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Verändert die KI, was das Foto zeigt (Personen, Gegenstände, Ereignisse), und wirkt das Ergebnis echt, gilt es als manipulierter Inhalt im Sinne von Art. 3 Nr. 60. Die Veränderung muss offengelegt werden. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

Auch beachten: Unabhängig von Art. 50: Werbung darf nicht irreführen (§ 5 UWG). Ein Bild, das ein Produkt besser zeigt, als es ist, kann schon deshalb unzulässig sein.

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Ein KI-Bild, das wirklichen Personen, Orten oder Ereignissen ähnelt und echt erscheinen kann, ist nach Art. 3 Nr. 60 ein Deepfake. Es muss offengelegt werden, dass es künstlich erzeugt oder verändert ist. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der die Darstellung nicht stört. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

Wie sicher ist das?

Umstritten: Die Fachliteratur ist uneins, eine Entscheidung der Gerichte gibt es noch nicht.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Ob eine erfundene, aber fotorealistische Person „wirklichen Personen ähnelt“ (Art. 3 Nr. 60), ist umstritten. Ein Teil der Fachliteratur verlangt eine Kennzeichnung, weil Betrachter sie für echt halten, ein anderer nicht, weil es die Person nicht gibt. Wir empfehlen, sie zu kennzeichnen. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

• Klingt sie wie die echte Aufnahme einer Person? Ja

Wie sicher ist das?

Umstritten: Die Fachliteratur ist uneins, eine Entscheidung der Gerichte gibt es noch nicht.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Eine KI-Stimme, die wie eine echte Person klingt, kann ein Deepfake sein (Art. 3 Nr. 60 nennt ausdrücklich Toninhalte). Ahmt sie eine bestimmte, wirkliche Person nach, ist die Kennzeichnung Pflicht. Bei einer erfundenen, aber natürlich klingenden Stimme ist das umstritten. Wir empfehlen den Hinweis. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

• Klingt sie wie die echte Aufnahme einer Person? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Eine Stimme, die erkennbar künstlich klingt, erscheint niemandem fälschlich als echte Aufnahme. Ein Deepfake liegt dann nicht vor.

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

• Wie sieht der Avatar aus? Er ist einer echten Person nachgebildet

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Ein Avatar, der einer wirklichen Person nachgebildet ist (Aussehen oder Stimme), ist nach Art. 3 Nr. 60 ein Deepfake. Es muss offengelegt werden, dass das Video künstlich erzeugt ist. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

• Wie sieht der Avatar aus? Wie ein realer Mensch, aber erfunden

Wie sicher ist das?

Umstritten: Die Fachliteratur ist uneins, eine Entscheidung der Gerichte gibt es noch nicht.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60 · Art. 50 Abs. 5

Ob ein erfundener, aber realistisch wirkender Mensch „wirklichen Personen ähnelt“ (Art. 3 Nr. 60), ist umstritten — wie bei einer fotorealistischen, erfundenen Person. Weil Zuschauer ihn für echt halten können, empfehlen wir den Hinweis. Die Pflicht trifft, wer den Inhalt mit einem KI-Werkzeug in eigener Verantwortung erzeugt oder verändert (Betreiber). Haben Sie ihn fertig eingekauft, trifft sie nach dem Wortlaut den Ersteller; wir empfehlen den Hinweis trotzdem.

• Wie sieht der Avatar aus? Erkennbar gezeichnet oder animiert

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Eine erkennbar gezeichnete oder animierte Figur erscheint niemandem fälschlich als echt. Ein Deepfake liegt nicht vor.

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 3 Nr. 60

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

• Wurde der Text wirklich inhaltlich geprüft (nicht nur die Rechtschreibung), und trägt jemand die Verantwortung? Ja

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Art. 50 Abs. 4 UAbs. 2 nimmt Texte ausdrücklich aus, die ein Mensch geprüft hat und für die jemand die redaktionelle Verantwortung trägt. Eine Kennzeichnung ist dann freiwillig.

• Wurde der Text wirklich inhaltlich geprüft (nicht nur die Rechtschreibung), und trägt jemand die Verantwortung? Nein
• Informiert der Text die Öffentlichkeit über Themen von öffentlichem Interesse (etwa Nachrichten, Politik, Gesundheit)? Ja

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2 · Art. 50 Abs. 5

Ein KI-Text, der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert und ohne menschliche Prüfung erscheint, muss als KI-erzeugt offengelegt werden. Die Pflicht entfällt erst, wenn ein Mensch den Text inhaltlich prüft und jemand die redaktionelle Verantwortung trägt.

• Wurde der Text wirklich inhaltlich geprüft (nicht nur die Rechtschreibung), und trägt jemand die Verantwortung? Nein
• Informiert der Text die Öffentlichkeit über Themen von öffentlichem Interesse (etwa Nachrichten, Politik, Gesundheit)? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Für Texte gilt Art. 50 Abs. 4 nur, wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren (etwa Nachrichten, Politik, Gesundheit). Werbe-, Service- und Fachtexte Ihres Unternehmens fallen nach überwiegender Ansicht nicht darunter.

Auch beachten: Was im Text steht, muss trotzdem stimmen (§ 5 UWG).

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

• Informiert er die Öffentlichkeit über Themen von öffentlichem Interesse (etwa Nachrichten, Politik, Gesundheit)? Ja

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2 · Art. 50 Abs. 5

Ein KI-Text, der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert und ohne menschliche Prüfung erscheint, muss als KI-erzeugt offengelegt werden. Die Pflicht entfällt erst, wenn ein Mensch den Text inhaltlich prüft und jemand die redaktionelle Verantwortung trägt.

• Informiert er die Öffentlichkeit über Themen von öffentlichem Interesse (etwa Nachrichten, Politik, Gesundheit)? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Für Texte gilt Art. 50 Abs. 4 nur, wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren (etwa Nachrichten, Politik, Gesundheit). Werbe-, Service- und Fachtexte Ihres Unternehmens fallen nach überwiegender Ansicht nicht darunter.

Auch beachten: Was im Text steht, muss trotzdem stimmen (§ 5 UWG).

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 2

Produktbeschreibungen informieren nicht über Angelegenheiten von öffentlichem Interesse. Art. 50 Abs. 4 UAbs. 2 greift deshalb nach überwiegender Ansicht nicht.

Auch beachten: Die Angaben müssen trotzdem stimmen: Falsche Eigenschaften, Maße oder Wirkungen sind irreführend (§ 5 UWG), egal wer den Text geschrieben hat.

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Sie, wenn Sie das KI-Werkzeug selbst einsetzen (Betreiber, Art. 3 Nr. 4)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 4 UAbs. 1 · Art. 50 Abs. 4 UAbs. 2

Für Newsletter und Beiträge gibt es keine eigene Regel. Text und Bild werden getrennt eingeordnet: Das Bild wie ein KI-Bild, der Text wie ein geprüfter oder ungeprüfter KI-Text. Wählen Sie dafür die passenden Fälle.

Ordnen Sie Text und Bild getrennt ein: KI-erzeugtes Produkt- oder Stimmungsbild, KI-Bild einer echten Person, eines echten Orts oder Ereignisses, KI-Text, von einem Menschen geprüft, Ungeprüfter KI-Text.

Auch beachten: Viele Plattformen haben eigene Regeln zur Kennzeichnung von KI-Inhalten. Sie gelten zusätzlich.

• Läuft er unter Ihrem Namen (selbst gebaut oder bauen lassen)? Ja

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 · Art. 50 Abs. 5

Wer mit einem Chatbot schreibt, muss erkennen, dass er mit einer KI spricht — außer es ist offensichtlich. Die Pflicht trifft den Anbieter, also wer den Chatbot unter eigenem Namen entwickelt oder entwickeln lässt und in Betrieb nimmt. Da Sie ihn unter Ihrem Namen betreiben, sind das Sie. Der Hinweis muss spätestens bei der ersten Begegnung klar und eindeutig erscheinen (Art. 50 Abs. 5).

• Läuft er unter Ihrem Namen (selbst gebaut oder bauen lassen)? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 · Art. 50 Abs. 5

Der Hinweis ist Pflicht, sie trifft aber den Anbieter, also den Hersteller des Chatbots, den Sie einbinden. Achten Sie darauf, dass der Hinweis bei Ihnen tatsächlich vor der ersten Nachricht erscheint, und lassen Sie sich das zusichern. Erscheint der Bot als Ihr eigener (eigener Name, eigenes Erscheinungsbild), können Sie selbst als Anbieter gelten. Der Hinweis muss spätestens bei der ersten Begegnung klar und eindeutig erscheinen (Art. 50 Abs. 5).

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 · Art. 50 Abs. 5

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 · Art. 50 Abs. 5

Ein Telefonassistent führt ein Gespräch mit Menschen. Anrufer müssen erkennen, dass sie mit einer KI sprechen. Die Pflicht trifft den Anbieter des Systems; läuft der Assistent unter Ihrem Namen, sind das Sie. Nutzen Sie einen fremden Dienst, achten Sie darauf, dass die Ansage tatsächlich kommt. Der Hinweis muss spätestens bei der ersten Begegnung klar und eindeutig erscheinen (Art. 50 Abs. 5).

• Führt die KI einen Dialog mit dem Kunden (antwortet auf Rückfragen, ohne dass ein Mensch eingreift)? Ja

Wie sicher ist das?

Umstritten: Die Fachliteratur ist uneins, eine Entscheidung der Gerichte gibt es noch nicht.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 · Art. 50 Abs. 5

Art. 50 Abs. 1 spricht von Systemen, die mit Menschen interagieren. Ob ein Mailwechsel darunter fällt, ist nicht entschieden; ein selbständiger Dialog per Mail spricht eher dafür. Die Pflicht trifft den Anbieter, also Sie, wenn das System unter Ihrem Namen läuft. Wir empfehlen den Hinweis. Der Hinweis muss spätestens bei der ersten Begegnung klar und eindeutig erscheinen (Art. 50 Abs. 5).

• Führt die KI einen Dialog mit dem Kunden (antwortet auf Rückfragen, ohne dass ein Mensch eingreift)? Nein

Wie sicher ist das?

Überwiegend: So sehen es die Leitlinien der Kommission und der größere Teil der Fachliteratur.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1

Schreibt die KI nur einen Entwurf, den ein Mensch prüft und abschickt, interagiert der Kunde nicht mit der KI. Art. 50 Abs. 1 greift dann nicht.

Wie sicher ist das?

Noch offen: Beantworten Sie die Folgefrage.

Wen trifft es?

Wer das KI-System unter eigenem Namen anbietet (Anbieter)

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1

Die Einordnung hängt an der Folgefrage. Beantworten Sie sie, dann sehen Sie das Ergebnis.

Wie sicher ist das?

Klar: Der Wortlaut der Verordnung trägt die Einordnung.

Wen trifft es?

Niemand

Fundstellen (KI-Verordnung)

Art. 50 Abs. 1 bis 4

Art. 50 betrifft Inhalte, die veröffentlicht oder Menschen gezeigt werden, und Systeme, mit denen Menschen sprechen. Wer KI nur intern für Protokolle oder Übersetzungen nutzt, veröffentlicht nichts. Baut Ihre Firma einen eigenen Chatbot, sehen Sie unter „Chatbot auf der Website“ nach.

Auch beachten: Unabhängig davon muss Ihr Unternehmen nach Art. 4 KI-VO Maßnahmen ergreifen, die die KI-Kompetenz der Beschäftigten unterstützen, die KI nutzen. Ein bestimmtes Niveau ist nicht geschuldet, ein eigenes Bußgeld gibt es nicht.