KI-Kennzeichnungspflicht (Art. 50 KI-VO)

Was die KI-Kennzeichnungspflicht bedeutet

Die KI-Kennzeichnungspflicht ist keine Verbotsnorm. Art. 50 der KI-Verordnung untersagt weder Chatbots noch KI-Bilder oder KI-Texte, er verlangt Erkennbarkeit. Menschen sollen wissen, ob sie mit einer Maschine sprechen und ob ein Inhalt künstlich erzeugt wurde, damit sie ihn einordnen können. Das Gesetz knüpft diese Transparenz an vier Konstellationen, die unterschiedliche Adressaten treffen.

Seit dem 2. August 2026 sind diese Pflichten anzuwenden. Der Digital Omnibus (Verordnung (EU) 2026/1744), der am 27. Juli 2026 in Kraft getreten ist, hat andere Fristen der KI-Verordnung verschoben, vor allem die für Hochrisiko-Systeme, nicht aber den Stichtag für Art. 50. Wer die Kennzeichnung unter Verweis auf „die verschobene KI-Verordnung“ aufschiebt, verlässt sich auf einen Irrtum.

Die vier Pflichten im Detail

Abs. 1: Interaktion mit KI

Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, müssen sicherstellen, dass die Nutzer darüber informiert werden, dass sie mit einer KI sprechen. Das gilt nicht, wenn es für eine angemessen informierte, aufmerksame und verständige Person nach den Umständen offensichtlich ist. Typische Fälle sind Chatbots, Voicebots und virtuelle Assistenten. Der Hinweis muss spätestens bei der ersten Interaktion klar und eindeutig erfolgen.

Abs. 2: Maschinenlesbare Markierung

Anbieter generativer KI-Systeme müssen die erzeugten Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen, etwa durch Metadaten oder Wasserzeichen. Die Technik muss wirksam, interoperabel, robust und zuverlässig sein, soweit das technisch machbar ist. Für Systeme, die vor dem 2. August 2026 auf dem Markt waren, haben die Anbieter bis zum 2. Dezember 2026 Zeit.

Abs. 3: Emotionserkennung und biometrische Kategorisierung

Betreiber von Systemen zur Emotionserkennung oder zur biometrischen Kategorisierung müssen die betroffenen Personen über den Betrieb informieren. Die Datenschutz-Grundverordnung gilt daneben unverändert. Im Gesundheitswesen ist diese Pflicht vor allem dort relevant, wo Stimm- oder Videoanalyse in Patientenkontakt oder Personalprozessen eingesetzt wird.

Abs. 4: Deepfakes und KI-Texte

Betreiber, die Deepfakes erzeugen oder verwenden, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Bei Texten entfällt die Pflicht, wenn ein Mensch den Inhalt redaktionell geprüft hat und eine Person die redaktionelle Verantwortung trägt. Bei erkennbar künstlerischen, kreativen oder satirischen Werken genügt eine Offenlegung, die die Darstellung nicht beeinträchtigt.

Wer verpflichtet ist: Anbieter und Betreiber

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung im beruflichen Rahmen einsetzt. Eine Praxis, die ein fertiges Terminbuchungs-Tool einkauft, ist in aller Regel Betreiberin. Wer einen eigenen Chatbot auf Basis eines Sprachmodells bereitstellt, kann zugleich Anbieter sein. Die Rolle entscheidet darüber, welche der vier Pflichten greift.

Die Verordnung gilt nicht für Betreiber, die KI-Systeme im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit verwenden (Art. 2 Abs. 10). Sobald eine Praxis, eine Apotheke oder ein Unternehmensaccount handelt, ist der berufliche Rahmen eröffnet. In Deutschland ist die Bundesnetzagentur als zentrale KI-Aufsicht vorgesehen.

Was Healthcare-Unternehmen beachten müssen

Im Gesundheitsbereich zeigt sich die Pflicht an drei Stellen. Chatbots und Telefonassistenten für Terminvergabe, Rezeptvorbestellung oder Beratung brauchen den Hinweis nach Abs. 1. Gesundheitsinformationen, die mit KI erstellt und an die Öffentlichkeit gerichtet werden, können unter Abs. 4 fallen, sofern kein dokumentierter Redaktionsprozess besteht. Und KI-erzeugte Bilder und Avatare in der Werbung berühren zusätzlich das Heilmittelwerberecht.

Kennzeichnung ersetzt keine Zulässigkeit. Ein KI-generiertes Vorher-Nachher-Bild bleibt eine vergleichende Darstellung im Sinne von § 11 Abs. 1 Satz 3 Nr. 1 HWG, ein erfundener Heilberufler bleibt irreführend. Die Einzelheiten und die Praxisfragen zu Chatbots, Bildern, Texten und Avataren erläutert unser Beitrag zur KI-Kennzeichnungspflicht 2026 für Praxen, Apotheken und Hersteller. Zum Hintergrund der Werbebeschränkungen siehe das Heilmittelwerbegesetz.

Folgen eines Verstoßes

Verstöße gegen Art. 50 fallen in die zweite Sanktionsstufe der KI-Verordnung (Art. 99): bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist. Für kleine und mittlere Unternehmen gilt bei der Bemessung der niedrigere der beiden Beträge. Wie die Bußgelder in Deutschland im Durchführungsgesetz (KI-MIG) ausgestaltet sind, ist nach der derzeitigen Quellenlage nicht abschließend geklärt. Sich auf eine mögliche Lücke zu verlassen, ist riskant.

Praktisch größer ist oft das wettbewerbsrechtliche Risiko. Verstöße gegen das Heilmittelwerbegesetz werden von Wettbewerbern und Verbänden regelmäßig abgemahnt, weil § 11 Abs. 1 Satz 3 HWG als Marktverhaltensregel im Sinne von § 3a UWG gilt. Wer KI in der Außenkommunikation einsetzt, sollte deshalb Kennzeichnung und Werbeprüfung gemeinsam organisieren.

Praktische Vorbereitung: Was Unternehmen jetzt tun sollten

Ein belastbarer Umgang mit Art. 50 beginnt mit einer Bestandsaufnahme der eingesetzten KI-Anwendungen und mit der Klärung, ob das Unternehmen jeweils Anbieter oder Betreiber ist. Darauf folgen die Hinweise für Chatbots und Telefonassistenten, ein benannter Verantwortlicher für die redaktionelle Prüfung von KI-Texten und eine schriftliche Bestätigung der Softwareanbieter, dass ihre Systeme die Pflichten aus Abs. 1 und 2 erfüllen. Wer Werbung durch Agenturen erstellen lässt, regelt Zusicherungen und Freigabe vertraglich.

Abgrenzung zu anderen Pflichten

Art. 50 KI-VO steht neben anderen Kennzeichnungs- und Transparenzpflichten und ersetzt sie nicht. Die Datenschutz-Grundverordnung verlangt eigene Informationen, wenn personenbezogene Daten verarbeitet werden, bei Gesundheitsdaten mit besonderer Sorgfalt. Die Kennzeichnung kommerzieller Kommunikation als Werbung folgt dem Lauterkeitsrecht, nicht der KI-Verordnung. Und Werbebeschränkungen nach dem Heilmittelwerbegesetz gelten für KI-Inhalte genauso wie für jeden anderen Werbeinhalt.

Rechtliche Begleitung bei KI-Einsatz und Werbung

Für Praxen, Apotheken und Hersteller lohnt sich eine frühzeitige Klärung, welche KI-Anwendungen unter Art. 50 fallen und ob die Außenkommunikation das Heilmittelwerberecht einhält. juravendis begleitet Unternehmen im Gesundheitswesen bei der Einordnung von KI-Einsatz, Chatbot-Hinweisen und Werbeinhalten. Mehr dazu bei unserem Anwalt für Pharmarecht und HWG. Sprechen Sie uns dazu in einem Strategiegespräch an.