Startseite Künstliche Intelligenz Transparenz von KI: Was Artikel 50 des AI Acts Unternehmen jetzt vorschreibt

Transparenz von KI: Was Artikel 50 des AI Acts Unternehmen jetzt vorschreibt

0
8
Illustration symbolisiert die neuen Transparenzpflichten der KI, die durch Artikel 50 des AI Acts vorgeschrieben werden

Seit dem 2. August 2026 schreibt Artikel 50 der europäischen KI-Verordnung (AI Act) einer Reihe von Transparenzpflichten für jede Organisation vor, die einen Chatbot einsetzt, mit KI Texte, Bilder oder Videos generiert oder synthetische Inhalte für die breite Öffentlichkeit veröffentlicht. Diese Frist betrifft unmittelbar Unternehmen, die sich auf KI-Agenten stützen, um Inhalte zu erstellen oder zu verbreiten.

Vier konkrete Situationen, die der Text abdeckt

Im Gegensatz zu den meistdiskutierten Artikeln des AI Acts, die sich auf Hochrisikosysteme konzentrieren, gilt Artikel 50 unabhängig vom Risikoniveau des verwendeten Systems. Er deckt vier Fallkonstellationen ab: die Interaktion mit einem Konversationssystem, die technische Kennzeichnung synthetischer Inhalte, die Kennzeichnung von Hypertrucagen (Deepfakes) und generierten Texten, die zu einem Thema von öffentlichem Interesse verbreitet werden, sowie die Information bei Emotionserkennung.

Bei einem Chatbot äußert sich die Pflicht in einem einfachen Hinweis zu Beginn des Austauschs: Der Nutzer muss bereits bei den ersten Worten wissen, dass er mit einem automatisierten System kommuniziert. Eine Begrüßungsnachricht wie „Hallo, ich bin der virtuelle Assistent von [Name des Unternehmens]“ reicht aus, sofern der Kontext nicht den Eindruck eines menschlichen Gesprächs erweckt.

Der Sonderfall KI-generierter redaktioneller Inhalte

Für Presseorgane und Nachrichtenseiten verdient ein Punkt besondere Beachtung: Texte und synthetische Inhalte, die zu einem Thema von öffentlichem Interesse veröffentlicht werden, müssen grundsätzlich als KI-generiert gekennzeichnet werden. Der Text sieht jedoch eine bemerkenswerte Ausnahme vor: Diese Pflicht gilt nicht, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung dafür übernimmt. Ein KI-unterstützter Inhalt, der jedoch von einer Redaktion geprüft, freigegeben und unter deren Verantwortung veröffentlicht wird, fällt somit nicht unter die systematische Kennzeichnungspflicht – vorausgesetzt, diese redaktionelle Verantwortung wird eindeutig übernommen.

Ein zweistufiger Zeitplan

Alle Pflichten aus Artikel 50 sind am 2. August 2026 in Kraft getreten – mit einer Ausnahme: Die maschinenlesbare technische Kennzeichnung synthetischer Inhalte (Absatz 50-2) erhält für bereits vermarktete Systeme im Rahmen des von der Europäischen Kommission verabschiedeten „Digital Omnibus“ eine zusätzliche Frist bis zum 2. Dezember 2026. Die übrigen Pflichten gelten dagegen ohne Übergangsfrist.

Die bei Verstößen vorgesehenen Sanktionen sind alles andere als symbolisch: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes des Unternehmens, wobei der höhere Betrag maßgebend ist.

Was sich für Unternehmen ändert, die KI-Agenten einsetzen

Konkret müssen Organisationen, die Konversationsagenten für den Kundenservice, die Erstellung von Marketinginhalten oder die Automatisierung von Aufgaben einsetzen, nun ihre Nutzung überprüfen: Zeigen ihre Chatbots klar ihre automatisierte Natur an? Verfügen ihre Bild- oder Videogenerierungstools über eine Kennzeichnung, zumindest teilweise bis Dezember? Erlaubt ihr redaktioneller Prozess, die an KI-unterstützten Inhalten vorgenommene menschliche Überprüfung zu dokumentieren? Dieser letzte Punkt wird zu einer eigenständigen Compliance-Frage und nicht mehr nur zu einer guten Qualitätspraxis.

Um mehr darüber zu erfahren, wie Unternehmen diese Nutzung strukturieren, lesen Sie unsere Dossiers KI-Agenten verstehen – Anwendungsfälle und Vergleich KI-Agenten – Tools – Software oder unsere Analysen zur Organisation unter Unternehmen.

Häufig gestellte Fragen

Muss mein Unternehmen alle seine KI-generierten Inhalte kennzeichnen?

Nicht grundsätzlich. Ein KI-generierter Inhalt, der jedoch im Rahmen einer redaktionellen Kontrolle durch eine identifizierte Person oder Organisation geprüft und freigegeben wurde, fällt nicht unter die in Artikel 50 vorgesehene automatische Kennzeichnungspflicht – vorausgesetzt, diese redaktionelle Verantwortung ist real und dokumentiert.

Ist die technische Kennzeichnung von KI-Bildern und -Videos bereits verpflichtend?

Die Pflicht besteht seit dem 2. August 2026, doch für bereits auf dem Markt befindliche Systeme wurde eine Frist bis zum 2. Dezember 2026 eingeräumt, bis sich die technischen Kennzeichnungsstandards stabilisiert haben.

Was riskiert ein Unternehmen, das Artikel 50 nicht einhält?

Es droht ein Bußgeld von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, zusätzlich zu einem Reputationsrisiko aufgrund mangelnder Transparenz.

Quellen

Author Profile

Lena Hartmann

Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt. Redaktionsrichtlinie

Vorheriger ArtikelSchulanfang: Warum das Einkaufsbudget französischer Familien explodiert
Nächster ArtikelDer heißeste Juli, der je in Frankreich gemessen wurde: Das sagen die Zahlen

Redaktionsrichtlinie und Einsatz künstlicher Intelligenz