EU AI-Act in Kürze

Am 1. August 2024 trat der sogenannte EU AI-Act in Kraft. Er regelt den Einsatz von Künstlicher Intelligenz in Europa nach einem risikobasierten Ansatz: Je höher das Risiko einer KI-Anwendung, desto strenger die Anforderungen.

Ziel ist es, KI-Systeme sicher, transparent und ethisch zu gestalten, die Grundrechte der Menschen zu schützen und gleichzeitig Innovation zu ermöglichen.

Ab 2. Februar 2025: Verbot bestimmter Hochrisiko-KI-Anwendungen (z.B. soziale Bewertungssysteme), sowie Pflicht zur Förderung der KI-Kompetenz im Unternehmen.

Ab 2. August 2025: Transparenzpflichten für Anbieter von generativer KI (z.B. ChatGPT, Midjourney).

Ab 2. August 2026: Kennzeichnungspflicht für KI-generierte Inhalte (Audio, Video, Bilder, Text), sowie vollständige Anwendung für Hochrisiko-KI-Systeme.

Ab dem 2. August 2026 müssen KI-generierte Inhalte als solche gekennzeichnet werden, sowohl für Menschen sichtbar als auch maschinenlesbar. Dies betrifft:

• Audio-Inhalte (KI-Stimmen, synthetische Vertonungen)
• Videos und Bilder (Deepfakes, KI-generierte Visualisierungen)
• Texte, die öffentliche Angelegenheiten behandeln

Ausnahme: Wenn Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt, entfällt die Kennzeichnungspflicht.

Die Kennzeichnung muss durch Wasserzeichen, Metadaten oder sichtbare Labels erfolgen. Dies stellt eine technische Herausforderung für viele Unternehmen dar.

Der EU AI-Act sieht empfindliche Bussen vor. Die Höhe richtet sich nach der Schwere des Verstosses:

• Verstösse gegen die Kennzeichnungspflicht: Bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes
• Schwerwiegende Verstösse: Bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes
• Verbotene KI-Anwendungen: Bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes
  

Auch wenn Verstösse gegen die Kennzeichnungspflicht nicht unmittelbar als Höchststrafe gelten, können sie bei systematischer Täuschung oder in Verbindung mit Verbraucherschutzverletzungen entsprechend geahndet werden.

Ja. Der EU AI-Act gilt für alle Anbieter und Betreiber von KI-Systemen, deren Inhalte in der EU verwendet werden, unabhängig vom Unternehmenssitz.

Schweizer Unternehmen sind betroffen, wenn:

• Ihre Website in einer EU-Sprache verfügbar ist
• Sie EU-Preisauszeichnungen verwenden (z.B. Euro)
• Ihre Inhalte sich objektiv an EU-Nutzer richten
• Sie E-Learning-Inhalte oder Newsletter grenzüberschreitend bereitstellen

Gerade im E-Learning, wo Inhalte häufig international genutzt werden, ist das Risiko besonders hoch.

Der EU AI-Act markiert einen Wendepunkt in der Regulierung Künstlicher Intelligenz. Die Kennzeichnungspflicht ab August 2026 betrifft zahlreiche Unternehmen, von internationalen Konzernen bis zu KMU, die grenzüberschreitend tätig sind.

Wer frühzeitig prüft, welche KI-Systeme im Einsatz sind und welche Regelungen greifen, kann rechtzeitig Prozesse anpassen und Compliance sicherstellen. Die Übergangsfristen bieten dafür noch ausreichend Zeit, sollten aber genutzt werden.