EU AI Act: Zentrale Vorgaben jetzt verbindlich

Neue Bestimmungen des EU AI Acts

Seit gestern müssen weitere Vorgaben des AI Acts, der europäischen Verordnung zu Künstlicher Intelligenz, verbindlich eingehalten werden. Insbesondere greifen neue Transparenzanforderungen für bestimmte KI-Systeme und KI-generierte Inhalte. Zusätzlich können die EU-Kommission und zuständige Behörden die Einhaltung kontrollieren und Verstöße sanktionieren.

Bitkom-Präsident sieht Klärungsbedarf

Zu den neuen Bestimmungen erklärte Dr. Ralf Wintergerst, Präsident des ITK-Branchenverbands Bitkom, im Vorfeld: »Der AI Act soll einen EU-weit einheitlichen Rechtsrahmen für die Entwicklung und den Einsatz Künstlicher Intelligenz schaffen. Noch sind aber zu viele Fragen offen, um die neuen Regeln rechtssicher umsetzen zu können. Nach einer zweijährigen Übergangsfrist müssen viele Unternehmen ab Sonntag Transparenzvorgaben einhalten. Die Übergangsfrist hat ihnen faktisch keine Zeit für die Vorbereitung gegeben, weil zentrale Leitlinien und Auslegungshilfen erst vor kurzem veröffentlicht wurden.

Für spürbare Entlastung sorgen Fristverlängerungen für Hochrisiko-KI und der Verzicht auf doppelte Prüf- und Dokumentationsprozesse im Maschinenbereich. Für jene Vorgaben, die ab Sonntag anwendbar werden, fehlt es jedoch weiterhin an der nötigen Klarheit. Von den Aufsichtsbehörden erwarten wir pragmatische Hilfestellungen, eine verhältnismäßige Durchsetzung und ein europaweit abgestimmtes Vorgehen.«

Neue Regelungen seit Sonntag

• KI-Chatbots müssen als KI erkennbar sein: Nutzerinnen und Nutzer müssen grundsätzlich darüber informiert werden, wenn sie mit einer KI kommunizieren.
• KI-Inhalte müssen technisch erkennbar sein: Anbieter generativer KI, die diese neu in den Markt bringen, müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar markieren. Für Systeme, die bereits im Einsatz sind, besteht eine Übergangsfrist bis Dezember 2026.
• Deepfakes müssen gekennzeichnet werden: Künstlich erzeugte oder manipulierte Bilder, Videos und Audios, die echt erscheinen können, müssen als solche offengelegt werden.
• Bestimmte KI-Texte müssen offengelegt werden: Das gilt für Texte, die die Allgemeinheit über Themen öffentlichen Interesses informieren sollen. Ausnahmen bestehen insbesondere bei einer inhaltlichen menschlichen Prüfung und redaktionellen Verantwortung.
• Emotionserkennung muss transparent sein: Betroffene müssen über den Einsatz von Systemen informiert werden, die Emotionen erkennen oder anhand biometrischer Merkmale Personen einordnen.
• Verstöße können sanktioniert werden: Die zuständigen Behörden können die Einhaltung der Transparenzpflichten kontrollieren und bei Verstößen Bußgelder verhängen. Verstöße gegen die bereits geltenden Pflichten für KI-Modelle mit allgemeinem Verwendungszweck können ebenfalls seit Sonntag sanktioniert werden.

Welche KI-erzeugten Inhalte von Unternehmen gekennzeichnet werden müssen und wie sich Betriebe organisatorisch auf die neuen Vorschriften einstellen sollten, ist in diesem Artikel ausführlich beschrieben.