EU-Kommission stell Entwurf für KI-Regulierung vor

Mit dem Entwurf schlägt die EU-Kommission vor, bestimmte KI-Anwendungen zu verbieten und ausgewählte, hochriskante KI-Technologien nur dann im EU-Binnenmarkt zuzulassen, wenn sie überprüft wurden – d.h. nur KI-Systeme mit hohem Risiko, die Qualitätsmanagement- und Konformitätsbewertungsverfahren durchlaufen haben, sollen in der EU erlaubt sein. Alle weiteren und damit der Großteil der KI-Anwendungen müssen maximal Transparenz- und Kennzeichnungsanforderungen erfüllen.

Grundsätzlich kann die allgemeine Ausrichtung des Vorschlags als eher zurückhaltend interpretiert werden. Im Gegensatz zum Vorschlag der deutschen Datenethikkommission von 2019, der ein mehrstufiges Regulierungsmodell mit abgestuften Anforderungen je nach „Schädigungspotenzial“ vorsah, reguliert die Kommission nur drei Kategorien von KI: Anwendungen, die so risikobehaftet sind, dass sie verboten werden, hochriskante und risikoarme KI. Wir begrüßen diesen risikobasierten Ansatz, der gleichzeitig nicht zu kompliziert und vielschichtig ist. Ein Großteil der KI-Anwendungen in Europa bliebe dabei weitgehend unreguliert und viele weitere Anwendungen könnten mit einer Selbsteinschätzung der Hersteller auf den Markt gebracht werden. 

Allerdings ist es möglich, dass der Gesetzestext durchaus noch verschärft werden könnte. Es bleibt auch zu prüfen, inwiefern im Handel angewandte Innovationen, wie z.B. das Bezahlen per Fingerabdruck oder Gesichtsscan, unter die Definition von „biometrische Fernidentifizierung von Personen in öffentlich zugänglichen Räumen“ fällt. Letztlich ist zu begrüßen, dass der Entwurf auch Maßnahmen zur Förderung der Innovation enthält: Vor der Markeinführung sollen KI-Systeme in Experimentierfeldern bzw. regulatorischen „Sandkästen“ erprobt werden können. Gerade KMU und Start-Ups sollen besonders unterstützt werden.

Das KI-Paket enthält neben dem Regulierungsvorschlag noch weitere Fördermaßnahmen für KI. Mit dem neuen EU-Haushalt und dem Corona-Wiederaufbaufonds sind weitere strategische Investitionen in KI möglich geworden. Noch nicht enthalten sind in dem Paket Rechtsakte, welche die Produkthaftung beziehungsweise die zivilrechtliche Haftung an die KI-spezifischen Anforderungen anpassen. Dieser Vorschlag wurde von der Kommission für den Herbst 2021 angekündigt und in Kürze soll die öffentliche Konsultation dazu starten. Außerdem wurde angekündigt die bestehende EU-Maschinenrichtlinie durch eine Verordnung zu ersetzen und ein Vorschlag dazu veröffentlicht.

Der KI-Verordnungsvorschlag wird nun an Rat und Parlament übermittelt, die sich gemeinsam auf einen Text einigen müssen, um das Gesetzgebungsverfahren abzuschließen. Mit einer Positionierung der beiden Institutionen und damit der Grundlage für Trilogverhandlungen ist nicht vor Anfang 2022 zu rechnen. Als Verordnung würden die Vorschriften 24 Monate nach Inkrafttreten direkt in den Mitgliedstaaten anwendbar.

Weitere Informationen und den Verordnungsvorschlag finden Sie hier: https://ec.europa.eu/commission/presscorner/detail/de/ip_21_1682