Durchbruch für die Regulierung von KI und das Verbot diskriminierender Massenüberwachungstechnologien

Heute (Mittwoch, 14. Juni) haben die Mitglieder des Europäischen Parlaments die Position des EU-Parlaments für die Verhandlungen über das weltweit erste Gesetz zur Regulierung Künstlicher Intelligenz angenommen. Die Verhandlungen (“Trilog”) mit dem Rat und der Europäischen Kommission beginnen voraussichtlich am Abend. Die Grünen/EFA konnten die Forderung nach Garantien für Umweltstandards und Grundrechte beim Einsatz von KI-Systemen durchsetzen. Die Mehrheit unterstützt auch die Forderung nach einem vollständigen Verbot biometrischer Echtzeit-Massenüberwachung im öffentlichen Raum. Die Grünen/EFA setzen sich seit Langem für ein Verbot von Technologien zur Gesichtserkennung ein, die eine große Zahl unschuldiger Bürgerinnen und Bürger verdächtigen und systematisch unterrepräsentierte Gruppen diskriminieren.

Sergey Lagodinsky, Verhandler der Grünen/EFA-Fraktion im federführenden Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres, kommentiert:

„Das Europäische Parlament geht mit einem starken Mandat in die Verhandlungen, das die Menschen und Grundrechte in den Mittelpunkt der Nutzung Künstlicher Intelligenz stellt. Es ist ein Erfolg, dass das EU-Parlament eine verpflichtende Folgenabschätzung für die Grundrechte fordert. Die Folgenabschätzung wird erheblichen Einfluss darauf haben, welche Systeme in der EU entwickelt und genutzt werden. Im Großen und Ganzen spiegelt der gefundene Kompromiss ein vernünftiges Gleichgewicht zwischen verantwortungsvoller Regulierung und angemessenen Innovationsanreizen. Wir Grünen/EFA begrüßen, dass das EU-Parlament unseren Vorschlägen folgt und sich klar für Verbote demokratiegefährdender Praktiken wie biometrischer Massenüberwachung und Emotionserkennung, von KI-Systemen zur Erkennung von Geschlecht oder sexueller Orientierung sowie von KI für Vorhersagen von Straftaten ausspricht. Mit den Vorschlägen der Grünen/EFA ist das KI-Gesetz das erste legislative Werk, das KI-Entwicklung und KI-Einsatz unter Berücksichtigung des Ressourcenverbrauchs und anderer Umweltaspekte gestaltet.”

Patrick Breyer, Grünen/EFA-Mitglied (Piratenpartei) im Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres, kommentiert:

„Die heutige Abstimmung gegen den Einsatz biometrischer Massenüberwachung im öffentlichen Raum ist ein historischer Erfolg. Das EU-Parlament setzt ein klares Zeichen gegen eine dystopische Zukunft biometrischer Massenüberwachung nach chinesischem Vorbild in Europa. Denn in keinem einzigen Fall konnte biometrische Echtzeit-Überwachung einen Terroranschlag verhindern, wie uns Befürworterinnen und Befürworter glauben machen wollen. Biometrische Echtzeit-Überwachungstechnologien erfassen zu Unrecht eine große Zahl unschuldiger Bürger und Bürgerinnen, diskriminieren systematisch unterrepräsentierte Gruppen und haben eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft. In den anstehenden Verhandlungen mit den EU-Regierungen wird es jetzt darum gehen, für ein Europa frei von dystopischer Massenüberwachung zu kämpfen."

Hintergrund:

Der Vorschlag für ein KI-Gesetz bringt die weltweit erste Gesetzgebung über künstliche Intelligenz auf den Weg und enthält harmonisierte Regeln für den Einsatz von KI-Systemen. Er unterscheidet zwischen drei Kategorien von KI-Systemen: verbotene Systeme, Systeme mit hohem Risiko und Systeme mit geringem Risiko, und enthält spezifische Verpflichtungen für grundlegende Modelle (wie „ChatGPT”).