EU-Abgeordnete und Zivilgesellschaft fordern im KI-Gesetz ein striktes Verbot der biometrischen Massenüberwachung
Am Dienstag versammelten sich mehrere Verhandlungsführer:innen des EU-Parlaments zum KI-Gesetz aus den Fraktionen der Sozialdemokraten, der Grünen/EFA, Renew und Die Linke im Europäischen Parlament, um darüber zu diskutieren, wie weit das KI-Gesetz beim Verbot der biometrischen Massenüberwachung in Europa gehen sollte. Aus Deutschland kamen Beiträge von Birgit Sippel (SPD), Sergey Lagodinsky (Grüne), Svenja Hahn (FDP), Cornelia Ernst (Linke) und Patrick Breyer (Piratenpartei). Mit ihnen diskutierten Vertreter:innen von 20 Nichtregierungsorganisationen aus der gesamten EU als Teil der “Reclaim Your Face”-Koalition von 76 Nichtregierungsorganisationen, die sich für ein striktes Verbot biometrischer Massenüberwachung in Europa einsetzen.
Die Veranstaltung, die von einer fraktionsübergreifenden Koalition aus 10 Mitgliedern des Europäischen Parlaments (darunter Mitberichterstatter Brando Benifei) organisiert wurde, endete mit mehreren Zusagen, einer Trilog-Vereinbarung zum AI-Gesetz nicht zuzustimmen, wenn sie kein Verbot der biometrischen Massenüberwachung vorsieht. Die Redner:innen sprachen über verschiedene Bereiche, die ihrer Meinung nach in den Geltungsbereich des Verbots fallen sollten: biometrische Fernerkennung – sei es zu Strafverfolgungs- oder Grenzkontrollzwecken – aber auch Emotions- und Geschlechtskategorisierung, Polygraphen, Verhaltensanalyse und Kontrolle von Menschenansammlungen. Hervorgehoben wurden die Auswirkungen der biometrischen Massenüberwachung auf die Demokratie, auf Grundrechte wie das Recht auf freie Meinungsäußerung und auf bestimmte Bevölkerungsgruppen wie Geflüchtete. Alle Redner:innen stimmten darin überein, dass diese Praxis verboten werden muss und dass dieses Verbot streng und ehrgeizig gestaltet werden sollte.
Die anwesenden Nichtregierungsorganisationen kamen aus Deutschland, Frankreich, der Tschechischen Republik, Serbien, Portugal, Griechenland, den Niederlanden, Slowenien, Belgien, Italien und Kroatien sowie von der Dachorganisation EDRi. Begleitet wurden sie von Aktivist:innen, Künstler:innen und der Vereinigung Football Supporters Europe. Die Nichtregierungsorganisationen berichteten über bestehende Praktiken und eingesetzte Technologien in Europa und forderten kategorisch ein striktes Verbot.
Der Europaabgeordnete Patrick Breyer (Piratenpartei), der die Veranstaltung moderierte, sagte:
“Wir wissen um die abschreckende Wirkung, die Massenüberwachung auf unsere Gesellschaft hätte. Menschen, die sich ständig überwacht fühlen, können nicht frei und mutig für ihre Rechte und für eine gerechte Gesellschaft eintreten. Das ist nicht die vielfältige Gesellschaft, in der ich leben möchte und in der ich möchte, dass mein Kind aufwächst!”
Brando Benifei (S&D IMCO-Berichterstatter):
“Da wir im Parlament wissen, dass der Rat eine ganz andere Haltung einnimmt, müssen wir das Verbot, das wir vorschlagen, sehr umfassend gestalten und alle verschiedenen Aspekte einbeziehen: öffentlich und privat, ‘Echtzeit’ und ‘nachträglich’, usw. Heute weist das von der Kommission vorgeschlagene Verbot zwei verschiedene Schlupflöcher auf: private Räume und nachträgliche Abgleiche sind nicht abgedeckt, aber es gibt auch Ausnahmen für einige strafrechtliche Ermittlungen und Strafverfolgungsmaßnahmen. Wir sollten – und ich werde mein Bestes tun – ein vollständiges Verbot im Parlament durchsetzen. Wir müssen eine öffentliche Debatte darüber führen, denn die Menschen müssen wissen, was wir gegen die von den Regierungen forcierte Kontrolle und Scheinsicherheit zu verteidigen versuchen.”
Svenja Hahn (Renew/FDP IMCO-Schattenberichterstatterin):
“Das ist eine entscheidende Frage für unsere Gesellschaft – was für eine Gesellschaft wollen wir sein? In der EU besteht ein breiter Konsens darüber, dass wir uns nicht in die Richtung autoritärer Regime wie China, Iran und Russland bewegen wollen. Wir sehen, dass in diesen Ländern Künstliche Intelligenz strategisch zur Unterdrückung, zur sozialen Aushöhlung, zu Menschenrechtsverletzungen, gegen Minderheiten, zur totalen Überwachung eingesetzt wird… das ist etwas, was für uns eine rote Linie sein sollte, und ich höre jeden das sagen. Aber ich sehe in Europa besorgniserregende Dinge, wie z. B. Regierungen, die diese Technologien mit angeblich guten Absichten einsetzen, um etwas zu tun, was sie für einen qualifizierten Grund halten. Aber ich denke, das ist ein schmaler Grat. Demokratie ist in der EU keine Selbstverständlichkeit. Derzeit gibt es Länder, die gegen demokratische Grundsätze in der Union arbeiten, und [KI und biometrische Massenüberwachung] sind mächtige Werkzeuge. Wir können nicht davon ausgehen, dass unsere Demokratien für immer vorhanden und für immer stark sind und nicht untergraben werden können.
Wir dürfen nicht als selbstverständlich nehmen, dass [ein Verbot der biometrischen Massenüberwachung] in die endgültige Gesetzgebung aufgenommen wird, denn es sind die Mitgliedstaaten, die diese Instrumente für das einsetzen wollen, was sie “gute Zwecke” nennen. Wir arbeiten an der Position des Parlaments, aber was wir jetzt wirklich brauchen, ist Druck auf die Mitgliedstaaten. [An die Nichtregierungsorganisationen:] Wir brauchen Ihre Hilfe in den Mitgliedstaaten, um die Öffentlichkeit zu sensibilisieren. Bislang ist nur Deutschland [im Rat] dagegen, weil es im Koalitionsvertrag steht.”
Birgit Sippel (S&D/SPD LIBE-Koordinatorin):
“Wir müssen ein Verbot des Einsatzes von biometrischen Überwachungssystemen fordern. […] Unsere zentralen EU-Informationssysteme (SIS, VIS, Eurodac und andere) sind vom Anwendungsbereich des KI-Gesetzes ausgeschlossen, und dieses Schlupfloch in Artikel 83 sollte gestrichen werden.
Viele hier sagen, dass [biometrische Massenüberwachung] nichts ist, was wir für unsere Zukunft wollen – aber es geschieht bereits. Wir können nicht zulassen, dass KI-Systeme weiter eingesetzt werden, um eine Kultur der Verdächtigung von Personen zu automatisieren und zu normalisieren. Wir werden alle dafür kämpfen, dass das Parlament eine starke Position dazu hat. Und lassen Sie mich ganz klar sagen: Selbst wenn wir Systeme ohne jegliche Fehlerquote haben könnten, können wir sie nicht akzeptieren.”
Sergey Lagodinsky (Grüner LIBE-Schattenberichterstatter):
“Es gibt keine freien Räume und keine freie Zivilgesellschaft, wenn sie unter Überwachung stehen. Die biometrische Massenüberwachung ist also sowohl ein individuelles Problem für ein individuelles Problem für die Bürgerrechte, aber auch ein gesellschaftliches Problem für diejenigen, die für unsere Demokratie so wichtig sind.
Sogar unsere konservativen Freunde sind sich einig, dass wir ein Verbot der Massenüberwachung im KI-Gesetz brauchen; sie stimmen aber nicht zu, dass wir einen Verbotskatalog brauchen. Das ist das neue Schlachtfeld.”
Eine Audioaufzeichnung der Veranstaltung ist hier verfügbar
Die Nichtregierungsorganisationen, die Präsentationen hielten, waren in der Reihenfolge ihres Erscheinens: European Digital Rights (EU, um 05:06), Chaos Computer Club (DE, um 11:14), Citizen D (SI, um 15:34), Bits of Freedom (NL, um 20:17), La Quadrature Du Net (FR, um 26:18).