Change language: Deutsch
Teilen:

Transparenzklage gegen geheime EU-Überwachungsforschung: EU-Abgeordneter Patrick Breyer erzielt Teilerfolg vor Gericht

Freiheit, Demokratie und Transparenz Juristisches Pressemitteilungen

Das EU-Gericht hat heute ein Grundsatzurteil von großer Bedeutung für die von der EU finanzierte „Sicherheitsforschung“ veröffentlicht (Rechtssache T-158/19).[1] Im Rahmen des Projekts „iBorderCtrl“ ließ die EU den Einsatz vermeintlicher “Video-Lügendetektor”-Technologie an Reisenden erproben. Der Europaabgeordnete und Bürgerrechtler Dr. Patrick Breyer (Piratenpartei) hatte am 15. März 2019 Klage auf Herausgabe unter Verschluss gehaltener Dokumente über die ethische Vertretbarkeit, die rechtliche Zulässigkeit und die Ergebnisse der Technologie eingereicht.

Dem Gerichtsurteil zufolge darf die EU-Forschungsagentur diese Unterlagen nicht länger vollständig geheim halten. Veröffentlicht werden müsse etwa die ethische und juristische Bewertung von Technologien zur „automatischen Täuschungserkennung“ oder automatisierten „Risikobewertung“, soweit sie sich nicht speziell auf das iBorderCtrl-Projekt beziehe. Zum Schutz kommerzieller Interessen geheim gehalten werden dürften hingegen die Prüfung der ethischen Risiken (z.B. Risiko der Stigmatisierung und Falschmeldungen) und der rechtlichen Zulässigkeit der konkreten iBorderCtrl-Technologie sowie Berichte über die Ergebnisse des Projekts. Dem Transparenzinteresse der Öffentlichkeit werde dadurch Genüge getan, dass die Projektteilnehmer innerhalb von vier Jahren eine wissenschaftliche Veröffentlichung über das Projekt vornehmen müssten.

“Die Europäische Union finanziert immer wieder die Entwicklung und Erprobung von Technologie, die die Grundrechte verletzt und unethisch ist”, erklärt Kläger Breyer. „Das Grundsatzurteil ist ein wichtiger Teilerfolg, der allgemein der öffentlichen Diskussion über brandgefährliche Technologie zur Massenüberwachung, Massenkontrolle und Personendurchleuchtung Auftrieb geben wird. ‚Geschäftsgeheimnisse‘ sind künftig kein Totschlagargument mehr.“

„Nicht akzeptabel ist allerdings, dass die jahrelange Geheimhaltung der konkreten EU-Überwachungsprojekte bestätigt und ein überwiegendes öffentliches Transparenzinteresse nicht anerkannt worden ist. Steuerzahler, die Wissenschaft, Medien und Parlamente müssen Zugang zu öffentlich finanzierter Forschung erhalten – gerade bei pseudowissenschaftlichen und orwellschen Entwicklungen wie eines ‚Video-Lügendetektors‘. Hier muss dringend gesetzlich nachgebessert werden!“

[1] Urteil im Wortlaut: https://curia.europa.eu/juris/document/document.jsf?text=&docid=251282&pageIndex=0&doclang=DE&mode=lst&dir=&occ=first&part=1



Pressebriefing: Transparenzklage gegen geheime EU-Überwachungsforschung „iBorderCtrl“

Die EU finanziert die Entwicklung eines vermeintlichen “Video-Lügendetektors”, dem sich Einreisende unterziehen müssten. Der Europaabgeordnete und Bürgerrechtler Dr. Patrick Breyer (Piratenpartei) hat am 15. März 2019 Klage auf Herausgabe unter Verschluss gehaltener Dokumente über die ethische Vertretbarkeit, die rechtliche Zulässigkeit und die Ergebnisse der Technologie eingereicht.

Der Europäische Gerichtshof wird sein Urteil am 15. Dezember 2021 um 11 Uhr öffentlich in Luxemburg verkünden (RechtssacheT-158/19). Ein Grundsatzurteil könnte allgemein Licht ins Dunkel der EU-finanzierten „Sicherheitsforschung“ bringen.

Wie soll der „Video-Lügendetektor“ funktionieren?

Das von der EU mit 4,5 Millionen geförderte Forschungsprojekt iBorderCtrl soll Europa unter Einsatz „künstlicher Intelligenz“ stärker abschotten. Die Idee: Reisewillige sollen künftig zu Hause vor der Webcam einen Lügendetektor-Test absolvieren. Anhand der Mimik und des Verhaltens beim Beantworten von Standardfragen soll eine Spezialsoftware bestimmen, ob die Wahrheit gesagt wird.

Ob ein solcher Lügendetektor-Test überhaupt funktioniert, ist höchst umstritten. Die einzigen “wissenschaftlichen” Bewertungen der Technologie stammen von der Manchester Metropolitan University (MMU), die Teil des iBorderCtrl-Konsortiums ist. Die MMU-Wissenschaftler haben die Technologie patentiert und verkaufen sie kommerziell über ein Unternehmen namens Silent Talker Ltd. Da die Technologie auf maschinellem Lernen beruht, wissen die Entwickler nach eigenen Angaben selbst nicht, was das System als Täuschungsanzeichen bewertet und was nicht.

Die EU-Kommission behauptete 2019: „Der Projektvorschlag wurde von unabhängigen Experten wissenschaftlich bewertet und einer technischen Prüfung unterzogen, bei der die wissenschaftlichen Annahmen, einschließlich der statistischen Signifikanz des automatischen Täuschungserkennungssystems, auf der Grundlage der bisherigen wissenschaftlichen und bisher durchgeführten wissenschaftlichen und technologischen Forschung bestätigt wurden.“ Die Herausgabe der „wissenschaftlichen Bewertung“ wird jedoch verweigert. Vor Gericht erklärte die EU-Forschungsagentur sinngemäß, es sei keine Fördervoraussetzung, dass eine Technologie funktioniere.

Unabhängige Wissenschaftler stellen grundsätzlich in Frage, dass sich aus „Mikroexpressionen“ auf den Wahrheitsgehalt einer Aussage schließen lasse.

Wie wird die Geheimhaltung begründet?

Breyers Anfrage nach der ethischen und rechtlichen Bewertung der Technologie und der „Strategie zur Öffentlichkeitsarbeit“ lehnte die EU-Forschungsagentur mit der Begründung ab, Ethik-Bericht und PR-Strategie seien „kommerzielle Informationen“ der beteiligten Unternehmen und von „kommerziellem Wert“. Der Anwalt der Forschungsagentur erklärte vor Gericht: „Eine demokratische Kontrolle der Forschungsförderung ist nicht nötig“, denn bei der Erforschung und Entwicklung gehe es noch nicht um den Einsatz der Technologie. Die EU-Forschungsförderung verfolge bewusst keinen Open Access-Ansatz, um Wettbewerbsvorteile der teilnehmenden Unternehmen zu schützen. Eine Offenlegung des iBorderCtrl-Projekts gefährde die Geschäftsinteressen und Reputation der beteiligten Unternehmen und Institutionen. Aus dem Zusammenhang gerissene Darstellungen in der Öffentlichkeit könnten die Verantwortlichen unter Druck setzen und die Fertigstellung sowie Vermarktung der Technologie gefährden.

Breyer dazu: „Die Begründung der Geheimhaltung zeigt: Es geht selbst hier um Profite der Wirtschaft. Bei dieser hochgefährlichen Entwicklung muss das Transparenzinteresse von Wissenschaft und Öffentlichkeit aber Vorrang vor privaten Gewinninteressen haben.“

Was kritisiert Breyer an der Technologie?

Wegen der mangelnden Zuverlässigkeit der Technologie drohen unzählige Menschen zu Unrecht der Lüge bezichtigt und Nachteilen ausgesetzt zu werden. Erfahrungsgemäß könnten bestimmte Personengruppen (zum Beispiel Menschen mit dunkler Hautfarbe, Frauen, älteren Personen, Kindern, Menschen mit Behinderungen) besonders häufig falsch beurteilt werden. Nach zwei parlamentarischen Anfragen Breyers (1, 2) musste die EU-Innenkommissarin einräumen, dass im Rahmen des Projekts nicht überprüft wurde, welchen Anteil der Befragten die Technologie als „Lügner“ einstuft, wie hoch ihre Fehlerquote ist und ob die Fehlerquote bei bestimmten Personengruppen höher ist.

Breyer: „Systeme zur Erkennung auffälligen Verhaltens erzeugen schrittweise eine gleichförmige Gesellschaft passiver Menschen, die bloß nicht auffallen wollen. Eine solche tote Überwachungsgesellschaft ist nicht lebenswert. Ich bin davon überzeugt, dass man mit diesem pseudowissenschaftlichen Sicherheits-Hokuspokus keine Terroristen findet. Für gestresste, nervöse, auffällig angezogene oder müde Menschen kann eine solche Verdächtigungsmaschine schnell zum Alptraum werden. Lügendetektoren sind hierzulande vor Gericht gerade deshalb nicht als Beweismittel zugelassen, weil sie nicht funktionieren. Mit der Entwicklung von Technologien zur immer stärkeren Überwachung, Erfassung und Kontrolle von Menschen muss Schluss sein!“

Die EU-Kommission verteidigt das Projekt mit einer unabhängigen externen Ethikbewertung, verweigert aber deren Herausgabe.

EU-Forschungsgelder werden für Lobbyismus zweckentfremdet

Im April 2021 hat sich herausgestellt, dass ein Teil des von der EU zu 100% finanzierten Forschungsprojekts “iBorderCtrl” dazu diente, Lobbyarbeit für Grundrechtseinschränkungen durch den Gesetzgeber zu betreiben, um den Einsatz der umstrittenen Technologie an Reisenden zu ermöglichen. Dies versuchte die EU-Kommission in einem teilweise geschwärzten Dokument zu verbergen, das mit technischen Mitteln rekonstruiert werden konnte.

Während die EU-Kommission öffentlich behauptet, iBorderCtrl sei lediglich „ein Forschungsprojekt, bei dem es nicht darum ging, ein tatsächlich funktionierendes System zu erproben oder einzuführen“, enthüllten die bis dahin geschwärzten Teile des “Kommunikationsplans”, dass das iBorderCtrl-Konsortium bereits mit der Industrie zusammenarbeitete, um das System als „Grundlage vieler anderer Anwendungen für andere Zielgruppen und sogar andere Anwendungsbereiche“ einsetzen zu lassen.

Im Dokument heißt es weiter, dass eine gesetzliche Grundlage erforderlich sein werde, um den „Video-Lügendetektor“ und ähnliche Technologien an Grenzen einsetzen zu können. Um auf solche Gesetzesänderungen „hinzuwirken“, plante das Konsortium „Kommunikationsaktivitäten“ gegenüber Abgeordneten, EU-Kommission und Grenzbehörden.

In ihrer Antwort auf eine schriftliche Anfrage von Patrick Breyer dementiert die EU-Innenkommissarin Ylva Johansson die belegbare Lobbyarbeit.

EU finanziert immer wieder illegale und unethische Überwachungsforschung

Schon vor Jahren ließ FRONTEX Technik zur Video-Lügenerkennung erproben. Im Rahmen eines Nachfolgeprojekts „TRESSPASS“ hat die EU erneut die Erprobung unwissenschaftlicher Technologie zur „Beurteilung der Aufrichtigkeit des Reisenden und seiner Aussagen“ finanziert.  Im Oktober äußerte sich das Europäische Parlament „besorgt“ über das Projekt iBorderCtrl.

Dass die EU illegale und unethische Überwachungsforschung finanziert, kommt immer wieder vor. Mit Projekten wie INDECT oder CleanIT ist die EU-Sicherheitsforschung seit Jahren in der Kritik. Das tatsächliche Ausmaß ist nur schwer zu erfassen. Wir haben eine lange Liste mit möglicherweise relevanten Forschungsprojekten erstellen lassen, zu deren Auswertung aber umfangreiche Analysen nötig wären.

Um grundrechtswidrige Techologieentwicklung in Zukunft zu verhindern, wären grundlegende Änderungen nötig:

  • In beratenden Gremien sollten künftig neben Verwaltungs- und Industrievertretern in gleicher Zahl auch Volksvertreter sämtlicher Fraktionen, Kriminologen, Opferverbände und Nichtregierungsorganisationen zum Schutz der Freiheitsrechte und Privatsphäre vertreten sein.
  • Eine Entscheidung über die Ausschreibung eines Projekts soll erst getroffen werden, wenn eine öffentliche Untersuchung der Europäischen Grundrechtsagentur über die Auswirkungen des jeweiligen Forschungsziels auf unsere Grundrechte (impact assessment) vorliegt.
  • Die Entwicklung von Technologien zur verstärkten Überwachung, Erfassung und Kontrolle von Bürgerinnen und Bürgern sollte gesetzlich ausgeschlossen werden.
  • Stattdessen sollte die Sicherheitsforschung auf sämtliche Optionen zur Kriminal- und Unglücksverhütung erstreckt werden und eine unabhängige Untersuchung von Wirksamkeit, Kosten, schädlichen Nebenwirkungen und Alternativen zu den einzelnen Vorschlägen zum Gegenstand haben.
  • Weil auch die gefühlte Sicherheit eine wichtige Voraussetzung für unser Wohlbefinden ist, wollen wir zudem erforschen lassen, wie das öffentliche Sicherheitsbewusstsein gestärkt und wie verzerrten Einschätzungen und Darstellungen der Sicherheitslage entgegen gewirkt werden kann.

Diese ungelösten Fragen werden durch den neuen EU-Verteidigungsfonds verschärft, mit dem die EU ihren Geldfluss auf die Entwicklung von Waffen, d.h. tödliche Technologie, ausweitet.

Was ist das Ziel der Klage?

Kläger Patrick Breyer: „Weil die EU immer wieder gefährliche Überwachungs- und Kontrolltechnologie entwickeln lässt, künftig sogar Waffenforschung finanziert, hoffe ich auf ein Grundsatzurteil, das öffentliche Kontrolle und Debatte über eine öffentlich finanzierte Forschungsförderung im Dienste privater Profitinteressen ermöglicht. Mit meiner Transparenzklage will ich ganz grundsätzlich klären lassen, dass der Steuerzahler, die Wissenschaft, Medien und Parlamente ein Recht auf Zugang zu öffentlicher Forschung haben – gerade bei pseudowissenschaftlichen und orwellschen Entwicklungen wie dem ‚Video-Lügendetektor‘.“

Schon einmal ist Breyer erfolgreich gegen die EU-Kommission bis vor den Europäischen Gerichtshof gezogen. Damals verweigerte die Kommission die Herausgabe von Dokumenten zur verdachtslosen Vorratsdatenspeicherung.

Relevante Dokumente:

Offizielle Zusammenfassung des Verfahrens (Sitzungsbericht)

Klageschrift im Wortlaut und weitere Informationen

Plädoyer des Klägeranwalts vor Gericht

Antwort der EU-Innenkommissarin vom 30.03.2020

„OpenSecurity Data“: Suchmaschine zur EU-Sicherheitsforschung

EPRS-Gutachten: Mechanismen zur Verhinderung unethischer Forschung und Finanzierung – Horizon und EDF

Pressemitteilungen:

Kommentare

0 Kommentare

Kommentar schreiben:

Alle Angaben sind freiwillig. Die Email-Adresse wird nicht veröffentlicht.