Pressebriefing: Transparenzklage gegen geheime EU-Überwachungsforschung „iBorderCtrl“

Die EU finanziert die Entwicklung eines vermeintlichen “Video-Lügendetektors”, dem sich Einreisende unterziehen müssten. Der Europaabgeordnete und Bürgerrechtler Dr. Patrick Breyer (Piratenpartei) hat am 15. März 2019 Klage auf Herausgabe unter Verschluss gehaltener Dokumente über die ethische Vertretbarkeit, die rechtliche Zulässigkeit und die Ergebnisse der Technologie eingereicht.

Der Europäische Gerichtshof verkündete sein Urteil am 15. Dezember 2021 (Rechtssache T-158/19). Das Gericht entschied, dass die Öffentlichkeit teilweise Zugang zu den Projektunterlagen erhält, in denen allgemein die Zuverlässigkeit, ethische Vertretbarkeit und Rechtmäßigkeit von Technologien dieser Art erörtert wird. Das Gericht vertrat jedoch die Auffassung, dass kommerzielle Interessen einem öffentlichen Zugang zu Informationen über die spezielle iBorderCtrl-Technologie entgegenstehen, einschließlich ihrer Rechtmäßigkeit, ihrer Zuverlässigkeit (Falschmeldungen), des Diskriminierungsrisikos und der vorgesehenen Abhilfemaßnahmen.

Am 25. Februar 2022 legte Breyer ein Rechtsmittel gegen das Urteil ein. Infolgedessen wird der Europäische Gerichtshof das erstinstanzliche Urteil überprüfen.

Wie soll der „Video-Lügendetektor“ funktionieren?

Das von der EU mit 4,5 Millionen geförderte Forschungsprojekt iBorderCtrl soll Europa unter Einsatz „künstlicher Intelligenz“ stärker abschotten. Die Idee: Reisewillige sollen künftig zu Hause vor der Webcam einen Lügendetektor-Test absolvieren. Anhand der Mimik und des Verhaltens beim Beantworten von Standardfragen soll eine Spezialsoftware bestimmen, ob die Wahrheit gesagt wird.

Ob ein solcher Lügendetektor-Test überhaupt funktioniert, ist höchst umstritten. Die einzigen “wissenschaftlichen” Bewertungen der Technologie stammen von der Manchester Metropolitan University (MMU), die Teil des iBorderCtrl-Konsortiums ist. Die MMU-Wissenschaftler haben die Technologie patentiert und verkaufen sie kommerziell über ein Unternehmen namens Silent Talker Ltd. Da die Technologie auf maschinellem Lernen beruht, wissen die Entwickler nach eigenen Angaben selbst nicht, was das System als Täuschungsanzeichen bewertet und was nicht.

Die EU-Kommission behauptete 2019: „Der Projektvorschlag wurde von unabhängigen Experten wissenschaftlich bewertet und einer technischen Prüfung unterzogen, bei der die wissenschaftlichen Annahmen, einschließlich der statistischen Signifikanz des automatischen Täuschungserkennungssystems, auf der Grundlage der bisherigen wissenschaftlichen und bisher durchgeführten wissenschaftlichen und technologischen Forschung bestätigt wurden.“ Die Herausgabe der „wissenschaftlichen Bewertung“ wird jedoch verweigert. Vor Gericht erklärte die EU-Forschungsagentur sinngemäß, es sei keine Fördervoraussetzung, dass eine Technologie funktioniere.

Unabhängige Wissenschaftler stellen grundsätzlich in Frage, dass sich aus „Mikroexpressionen“ auf den Wahrheitsgehalt einer Aussage schließen lasse.

Welche Informationen werden geheimgehalten?

Nach dem erstinstanzlichen Gerichtsurteil sollen u.a. folgende Informationen über das iBorderCtrl-Projekt zum Schutz kommerzieller Interessen geheim bleiben:

die konkreten rechtlichen und ethischen Implikationen des Projekts iBorderCtrl (Dokumente D1.1, D1.2)
ethische und rechtliche Bedenken (beispielsweise Menschenwürde, Recht auf Privatsphäre, Gleichbehandlung, Risiko der Stigmatisierung, schleichende Funktionsausweitung etc.) und Vorkehrungen zur Einhaltung ethischer Grundsätze und Grundrechte, sowohl für die Forschungsphase als auch für die Betriebsphase
wie das Projekt iBorderCtrl mit Profiling und dem Risiko der Stigmatisierung sowohl von einzelnen Personen als auch von Gruppen umgeht
Projektrisiken und diesbezügliche Schutzmaßnahmen, etwa das Problem von Falschmeldungen („false positives“, „false negatives“) der iBorderCtrl-Technologie
Anforderungen des Unions- und des nationalen Rechts an die iBorderCtrl-Technologien unter anderem aus dem Schengener Grenzkodex, dem Visakodex, der Datenschutz-Grundverordnung und der Strafvollstreckungsrichtlinie (EU) 680/2016 sowie nationalen Bestimmungen zur Datensicherheit und zur Verwendung biometrischer Daten (Dokument D2.3)
fachliche Anforderungen an iBorderCtrl (Dokument D2.1)
die konkreten iBorderCtrl-Komponenten: (1) Automatic Deception Detection System, (2) Document Authenticity Analysis Tool, (3) Biometric Module, (4) Face Matching Tool, (5) Hidden Human Detection Technology, (6) Risk Based Assessment Tool und (7) integrated Border Control Analytics Tool (Dokument D2.2)
die iBorderCtrl-Technik zur Sammlung personenbezogener Daten (Dokument D3.1)
Bewertung der Qualität der Projektergebnisse sowie des Risikomanagements (Dokument D8.1)
Fortschrittsberichte einschließlich Projektrisiken (vorhergesehene und unvorhergesehene, organisatorische, technische) und die jeweiligen Schutzmaßnahmen (Dokumente D8.3 und D8.5, D8.4 und D8.7)

Wie wird die Geheimhaltung begründet?

Breyers Anfrage nach der ethischen und rechtlichen Bewertung der Technologie und der „Strategie zur Öffentlichkeitsarbeit“ lehnte die EU-Forschungsagentur mit der Begründung ab, Ethik-Bericht und PR-Strategie seien „kommerzielle Informationen“ der beteiligten Unternehmen und von „kommerziellem Wert“. Der Anwalt der Forschungsagentur erklärte vor Gericht: „Eine demokratische Kontrolle der Forschungsförderung ist nicht nötig“, denn bei der Erforschung und Entwicklung gehe es noch nicht um den Einsatz der Technologie. Die EU-Forschungsförderung verfolge bewusst keinen Open Access-Ansatz, um Wettbewerbsvorteile der teilnehmenden Unternehmen zu schützen. Eine Offenlegung des iBorderCtrl-Projekts gefährde die Geschäftsinteressen und Reputation der beteiligten Unternehmen und Institutionen. Aus dem Zusammenhang gerissene Darstellungen in der Öffentlichkeit könnten die Verantwortlichen unter Druck setzen und die Fertigstellung sowie Vermarktung der Technologie gefährden.

Breyer dazu: „Die Begründung der Geheimhaltung zeigt: Es geht selbst hier um Profite der Wirtschaft. Bei dieser hochgefährlichen Entwicklung muss das Transparenzinteresse von Wissenschaft und Öffentlichkeit aber Vorrang vor privaten Gewinninteressen haben.“

Was kritisiert Breyer an der Technologie?

Wegen der mangelnden Zuverlässigkeit der Technologie drohen unzählige Menschen zu Unrecht der Lüge bezichtigt und Nachteilen ausgesetzt zu werden. Erfahrungsgemäß könnten bestimmte Personengruppen (zum Beispiel Menschen mit dunkler Hautfarbe, Frauen, älteren Personen, Kindern, Menschen mit Behinderungen) besonders häufig falsch beurteilt werden. Nach zwei parlamentarischen Anfragen Breyers (1, 2) musste die EU-Innenkommissarin einräumen, dass im Rahmen des Projekts nicht überprüft wurde, welchen Anteil der Befragten die Technologie als „Lügner“ einstuft, wie hoch ihre Fehlerquote ist und ob die Fehlerquote bei bestimmten Personengruppen höher ist.

Breyer: „Systeme zur Erkennung auffälligen Verhaltens erzeugen schrittweise eine gleichförmige Gesellschaft passiver Menschen, die bloß nicht auffallen wollen. Eine solche tote Überwachungsgesellschaft ist nicht lebenswert. Ich bin davon überzeugt, dass man mit diesem pseudowissenschaftlichen Sicherheits-Hokuspokus keine Terroristen findet. Für gestresste, nervöse, auffällig angezogene oder müde Menschen kann eine solche Verdächtigungsmaschine schnell zum Alptraum werden. Lügendetektoren sind hierzulande vor Gericht gerade deshalb nicht als Beweismittel zugelassen, weil sie nicht funktionieren. Mit der Entwicklung von Technologien zur immer stärkeren Überwachung, Erfassung und Kontrolle von Menschen muss Schluss sein!“

Die EU-Kommission verteidigt das Projekt mit einer unabhängigen externen Ethikbewertung, verweigert aber deren Herausgabe.

EU-Forschungsgelder werden für Lobbyismus zweckentfremdet

Im April 2021 hat sich herausgestellt, dass ein Teil des von der EU zu 100% finanzierten Forschungsprojekts “iBorderCtrl” dazu diente, Lobbyarbeit für Grundrechtseinschränkungen durch den Gesetzgeber zu betreiben, um den Einsatz der umstrittenen Technologie an Reisenden zu ermöglichen. Dies versuchte die EU-Kommission in einem teilweise geschwärzten Dokument zu verbergen, das mit technischen Mitteln rekonstruiert werden konnte.

Während die EU-Kommission öffentlich behauptet, iBorderCtrl sei lediglich „ein Forschungsprojekt, bei dem es nicht darum ging, ein tatsächlich funktionierendes System zu erproben oder einzuführen“, enthüllten die bis dahin geschwärzten Teile des “Kommunikationsplans”, dass das iBorderCtrl-Konsortium bereits mit der Industrie zusammenarbeitete, um das System als „Grundlage vieler anderer Anwendungen für andere Zielgruppen und sogar andere Anwendungsbereiche“ einsetzen zu lassen.

Im Dokument heißt es weiter, dass eine gesetzliche Grundlage erforderlich sein werde, um den „Video-Lügendetektor“ und ähnliche Technologien an Grenzen einsetzen zu können. Um auf solche Gesetzesänderungen „hinzuwirken“, plante das Konsortium „Kommunikationsaktivitäten“ gegenüber Abgeordneten, EU-Kommission und Grenzbehörden.

In ihrer Antwort auf eine schriftliche Anfrage von Patrick Breyer dementiert die EU-Innenkommissarin Ylva Johansson die belegbare Lobbyarbeit.

EU finanziert immer wieder illegale und unethische Überwachungsforschung

Schon vor Jahren ließ FRONTEX Technik zur Video-Lügenerkennung erproben. Im Rahmen eines Nachfolgeprojekts „TRESSPASS“ hat die EU erneut die Erprobung unwissenschaftlicher Technologie zur „Beurteilung der Aufrichtigkeit des Reisenden und seiner Aussagen“ finanziert. Im Oktober äußerte sich das Europäische Parlament „besorgt“ über das Projekt iBorderCtrl.

Dass die EU illegale und unethische Überwachungsforschung finanziert, kommt immer wieder vor. Mit Projekten wie INDECT oder CleanIT ist die EU-Sicherheitsforschung seit Jahren in der Kritik. Das tatsächliche Ausmaß ist nur schwer zu erfassen. Wir haben eine lange Liste mit möglicherweise relevanten Forschungsprojekten erstellen lassen, zu deren Auswertung aber umfangreiche Analysen nötig wären.

Um grundrechtswidrige Techologieentwicklung in Zukunft zu verhindern, wären grundlegende Änderungen nötig:

In beratenden Gremien sollten künftig neben Verwaltungs- und Industrievertretern in gleicher Zahl auch Volksvertreter sämtlicher Fraktionen, Kriminologen, Opferverbände und Nichtregierungsorganisationen zum Schutz der Freiheitsrechte und Privatsphäre vertreten sein.
Eine Entscheidung über die Ausschreibung eines Projekts soll erst getroffen werden, wenn eine öffentliche Untersuchung der Europäischen Grundrechtsagentur über die Auswirkungen des jeweiligen Forschungsziels auf unsere Grundrechte (impact assessment) vorliegt.
Die Entwicklung von Technologien zur verstärkten Überwachung, Erfassung und Kontrolle von Bürgerinnen und Bürgern sollte gesetzlich ausgeschlossen werden.
Stattdessen sollte die Sicherheitsforschung auf sämtliche Optionen zur Kriminal- und Unglücksverhütung erstreckt werden und eine unabhängige Untersuchung von Wirksamkeit, Kosten, schädlichen Nebenwirkungen und Alternativen zu den einzelnen Vorschlägen zum Gegenstand haben.
Weil auch die gefühlte Sicherheit eine wichtige Voraussetzung für unser Wohlbefinden ist, wollen wir zudem erforschen lassen, wie das öffentliche Sicherheitsbewusstsein gestärkt und wie verzerrten Einschätzungen und Darstellungen der Sicherheitslage entgegen gewirkt werden kann.

Diese ungelösten Fragen werden durch den neuen EU-Verteidigungsfonds verschärft, mit dem die EU ihren Geldfluss auf die Entwicklung von Waffen, d.h. tödliche Technologie, ausweitet.

Was ist das Ziel der Klage?

Kläger Patrick Breyer: „Weil die EU immer wieder gefährliche Überwachungs- und Kontrolltechnologie entwickeln lässt, künftig sogar Waffenforschung finanziert, hoffe ich auf ein Grundsatzurteil, das öffentliche Kontrolle und Debatte über eine öffentlich finanzierte Forschungsförderung im Dienste privater Profitinteressen ermöglicht. Mit meiner Transparenzklage will ich ganz grundsätzlich klären lassen, dass der Steuerzahler, die Wissenschaft, Medien und Parlamente ein Recht auf Zugang zu öffentlicher Forschung haben – gerade bei pseudowissenschaftlichen und orwellschen Entwicklungen wie dem ‚Video-Lügendetektor‘.“

Schon einmal ist Breyer erfolgreich gegen die EU-Kommission bis vor den Europäischen Gerichtshof gezogen. Damals verweigerte die Kommission die Herausgabe von Dokumenten zur verdachtslosen Vorratsdatenspeicherung.