Change language: Deutsch

Chatkontrolle

🇫🇷 Französisch: Traduction du dossier Chat Control 2.0 
🇸🇪 Schwedisch: Chat Control 2.0
🇳🇱 Niederländisch: Chatcontrole

Die Abschaffung des Digitalen Briefgeheimnisses

Die EU will es Chat- und Messenger-Providern vorschreiben, private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Eine nie dagewesene Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.

Weitere Konsequenzen des Gesetzentwurfs zur Chatkontrolle sind unwirksame Netzsperren-Zensur, die Durchleuchtung persönlicher Cloudspeicher einschließlich privater Fotos, durch verpflichtende Altersüberprüfung das Ende anonymer Kommunikation, durch Appstore-Zensur das Ende sicherer Messengerapps und die Bevormundung Jugendlicher.

Freiwillige Chatkontrolle 1.0

Am 6. Juli 2021 hatte bereits eine Mehrheit der Abgeordneten des Europäische Parlaments dem freiwilligen Einsatz der Chatkontrolle zugestimmt (Chatkontrolle 1.0), wovon bisher nur unverschlüsselte US-Kommunikationsdienste wie GMail, Facebook/Instagram Messenger, Skype, Snapchat, iCloud E-Mail oder X-Box Gebrauch machen (Übersicht hier).

Verpflichtende Chatkontrolle 2.0 auf jedem Smartphone droht

Die Europäische Kommission hat am 11. Mai 2022 eine Folgeverordnung zum verpflichtenden Einsatz der Chatkontrolle durch alle Anbieter vorgestellt (Chatkontrolle 2.0). Infolge der künftig verpflichtenden Chatkontrolle erwartet die EU-Kommission einen Anstieg der Berichte aus Chatkontrollen um 354%. Eine öffentliche Konsultation der Kommission zu diesem Vorhaben hatte ergeben, dass die Mehrheit der Befragten Bürger:innen und Interessengruppen eine Verpflichtung zum Einsatz der verdachtslosen Nachrichten- und Chatkontrolle ablehnt. Über 80% der Befragten sprachen sich gegen eine Anwendung auf Ende-zu-Ende verschlüsselte Kommunikation aus.

Das Parlament hat sich 2023 fast einstimmig gegen eine verdachtslose Chatkontrolle positioniert. Nachdem sich im EU-Rat die Befürworter und Gegner einer verpflichtenden Chatkontrolle unversöhnlich gegenüberstehen und eine gemeinsame Position nicht absehbar ist, hat die EU-Kommission im November 2023 eine Verlängerung der freiwilligen Chatkontrolle 1.0 um zwei Jahre vorgeschlagen – siehe Zeitplan und Dokumente. Ein Missbrauchsbetroffener und der Piraten-Europaabgeordnete Patrick Breyer klagen gegen die eigenmächtige Chatkontrolle 1.0 durch US-Internetkonzerne.

Video: Kurz gesagt: Wie funktioniert die Chatkontrolle? Was bedeutet sie für Jugendliche?

Video: Chatkontrolle – Es ist noch nicht vorbei. Vortrag auf dem Chaos Computer Congress am 29.12.2023 mit Patrick Breyer, khaleesi (CCC) und Ulrich Kelber (Bundesdatenschutzbeauftragter)

Der Gesetzentwurf zur Chatkontrolle 2.0

Was konkret im Entwurf vorgesehen ist:

Chatkontrolle-Gesetzentwurf der EU-KommissionKonsequenzenPosition des EU-ParlamentsPosition des Rates (Entwurf)
Vorgesehen ist die Chatkontrolle, Netzsperren, verpflichtende Altersverifikation für Nachrichten und Chats, Altersverifikation und Ausschluss Minderjähriger von der Installation vieler Apps  keine Chatkontrolle, Netzsperren optional, keine verpflichtende Altersverifikation für Nachrichten und Chats, kein genereller Ausschluss Minderjähriger von der Installation vieler Apps wie Kommission
Alle Dienste, die normalerweise gegen Entgelt erbracht werden (einschließlich werbefinanzierter Dienste), fallen in den Anwendungsbereich, ohne Mindestgröße, Mindestnutzerzahl usw. Nur nicht-kommerzielle Dienste, die nicht werbefinanziert sind, wie z. B. vielfach Open-Source-Software, sind ausgenommenwie Kommissionwie Kommission
Auch außerhalb der EU niedergelassene Anbieter sind verpflichtet, die Verordnung umzusetzenSiehe Artikel 33wie Kommissionwie Kommission
Als Kommunikationsdienste betroffen sind u.a. Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen, auf Datingportalen usw.), VideokonferenzenNachrichten, Bilder, Videos und Sprachaufzeichnungen (z.B. Video-Meetings, Sprachnachichten, Telefonaten) müssten durchsucht werdenTelefonie ausgeschlossen, kein Scannen von Nachrichtentexten, betroffen sind E-Mail, Messenger, Chats, Videokonferenzenwie Kommission
Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommenDie Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen (client-side scanning) und ggf. unverschlüsselt ausleiten. Das zerstört das Vertrauen in sichere Verschlüsselung und erzwingt eine Hintertür, die eine Überwachung bisher sicher verschlüsselter Kommunikation auch für viele andere Zwecke ermöglicht.Ende-zu-Ende verschlüsselte Messenger sind ausgenommenwie Kommission
Als Hostingdienste betroffen sind u.a. Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und ClouddiensteAuch persönliche Speicher, die nicht geteilt werden, wie Apples iCloud sind betroffenwie Kommissionwie Kommission
Zur verdachtslosen und flächendeckenden Durchsuchung des Inhalts persönlicher Kommunikation und gespeicherter Daten (Chatkontrolle) verpflichtet werden Dienste, die wahrscheinlich auch für sexuell ausbeutende Darstellungen oder zur Kontaktaufnahme mit Kindern/Jugendlichen genutzt werdenDa vermutlich jeder Dienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtetDurchsuchung nur mit richterlichem Beschluss und beschränkt auf Personen oder Personengruppen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehenwie Kommission
Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtetEs besteht kein Ermessenwie Kommissionwie Kommission
Bei der Chatkontrolle muss nach bekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigtDiese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 80% der Meldungen strafrechtlich irrelevant sind. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.wie Kommissionwie Kommission
Bei der Chatkontrolle muss auch nach unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigtMaschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. Der Entwurf erlaubt es Providern, Treffermeldungen ungeprüft an die Polizei weiterzugeben.wie Kommissionzunächst ausgeschlossen
Bei der Chatkontrolle muss im Nachrichtentext maschinell nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht werden, verdächtige Nachrichten werden der Polizei angezeigtMaschinell nach Anbahnungsversuchen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen.ausgeschlossenausgeschlossen
Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfenIn der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, so dass eine anonyme Kommunikation per E-Mail, Messenger usw. verboten wird. Auf den Schutz der Anonymität sind Whistleblower, Menschenrechtsverteidiger und marginalisierte Gruppen angewiesen.keine verpflichtende Altersprüfungwie Kommission
Appstores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen unter 17 die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden könnenAllen Kommunikationsdienste wie Messenger, Datingapps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden (siehe Umfrage) und wären für Kinder/Jugendliche verboten. Und die Altersüberprüfung liefe auf eine Identifikationspflicht gegenüber Anbietern von Appstores heraus.Fordert die App eine Einwilligung in die Verarbeitung persönlicher Daten, müssen die großen Appstores (Google, Apple) vernünftige Anstrengungen unternehmen, um bei Jugendlichen bis 16 die Einwilligung der Eltern zu überprüfenwie Kommission
Internet-Zugangsanbieter müssen verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockierenNetzsperren sind technisch unwirksam und leicht zu umgehen, außerdem bauen sie eine technische Zensurinfrastruktur aufNetzsperren KÖNNEN von Gerichten verhängt werdenwie Kommission

Verhandlungsmandat des Europäischen Parlaments

Im November 2023 hat das Europäische Parlament fast einstimmig ein gemeinsames Verhandlungsmandat zum Gesetzentwurf beschlossen. Mit dem Europaabgeordneten der Piratenpartei Dr. Patrick Breyer saß der entschiedenste Gegner einer Chatkontrolle mit am Verhandlungstisch. Das Ergebnis: Das Parlament will dem extremen Entwurf der EU-Kommission folgende Giftzähne ziehen:

  1. Wir wollen das digitale Briefgeheimnis retten und die grundrechtswidrigen Pläne flächendeckender verdachtsloser Chatkontrollen stoppen. Auch die aktuelle freiwillige Chatkontrolle privater Nachrichten (nicht sozialer Netzwerke) durch US-Internetkonzerne soll auslaufen. Eine zielgerichtete Telekommunikationsüberwachung und -durchsuchung soll nur auf richterliche Anordnung und nur beschränkt auf Personen oder Personengruppen zugelassen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehen.
  2. Wir wollen das Vertrauen in sichere Ende-zu-Ende-Verschlüsselung retten. Das sogenannte client-side scanning, also den Einbau von Überwachungsfunktionen und Sicherheitslücken in unsere Smartphones, schließen wir klar aus.
  3. Wir wollen das Recht auf anonyme Kommunikation garantieren und eine Altersnachweispflicht für Benutzer von Kommunikationsdiensten ausschließen. Whistleblower könnten so weiterhin Missstände anonym leaken, ohne Ausweis oder Gesicht vorzeigen zu müssen.
  4. Löschen statt sperren: Netzsperren sollen nicht verhängt werden müssen. Auf keinen Fall sollen zulässige Inhalte als „Kollateralschaden“ mitgesperrt werden.
  5. Wir wollen keine App-Verbote für junge Menschen: Appstores sollen junge Menschen unter 16 nicht wie geplant ‘zu ihrem eigenen Schutz’’’ an der Installation von Messengerapps, sozialen Netzwerken und Spielen hindern müssen. Es bleibt bei der Datenschutz-Grundverordnung.

Junge Menschen und Missbrauchsopfer wollen wir viel wirksamer schützen als im Entwurf der EU-Kommission vorgesehen:

  1. Security by design: Um junge Menschen vor sexueller Ansprache und Ausbeutung zu schützen, sollen Internetdienste und Apps sicher ausgestaltet und voreingestellt werden. Es muss möglich sein, andere Nutzer zu blockieren und zu melden. Nur auf Wunsch des Nutzers soll dieser öffentlich ansprechbar sein und Nachrichten oder Bilder anderer Nutzer sehen. Vor dem Verschicken von Kontaktdaten oder Nacktbildern wird rückgefragt. Potenzielle Täter und Opfer werden bei konkretem Anlass gewarnt, beispielsweise wenn versucht wird anhand bestimmter Suchworte nach Missbrauchsmaterial zu suchen. Öffentliche Chats sind bei hohem Grooming-Risiko zu moderieren.
  2. Das Netz säubern: Um das Netz von Kinderpornografie und Missbrauchsdarstellungen zu säubern, soll das neue EU-Kinderschutzzentrum proaktiv öffentlich abrufbare Internetinhalte automatisiert nach bekannten Missbrauchsdarstellungen durchsuchen. Dieses Crawling ist auch im Darknet einsetzbar und dadurch effektiver als Privatüberwachungsmaßnahmen der Anbieter.
  3. Löschpflicht: Anbieter, die auf eindeutig illegales Material aufmerksam werden, sollen – anders als von der EU-Kommission vorgeschlagen – zur Löschung verpflichtet werden. Strafverfolger, die auf illegales Material aufmerksam werden, sollen dies dem Anbieter zur Löschung melden müssen. Damit reagieren wir auf den Fall der Darknetplattform Boystown, bei der schlimmstes Missbrauchsmaterial mit Wissen des Bundeskriminalamts monatelang weiter verbreitet wurde.

Achtung: Dies ist nur das Verhandlungsmandat des Parlaments, das sich normalerweise nur zum Teil durchsetzt. Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität). Sobald sich die EU-Regierungen im Rat verständigt haben, werden Parlament, Rat und Kommission die sogenannten Trilog-Verhandlungen über die endgültige Fassung der Verordnung aufnehmen. Patrick Breyer bzw. mit Unterstützung der Wähler:innen seine Nachfolgerin Anja Hirschel von der Piratenpartei werden wieder mit am Verhandlungstisch sitzen, um gegen die Chatkontrolle zu kämpfen.

Position der EU-Regierungen im Rat

Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen extremen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität), so dass eine Positionierung schon zweimal gescheitert ist.

Ausweislich von Statements der EU-Innenminister am 19. Oktober lässt sich die Position der meisten EU-Länder ungefähr so zusammenfassen:

Für die Chatkontrolle:

  • Irland
  • Italien
  • Zypern
  • Litauen
  • Bulgarien
  • Lettland
  • Rumänien
  • Litauen
  • Ungarn
  • Malta
  • Griechenland

Fordert Änderungen:

  • Estland
  • Deutschland
  • Österreich
  • Schweden
  • Niederlande
  • Belgien

Unklar:

  • Frankreich
  • Dänemark
  • Finnland
  • Slovenien

Videos zur Chatkontrolle sind in dieser Playlist hinterlegt.

Die Verhandlungen: Zeitschiene und Termine

2020: Die europäische Kommission schlägt ein zeitlich begrenztes Gesetz vor welches die Chatkontrolle erlaubt

Die Europäische Kommission hat 2020 ein Gesetz auf den Weg gebracht, das es erlaubt, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. Das heißt: Facebook Messenger, Gmail & Co dürfen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. Meldet ein Algorithmus einen Verdachtsfall, werden alle Nachrichteninhalte und Kontaktdaten automatisch und ohne menschliche Prüfung an eine private Verteilstelle und weiter an Polizeibehörden weltweit geleitet. Die Betroffenen sollen nie davon erfahren.

6. Juli 2021: Das europäische Parlament stimmt für die Einführung der Chatkontrolle

Das Europäische Parlament hat für die ePrivacy-Ausnahmeregelung gestimmt, die eine freiwillige Chat-Kontrolle für Messaging- und E-Mail-Anbieter ermöglicht. Infolgedessen führen einige US-amerikanische Anbieter von Diensten wie Gmail und Outlook.com bereits solche automatisierten Messaging- und Chat-Kontrollen durch.

9. Mai 2022: Mitglied des Europäischen Parlaments Patrick Breyer reicht eine Klage gegen das US-Unternehmen Meta ein

Nach einem Urteil des Europäischen Gerichtshofs ist die dauerhafte und flächendeckende automatisierte Analyse privater Kommunikation grundrechtswidrig und verboten (Abs. 177). Die ehemalige EuGH-Richterin, Prof. Dr. Ninon Colneric, kommt in ihrem Rechtsgutachten (englisch) zu dem Ergebnis, dass die EU-Gesetzesvorhaben zur Chatkontrolle nicht im Einklang mit der Rechtsprechung des Europäischen Gerichtshofs stehen und die Grundrechte aller EU-Bürger*innen auf Achtung der Privatsphäre, auf Datenschutz und auf freie Meinungsäußerung verletzen. Auch der Wissenschaftliche Dienst des Bundestags stellt fest: “Die latente Dauergefahr der Begehung von (auch schwerwiegenden) Straftaten dürfte daher zur Rechtfertigung einer ständigen und umfassenden automatisierten Analyse wohl nicht genügen.” Der Europaabgeordnete Patrick Breyer hat aus diesem Grund das US-Unternehmen Meta wegen der freiwillig praktizierten Chatkontrolle verklagt.

11. Mai 2022: Die Kommission stellt einen Gesetzesentwurf vor, der zur Chatkontrolle verpflichtet

Die EU-Kommission will mit einem zweiten Gesetz nun alle Anbieter zum Einsatz dieser Technologie verpflichten. Dabei zeigt eine im März 2021 durchgeführte Umfrage, dass die Mehrheit der EuropäerInnen den Einsatz der Chatkontrolle entschieden ablehnt. (Detaillierte Umfrageergebnisse hier)

  • 8. Mai 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 22. Juni 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 5. Juli 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 25. Juli 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromissvorschlag)
  • 6. September 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 22. September 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromissvorschlag: Artikel 1&2, Artikel 25-39)
  • 28. September 2022: Ratsworkshop zu Durchsuchungstechnologien
  • 5. Oktober 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 10. Oktober 2022: Der Vorschlag wurde präsentiert und diskutiert im führenden Ausschuss (LIBE)Videoaufzeichnung
  • 19. Oktober 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 3. November 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 24. November 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Altersverifikation)
  • 30. November 2022: Erstes treffen der Schattenberichterstatter des Europäischen Parlaments
  • 8. – 9. Dezember 2022: Tagung des des Rates „Justiz und Inneres“ in Brüssel
  • 14. Dezember 2022: Treffen der Schattenberichterstatter: Anhörungen
  • 10. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen
  • 19. & 20. Januar 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 24. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen (Fokus: Strafverfolgung)
  • 7. Februar 2023: Treffen der Schattenberichterstatter
  • 27. Februar 2023: Treffen der Schattenberichterstatter
  • 7. März 2023: Treffen der Schattenberichterstatter
  • 16. März 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
  • 21. März 2023: Treffen der Schattenberichterstatter
  • 29. März 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 13. April 2023: Präsentation des Impact Assessment in LIBE
  • 14. April 2023: EP-Berichterstatter reicht Berichtsentwurf ein
  • 25. April 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
  • 26. April 2023: Präsentation des Berichtsentwurfs in LIBE
  • 17. Mai 2023: Frist des EP für die Einreichung von Änderungsanträgen
  • 25. – 26. Mai 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
  • 31. Mai 2023: Treffen der Stellvertreter der Ständigen Vertretung
  • 31. Mai 2023: Treffen der Schattenberichterstatter
  • 7. Juni 2023: Treffen der Schattenberichterstatter
  • 8. und 9. Juni 2023: Rat “Justiz und Inneres” soll partielle Einigung festlegen (Kompromisvorschlag)
  • 14. Juni 2023: Treffen der Schattenberichterstatter
  • 28. Juni 2023: Treffen der Schattenberichterstatter
  • 5. Juli 2023: Treffen der Schattenberichterstatter
  • 12. Juli 2023: Treffen der Schattenberichterstatter
  • 19. Juli 2023: Treffen der Schattenberichterstatter
  • 5. September 2023: Treffen der Schattenberichterstatter
  • 14. September 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
  • 17. September 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
  • 20. September 2023: Treffen der Stellvertreter der Ständigen Vertretungen
  • Treffen der Schattenberichterstatter siehe Kalendereinträge zu CSAM
  • 16. Oktober 2023: Debatte im Ausschuss der Ständigen Vertreter des Rats
  • 18. Oktober 2023: Treffen der Schattenberichterstatter
  • 24. Oktober 2023: Treffen der Schattenberichterstatter
  • 25. Oktober 2023: LIBE-Anhörung von Innenkommissarin Johansson zu Lobbyismusvorwürfen
  • 14. November 2023: Im LIBE-Ausschuss fast einstimmige Annahme der Parlamentsposition und des Mandats zu Trilogverhandlungen
  • 23. November 2023: Mangels Widerspruchs keine Abstimmung über das im LIBE-Ausschuss beschlossene Verhandlungsmandat im Plenum
  • 30. November 2023: EU-Kommission schlägt Verlängerung der freiwilligen Chatkontrolle 1.0 vor
  • 1. Dezember 2023: Die Ratspräsidentschaft hat die Arbeitsgruppe Strafverfolgung über den “Stand der Dinge” informiert
  • 4. Dezember 2023: Die EU-Kommission hat die Justiz- und Innenminister “informiert”
  • 17. Januar 2024: Berichtsentwurf zur Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 22. Januar 2024: Frist zum Einreichen von Änderungsanträgen (Chatkontrolle 1.0)
  • 25. Januar 2024: Treffen der Schattenberichterstatter (Chatkontrolle 1.0)
  • 29. Januar 2024: Abstimmung im LIBE-Ausschuss über die Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 5. Februar 2024: Ankündigung der Abstimmung des Europäischen Parlaments über die Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 7. Februar 2024: Abstimmung des Europäischen Parlaments über das Mandat zur Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 12. Februar 2024: Trilogverhandlungen über die Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • zweite Februarwoche 2024 (geplant): Einigung zwischen Europäischem Parlament und EU-Regierungen (EU-Rat) über Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 4. März 2024: Abstimmung des LIBE-Ausschusses über das Trilog-Ergebnis zur Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • 5. März 2024 (geplant): Abstimmung der EU-Innenminister über die verpflichtende Chatkontrolle (Chatkontrolle 2.0)
  • März/April 2024 (geplant): Abstimmung des Europäischen Parlaments über das Trilog-Ergebnis zur Verlängerung der freiwilligen Chatkontrolle (Chatkontrolle 1.0)
  • nach der Europawahl 2024 (geplant): Verhandlungen über die endgültige Fassung der Verordnung zwischen Kommission, Parlament und Rat (Trilog) und Verabschiedung des Ergebnisses

Die Akteure

Berichterstatter und Schattenberichterstatter

EVPS&DRenewDie Grünen/ EFADie LinkeEKRID
LIBEJavier ZarzalejosPaul TangHilde VautmansPatrick BreyerCornelia ErnstVincenzo SofoAnnalisa Tardino
IMCOMarion WalsmannAlex Aguis SalibaCatharina RinzemaMarcel KolajaKateřina KonečnáAdam BielanJean-Lin Lacapelle
CULTAsim AdemovMarcos Ros SempereLucia Duris NicolsonovaMarcel KolojaNiyazi KizilyürekElzbieta KrukCatherine Griset
FEMMEleni StavrouHeléne FritzonKaren MelchiorPierrette Herzberger-FofanaSandra PereiraJadwiga Wiśniewska
BUDGNiclas HerbstNils UšakovsNils TorvaldsAlexandra GeeseSilvia ModigBogdan RzońcaJoachim Kuhs

Was hat das Ganze mit dir zu tun?

Nachrichten- und Chatkontrolle:

  • Alle deine Chats und E-Mails werden automatisch auf verdächtige Inhalte durchsucht. Nichts ist mehr vertraulich oder geheim. Kein Gericht muss diese Durchsuchung anordnen. Sie passiert immer und automatisch.
  • Falls die Maschinenprüfung anschlägt, werden deine privaten Fotos und Videos von Mitarbeitern von internationalen Konzernen und Polizeibehörden angesehen. Auch intime Nacktbilder von dir werden dann von unbekannten Menschen auf der ganzen Welt gesichtet, in deren Hände sie nicht sicher sind.
  • Flirts und Sexting werden mitgelesen, denn Texterkennungsfilter schlagen besonders häufig auf solche intimen Chats an.
  • Du kannst unschuldig in den Verdacht geraten, Material von Kindesmissbrauch zu verschicken. Denn die Bilderkennungsfilter sind bekannt dafür, dass sie auch auf völlig legale Urlaubsfotos mit Kindern am Strand anschlagen. 80% aller maschinell gemeldeten Verdachtsfälle erweisen sich als unbegründet, so die Schweizer Bundespolizei. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart. Knapp 40% aller in Deutschland wegen “Kinderpornografie” von der Polizei verfolgter Personen sind Minderjährige.

“Die Trefferquote ist dabei sehr tief: «2020 trafen bei uns rund 8000 Meldungen ein», sagt Fedpol-Sprecher Florian Näf. «Strafrechtlich relevant waren davon zirka 14 Prozent.»”

Quelle: Sonntagszeitung vom 14.03.2021, Seite 9
2021 waren 20% der Meldungen strafrechtlich relevant

“Und auch hierzulande bekommen die Ermittler von Google jede Menge falsche Alarmmeldungen aufgetischt, ergaben die Recherchen der WELT AM SONNTAG schon 2021: Laut Experten des Landeskriminalamts NRW lag die Fehlerquote in der Vergangenheit bei etwa 40 Prozent.”

Quelle: Die Welt, 23.08.2022
  • Bei deiner nächsten Auslandsreise könnten dich große Probleme erwarten. Verdachtsmeldungen werden unkontrollierbar an Staaten wie die USA, wo es keinerlei Datenschutz gibt, weitergeleitet – mit unabsehbaren Konsequenzen.
  • Geheimdienste und Hacker können einfacher Zugriff auf deine privaten Chats und E-Mails erhalten. Denn sobald sichere Verschlüsselung für den Einsatz der Chatkontrolle ausgehebelt wird, ist die Tür offen zum massenhaften Auslesen deiner Nachrichten durch jeden, der die technischen Mittel dazu hat.
  • Das ist nur der Anfang. Ist die Technologie zur Nachrichten- und Chatkontrolle einmal etabliert, kann sie spielend leicht auch für andere Zwecke eingesetzt werden. Und wer garantiert, dass die Verdächtigungsmaschinen künftig nicht auch unsere Smartphones und Laptops kontrollieren?

Altersprüfung und App-Verbot unter 17:

  • Du kannst nicht mehr anonym E-Mail- oder Messenger-Konten einrichten oder anonym chatten, ohne dich ausweisen oder dein Gesicht zeigen zu müssen, wodurch du identifizierbar wirst und Datenlecks riskierst. Dies verhindert zum Beispiel sensible Chats zum Thema Sexualität im Schutz der Anonymität, anonyme Pressekommunikation mit Quellen (z. B. Whistleblowern) sowie politische Aktivitäten.
  • Unter 17 Jahren wirst du aus dem Appstore beispielsweise folgende Apps nicht mehr installieren können (Begründung: Grooming-Gefahr): Messenger wie Whatsapp, Snapchat, Telegram oder Twitter, soziale Medien wie Instagram, TikTok oder Facebook, Spiele wie FIFA, Minecraft, GTA, Call of Duty, Roblox, Dating Apps, Videokonferenzen wie Zoom, Skype, Facetime.
  • Wenn du keinen Appstore nutzt, wird die Einhaltung des vom Anbieter festgesetzten Mindestalters überprüft werden. Wenn du nicht das von Whatsapp festgelegte Mindestalter von 16 Jahren erreichst, wirst du Whatsapp aufgrund der geplanten Altersverifizierung nicht mehr nutzen können; dasselbe gilt für die Onlinefunktionen des Spiels FIFA 23. Wenn du unter 13 Jahre alt bist, kannst du TikTok, Snapchat oder Instagram nicht mehr nutzen.

Weitere Argumente gegen die Chatkontrolle


Was du gegen die Chatkontrolle unternehmen kannst

Befürchtest du, dass dieses Gesetz die Grundrechte massiv einschränkt und der falsche Ansatz ist? Handele jetzt:

Rede darüber! Erzähle anderen von den Gefahren der Chatkontrolle. Dafür kannst du hier auf Sharepics und Videos zugreifen. Du kannst natürlich auch selbst Bilder und Videos erstellen.
Schaffe Aufmerksamkeit in den Sozialen Medien! Nutze dafür die Hashtags #Chatkontrolle und #digitalesBriefgeheimnis
Medienberichte anstoßen! Journalistinnen und Journalisten haben die freiwillige Nachrichten- und Chatkontrolle bisher kaum aufgegriffen. Wende dich direkt an Medienunternehmen und bitte sie, darüber zu schreiben – online und offline.
Sprich mit deinen Anbietern! Vermeide Gmail, Facebook/Instagram Messenger, outlook.com, Snapchat und die Chatfunktion der X-Box, wo schon heute verdachtslos durchleuchtet wird. Frage deine E-Mail-, Messenger- und Chatanbieter, ob sie private Nachrichten verdachtslos nach verbotenen Inhalten durchsuchen oder dies planen.
Drucke und verteile Informationsflyer zur Chatkontrolle! Wir haben einen Flyer erstellt, der druckfertig hier runtergeladen werden kann.

Sharepics und Info-Grafiken für dich zum Download und Teilen:

(Rechtsklick auf ein Bild und wähle “Bild speichern unter…” aus)

Bildbeschreibungen

Visualisierung der Ergebnisse einer Studie. Links eine Lupe mit einem Smartphone in der Mitte. Umrundet mit einem Ring der zu 80% gefüllt ist. Rechts ein Textkasten mit dem Text: “80% der Minderjährigen sind gegen ein automatisiertes Scannen ihrer Nachichten nach verdächtigen Inhalten”.

Visualisierung der Ergebnisse einer Studie. Links eine Lupe mit dem Text: “40% der Jugendlichen nutzen Kommunikations-Apps um legale intimie Fotos von sich zu versenden”. In einer kleinerer Lupe rechts unten steht: “Mit der #Chatkontrolle leitet die K.I. diese Fotos direkt weiter an die EU”. Rechts auf dem Bild sind Line-Art Menschen zu sehen, die linken zwei mit Zensurbalken.

Visualisierung der Ergebnisse einer Studie. Links ist ein Textkasten: “87% der Jugendlichen würden sich unwohl fühlen ihre Sexualität zu erkunden oder politisch aktiv zu sein wenn Unternehmen oder die Polizei in der Lage wären, ihre digitalen Unterhaltungen zu überwachen.” Rechts davon eine Lupe im Hintergrund mit einem Lautsprecher in der Mitte.


Mythen entlarvt

Bei der erstmaligen Präsentation des Gesetzesentwurfs zur Chatkontrolle im Mai 2022 hatte die EU-Kommission das umstrittene Vorhaben mit verschiedenen Argumenten beworben. Im Folgenden werden diverse Behauptungen hinterfragt:

1. „Heutzutage werden Fotos und Videos, die den sexuellen Missbrauch von Kindern zeigen, im Internet massiv verbreitet. Im Jahr 2021 wurden beim US-amerikanischen National Centre for Missing and Exploited Children 29 Millionen Fälle gemeldet.“

Im Zusammenhang mit der Chatkontrolle ausschließlich von Darstellungen sexuellen Kindesmissbrauchs zu reden, ist irreführend. Bei sexuell ausbeutenden Darstellungen Minderjähriger (child sexual exploitation material, CSEM) handelt es sich zwar oft um Aufnahmen sexualisierter Gewalt an Minderjährigen (child sexual abuse material, CSAM). Eine internationale Arbeitsgruppe aus Kinderschutzinstitutionen weist aber darauf hin, dass zum strafbaren Material auch Aufnahmen sexueller Handlungen oder von Sexualorganen Minderjähriger zählen, bei denen keine Gewalt angewendet wird oder auch keine andere Person beteiligt ist. Auch in Alltagssituationen entstandene Aufnahmen werden genannt wie ein Familienbild eines Mädchens im Bikini oder nackt in den Stiefeln ihrer Mutter. Erfasst sind auch ohne Wissen der minderjährigen Person angefertigte oder weitergegebene Aufnahmen. Zu strafbarem CSEM zählen auch Comics, Zeichnungen, Manga/Anime und computergenerierte Darstellungen fiktionaler Minderjähriger. Schließlich gehören zu strafbaren Darstellungen auch selbst gemachte sexuelle Aufnahmen Minderjähriger etwa zur Weiterleitung an gleichaltrige Partner („Sexting“). Die Studie schlägt zur korrekten Umschreibung deshalb den Begriff „Darstellungen der sexualisierten Ausbeutung“ von Minderjährigen vor. Strafbar sind dabei gleichermaßen Aufnahmen von Kindern (bis 14 Jahre) und von Jugendlichen (bis 18 Jahre).

2. “Allein im Jahr 2021 wurden weltweit 85 Millionen Bilder und Videos von sexuellem Kindesmissbrauch gemeldet.”

Es kursieren viele irreführende Angaben darüber, wie das Ausmaß sexuell ausbeutender Darstellungen Minderjähriger (CSEM) beziffert werden kann. Die Zahl, mit der die EU-Kommission ihre Pläne verteidigt, stammt von der US-amerikanischen Nichtregierungsorganisation NCMEC (National Center for Missing and Exploited Children) und umfasst auch Duplikate, da CSEM mehrfach geteilt und oft nicht gelöscht wird. Ohne Duplikate verbleiben von den 85 Millionen gemeldeten Aufnahmen noch 22 Millionen einzigartige Aufnahmen.

75 Prozent aller NCMEC-Meldungen aus dem Jahr 2021 stammen von Meta (FB, Instagram, Whatsapp). Facebooks eigene interne Analyse besagt, dass “mehr als 90 Prozent von [CSEM auf Facebook im Jahr 2020] mit zuvor gemeldeten Inhalten identisch oder ihnen visuell ähnlich waren. Und Kopien von nur sechs Videos waren für mehr als die Hälfte der kinderausbeutenden Inhalte verantwortlich”. Die viel zitierten Zahlen des NCMEC beschreiben also nicht wirklich das Ausmaß der Aufnahmen von sexualisierter Gewalt gegen Kinder im Internet. Sie beschreiben vielmehr, wie oft Facebook Kopien von bereits bekannten Aufnahmen entdeckt. Auch das ist relevant.

Nicht alle einzigartigen Aufnahmen, die der NCMEC gemeldet werden, zeigen Gewalt gegen Kinder. Die 85 Millionen von NCMEC gemeldeten Darstellungen beinhalten zum Beispiel auch einvernehmliches Sexting. Die Anzahl von Missbrauchsdarstellungen, die NCMEC im Jahr 2021 gemeldet wurden, betrug 1,4 Millionen.

7% der weltweiten Verdachtsmeldungen von NCMEC gehen an die Europäische Union.

Darüber hinaus steigen selbst auf Facebook, wo die Chatkontrolle seit langem freiwillig eingesetzt wird, die Zahlen für die Verbreitung von missbräuchlichem Material immer weiter an. Die Chatkontrolle ist somit keine Lösung.

Quelle: https://netzpolitik.org/2022/ncmec-zahlen-erklaert-das-raunen-vom-millionenfachen-missbrauch/

3. “64% Anstieg der Berichte über bestätigten sexuellen Kindesmissbrauch im Jahr 2021 im Vergleich zum Vorjahr.“

Dass die Algorithmen zur freiwilligen Chatkontrolle großer US-Anbieter mehr CSEM gemeldet haben, lässt keinen Rückschluss darauf zu, wie sich die Menge an CSEM insgesamt entwickelt hat. Schon die Konfiguration der Algorithmen hat großen Einfluss auf die Zahl der Verdachtsmeldungen. Im Übrigen zeigt der Anstieg, dass sich die Zirkulation von CSEM mithilfe einer Chatkontrolle nicht in den Griff bekommen lässt.

4. “Europa ist die globale Drehscheibe für dem Großteil des Materials.”

7% der weltweiten Verdachtsmeldungen von NCMEC gehen an die Europäische Union. Im Übrigen melden europäische Strafverfolgungsbehörden wie Europol und BKA wissentlich Missbrauchsmaterial nicht den Speicherdiensten zur Entfernung, so dass die Menge des hier gespeicherten Materials nicht sinken kann.

5. “Eine von Europol unterstützte Untersuchung, die auf der Meldung eines Online-Diensteanbieters beruhte, führte zur Rettung von 146 Kindern weltweit, wobei über 100 Verdächtige in der gesamten EU identifiziert wurden.”

Der Bericht wurde von einem Anbieter von Cloud-Speichern und nicht von einem Kommunikationsdienstleister erstellt. Zur Durchleuchtung von Cloudspeichern ist es nicht notwendig, die Überwachung der Kommunikation aller Menschen vorzuschreiben. Wenn man die Täter von Online-Verbrechen im Zusammenhang mit Kindesmissbrauchsmaterial erwischen möchte, sollte man sogenannte Honeypots und andere Methoden verwenden, die nicht die Überwachung der Kommunikation der gesamten Bevölkerung erfordern.

6. „Die bestehenden Möglichkeiten zur Aufdeckung entsprechender Inhalte werden nicht mehr zur Verfügung stehen, wenn die gegenwärtige Übergangslösung ausläuft.“

Anbieter von Speicherdiensten (Filehoster, Clouds) und von sozialen Medien dürfen auch nach Auslaufen der ePrivacy-Ausnahmeverordnung weiter scannen. Für Anbieter von Kommunikationsdiensten könnte die Ausnahmeverordnung zur freiwilligen Chatkontrolle verlängert werden, ohne dass sämtliche Anbieter zur Durchsuchung verpflichtet werden müssten.

7. Metaphern: Die Chatkontrolle ist “wie ein Spam-Filter” / “wie ein Magnet, der nach einer Nadel im Heuhaufen sucht: der Magnet sieht das Heu nicht.” / “wie ein Polizeihund, der Briefe erschnüffelt: er hat keine Ahnung, was drin ist”. Der Inhalt Ihrer Kommunikation wird von niemandem eingesehen, wenn es keinen Treffer gibt. “Die Erkennung zu Zwecken der Cybersicherheit findet bereits statt, wie z. B. die Erkennung von Links in WhatsApp” oder Spam-Filtern.

Malware- und Spamfilter geben den Inhalt privater Kommunikation nicht an Dritte weiter und führen nicht dazu, dass unschuldige Menschen angezeigt werden. Sie führen nicht zur Löschung oder langfristigen Sperrung von Profilen in sozialen Medien oder von Online-Diensten.

8. “Was die Erkennung neues Missbrauchsmaterials im Netz betrifft, so liegt die Trefferquote deutlich über 90 %. … Einige der bestehenden Technologien zur Erkennung von Grooming (wie die von Microsoft) haben eine “Genauigkeitsrate” von 88%, vor der menschlichen Überprüfung.”

Bei der unüberschaubaren Anzahl von Nachrichten führt selbst eine geringe Fehlerquote zu unzähligen Falschmeldungen, die die Zahl der richtigen Meldungen bei weitem übersteigen können. Selbst bei einer Trefferquote von 99 % würde dies bedeuten, dass von den 100 Milliarden Nachrichten, die täglich allein über Whatsapp verschickt werden, 1 Milliarde (d. h. 1.000.000.000) falsch positive Meldungen überprüft werden müssten. Und das jeden Tag und nur auf einer einzigen Plattform. Der “menschliche Überprüfungsaufwand” für die Strafverfolgungsbehörden wäre immens, während der Rückstau und die Überlastung der Ressourcen bereits gegen sie arbeiten.

Unabhängig davon hat eine FOI-Anfrage des ehemaligen Europaabgeordneten Felix Reda die Tatsache aufgedeckt, dass diese Behauptungen über die Genauigkeit von der Industrie stammen – von denjenigen, die ein persönliches Interesse an diesen Behauptungen haben, weil sie Ihnen die Erkennungstechnologie verkaufen wollen (Thorn, Microsoft). Sie weigern sich, ihre Technologie einer unabhängigen Prüfung zu unterziehen, und wir sollten ihre Behauptungen nicht für bare Münze nehmen.

Die Bewertung der EU von Instrumenten zur Aufdeckung von Kindesmissbrauch basiert lediglich auf Industrieangaben, die für bare Münze genommen werden.

Weitere entlarvten Mythen und Argumentationshilfen hat D64 Zentrum für Digitalen Fortschritt zusammengestellt und kann man hier finden.


Weiterführende Informationen und Argumente gegen die Nachrichten- und Chatkontrolle

Massenüberwachung ist der falsche Weg im Kampf gegen “Kinderpornografie” und sexuell ausbeutende Darstellungen

  • Das Scannen privater Nachrichten und Chats dämmt die Verbreitung ausbeutender Darstellungen nicht ein. Facebook beispielsweise praktiziert die Chatkontrolle seit Jahren und die Zahl der “Treffermeldungen” und automatisierten Strafanzeigen steigt von Jahr zu Jahr an auf zuletzt 22 Millionen im Jahr 2021.
  • Die verpflichtende Chatkontrolle trifft die Täter, die Kindesmissbrauch aufnehmen und weitergeben, nicht. Missbrauchstäter tauschen ihr Material nicht über kommerzielle E-Mail-, Messenger- oder Chatdienste, sondern organisieren sich über selbst betriebene geheime Foren, ohne Scanner zu installieren. Bilder und Videos laden Missbrauchstäter außerdem typischerweise als verschlüsselte Archive hoch und teilen nur die Links und Passwörter. Chatkontrolle-Algorithmen erkennen weder verschlüsselte Archive noch Links wieder.
  • Der richtige Weg wäre die Löschung bekannter Speicherorte ausbeutender Darstellungen im Netz. Weder Bundeskriminalamt noch Europol melden aber bekanntes Missbrauchsmaterial den Speicherdiensten.
  • Chatkontrolle schadet der Verfolgung von Kindesmissbrauch, weil sie Ermittler millionenfach mit Computermeldungen überlastet, die zum Großteil strafrechtlich irrelevant sind.

Nachrichten- und Chatkontrolle schadet allen

  • Alle Bürgerinnen und Bürger werden ohne Anlass unter Verdacht gestellt, Straftaten zu begehen. Die Text- und Bilderkennungsfilter werten unterschiedslos alle Nachrichten aus – unabhängig davon, ob ein konkreter Verdacht vorliegt oder nicht. Kein Richter muss dieser Durchsuchung zustimmen – ganz im Gegensatz zur analogen Welt, in der das Briefgeheimnis und damit die Vertraulichkeit der schriftlichen Kommunikation gewährleistet ist. Laut der Rechtsprechung des Europäischen Gerichtshofes ist eine permanente und verdachtslose automatische Auswertung privater Kommunikation grundrechtswidrig (Rechtssache C-511/18, Abs. 192). Die EU will die Gesetze trotzdem verabschieden. Sie vor Gericht zu stoppen kann Jahre dauern. Deswegen müssen die Gesetze bereits jetzt verhindert werden!
  • Die Vertraulichkeit privater Kommunikation wird nachhaltig zerstört. Nutzerinnen und Nutzer von Messenger-Diensten und E-Mail müssen davon ausgehen, dass alle ihre Nachrichten künftig in Echtzeit mitgelesen und ausgewertet werden. Sensible Bild- und Textinhalte können an unbekannte Personen weltweit vollautomatisiert weitergeleitet werden und in falsche Hände geraten. Es sind bereits Fälle bekannt geworden, in denen die Mitarbeiter von US-Behördenabgefangene Nacktbilder von Nutzer*innen in Umlauf gebracht haben. Auch Konzernmitarbeiter haben bereits Kinderdaten missbraucht.
  • Die Chatkontrolle zeigt Tausende zu Unrecht an. Nach Angaben der Schweizer Bundespolizei sind 80% der maschinell angezeigten Inhalte nicht strafbar, etwa Urlaubsfotos am Strand mit nackten Kindern. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.
  • Sicher verschlüsselte Kommunikation ist in Gefahr. Denn verschlüsselte Nachrichten können bisher nicht von den Algorithmen erfasst werden. Um die Chatkontrolle für jede Online-Kommunikation zu ermöglichen, müssen Hintertüren eingebaut werden. Sobald das geschieht, kann diese Sicherheitslücke von jeder und jedem, der oder die die technischen Mittel dazu hat, ausgenutzt werden. Private Kommunikation, aber auch Geschäftsgeheimnisse und sensible Regierungsinformationen, wären Angriffen ab dann schutzlos ausgesetzt. Sichere Verschlüsselung schützt Minderheiten, LGBTQI-Personen, Demokratieaktivisten, Journalisten usw.
  • Strafverfolgung wird privatisiert. Denn in Zukunft entscheiden die Algorithmen von Unternehmen wie Facebook, Google und Microsoft, welche Inhalte als verdächtig eingestuft werden und welche nicht. Dabei geht es nicht nur um Bilder, sondern auch bestimmte Wort-Kombinationen, die den Chatfiltern verdächtig erscheinen. Eine Transparenzpflicht über die Algorithmen ist nicht vorgesehen. In einem Rechtsstaat gehört die Ermittlung von Straftaten aber in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
  • Die Chatkontrolle ist ein Dammbruch. Die Technologie zum automatischen Mitlesen privater online-Kommunikation ist gefährlich. Denn sie kann spielend leicht auch für andere Zwecke entfremdet werden. In autoritären Staaten werden solche Filter zur Verfolgung und Inhaftierung unliebsamer Regierungsgegner*innen verwendet.  Für die Algorithmen macht es keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.

Warum die Nachrichten- und Chatkontrolle Kindern und Missbrauchsopfern besonders schadet

Die EU-Kommission argumentiert, dass die Chatkontrolle die Strafverfolgung von Kindesmissbrauch erleichtern soll. Das ist jedoch selbst unter Betroffenen von Missbrauch umstritten. Tatsächlich fügt das Vorhaben Opfern sexuellen Missbrauchs sowie Kindern und Jugendlichen im Allgemeinen am meisten Schaden zu:

  1. Schutzräume werden zerstört. Gerade Betroffene sexualisierter Gewalt sind auf die Möglichkeit angewiesen, sicher und vertraulich kommunizieren zu können. Räume zum sicheren Austausch untereinander oder etwa mit Therapeut*innen und Anwält*innen helfen Betroffenen bei der Verarbeitung und dem Umgang mit ihren Erfahrungen. Diese sicheren Räume werden ihnen nun durch die Einführung von Echtzeitüberwachung genommen. Das kann Opfer davon abhalten, Hilfe und Unterstützung zu suchen.
  2. Selbst aufgenommene Nacktaufnahmen von Minderjährigen (Sexting) geraten in die Hände von Unternehmensmitarbeitern und Polizei, wo sie nicht hingehören und nicht sicher sind.
  3. Jugendliche werden überproportional kriminalisiert. Laut Kriminalstatistik sind fast 40% aller wegen Kinderpornografie von der Polizei verfolgten Personen Minderjährige.
  4. Die Chatkontrollen dämmen den Austausch illegalen Materials nicht ein, sondern erschweren die Strafverfolgung von Kindesmissbrauch zusätzlich. Denn sie verdrängen kriminelle Täter in den Untergrund, wo sie kaum noch zu überwachen sind. Auch in offenen Kanälen haben die Kontrollen die Menge der weitergegebenen Darstellungen nicht eingedämmt, wie die von Jahr zu Jahr steigenden Zahlen an Verdachtsmeldungen belegen.

Alternativen zur Chatkontrolle

Ausbau der Kapazitäten der Strafverfolgung

Momentan sind die Kapazitäten der Strafverfolger so unzureichend, dass oft Monate und Jahre vergehen, bis Hinweisen nachgegangen und Daten ausgewertet sind. Bekanntes Material wird häufig lange weder gesichtet noch gelöscht. Die Hintermänner des Missbrauchs tauschen ihr Material nicht über Facebook und ähnliche Kanäle aus, sondern im Darknet. Um Produzenten von Missbrauchsmaterial aufzuspüren, muss verdeckte Polizeiarbeit stattfinden, statt die knappen Kapazitäten auf Massenverfahren zu verschwenden. Es ist außerdem unerlässlich, die verantwortlichen Ermittlungseinheiten personell und finanziell aufzustocken, damit gründliche und nachhaltige Ermittlungen über längere Zeiträume hinweg möglich sind. Auch müssen verlässliche Standards/Richtlinien für die polizeiliche Bearbeitung von Fällen sexuellen Missbrauchs erarbeitet und eingehalten werden.

Nicht nur Symptome bekämpfen, sondern die Ursache

Anstelle untauglicher Versuche Missbrauchsdarstellungen nachträglich wieder „einfangen“ zu wollen, muss alles daran gesetzt werden, dass solche Aufnahmen niemals entstehen und dass Missbrauch verhindert und gestoppt wird. Präventionskonzepte und Schulungen in Betreuungseinrichtungen spielen eine Schlüsselrolle, weil die allermeisten Missbrauchsfälle nie auch nur bekannt werden. Es fehlt auch den Opferschutzorganisationen meist eine stabile Finanzierung.

Schnelle und einfach verfügbare Hilfe für (potenzielle) Opfer

  1. Verpflichtende Meldemechanismen bei Online-Diensten: Um die wirkungsvolle Prävention von Online-Missbrauch und insbesondere Grooming zu erreichen, sollten die Online-Dienste verpflichtet werden, Hinweis- und Meldefunktionen auf den Plattformen prominent zu platzieren. Wenn sich das Angebot an Jugendliche oder Kinder richtet und/oder von Jugendlichen und Kindern genutzt wird, sollten Anbieter auch verpflichtet sein, sie über die Risiken des Online-Groomings zu informieren.
  2. Hotlines und Beratungsstellen: Viele nationale Hotlines, die sich mit Fällen von gemeldetem Missbrauchsmaterial befassen, haben mit finanziellen Problemen zu kämpfen. Hier muss unbedingt sicher gestellt werden, dass ausreichend Kapazität besteht, gemeldeten Fällen nachzugehen.

Verbesserung der Medienkompetenz

Die frühe Vermittlung von digitaler Kompetenz ist ein wesentlicher Bestandteil zum Schutz von Kindern und Jugendlichen online. Die Kinder selbst müssen über das Wissen und die Werkzeuge verfügen, sich im Internet sicher zu bewegen. Sie müssen darüber informiert werden, dass auch online Gefahren lauern und lernen, die Muster von Grooming zu erkennen und zu hinterfragen. Hierzu wären zum Beispiel gezielte Angebote in Schulen und Ausbildungsstätten sinnvoll, in denen geschultes Personal Wissen vermittelt und Diskussionen leitet.

Kinder müssen lernen, sich zu äußern, zu reagieren und Anzeige zu erstatten, selbst wenn der Missbrauch aus ihrem Vertrauensbereich kommt (d. h. von nahestehenden Personen oder anderen Personen, die sie kennen und denen sie vertrauen), was häufig der Fall ist. Sie müssen auch Zugang zu sicheren, zugänglichen und altersgerechten Kanälen haben, um Missbrauch ohne Angst melden zu können.


Dokumente zur Chatkontrolle 2.0

EP legislative observatory (Englisch) (regelmäßig aktualisiert)

Europäisches Parlament

Rat der Europäischen Union (Ministerrat)

Europäische Kommission

Gutachten & Stellungnahmen

Dokumente zur freiwilligen Chatkontrolle 1.0

Kritische Stellungnahmen und Hintergrundartikel zur Nachrichtendurchleuchtung

“Wir müssen bessere Lösungen für die Menschen schaffen, die sich dazu hingezogen fühlen.”

“Jede digitale Überwachung von Kindern und jede damit verbundene automatisierte Verarbeitung personenbezogener Daten sollte das Recht des Kindes auf Privatsphäre respektieren und nicht routinemäßig, wahllos oder ohne das Wissen des Kindes durchgeführt werden…”

(eigene Übersetzung)

“[D]die Verordnung überträgt privaten Unternehmen die Verantwortung für eine Angelegenheit, die von öffentlichen Behörden erledigt werden sollte.”

“Wir schlagen vor, dass die Kommission nicht-technischen Maßnahmen und der schnelleren Entfernung von anstößigen Websites den Vorrang vor clientseitiger Durchsuchung von Nachrichteninhalten einräumt“

“Die in dem Vorschlag vorgesehenen Maßnahmen würden einen Eingriff in die Grundrechte auf Achtung des Privatlebens und den Datenschutz aller Nutzer sehr beliebter elektronischer Kommunikationsdienste, wie Instant-Messaging-Plattformen und -Anwendungen, darstellen. Die Vertraulichkeit der Kommunikation ist ein Eckpfeiler der Grundrechte auf Achtung des Privat- und Familienlebens. Selbst freiwillige Maßnahmen privater Unternehmen stellen einen Eingriff in diese Rechte dar, wenn die Maßnahmen die Überwachung und Analyse des Inhalts der Kommunikation und die Verarbeitung personenbezogener Daten beinhalten.”

“Mit der geplanten Regelung verstößt die EU-Kommission gegen die Grundrechte der Bürgerinnen und Bürger, die in der Europäische Grundrechtecharta (GRCh) garantiert werden: insbesondere Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Schutz personenbezogener Daten) und Artikel 11 (Meinungsäußerungsfreiheit und Informationsfreiheit) garantieren grundsätzlich vertrauliche Kommunikation. Eine derartige Überwachung legt auch die verschlüsselte und unverschlüsselte Kommunikation von Unternehmen, Behörden offen – ebenso von Medienschaffenden und ihren Informantinnen und Informanten.”

“Als Missbrauchsüberlebender bin ich (und Millionen anderer Überlebender auf der ganzen Welt) auf vertrauliche Kommunikation angewiesen, um Unterstützung zu finden und die Verbrechen gegen uns zu melden – unsere Rechte auf Privatsphäre und Vertraulichkeit zu beschneiden, bedeutet, uns weiteren Verletzungen auszusetzen, und offen gesagt, haben wir genug gelitten. […] es spielt keine Rolle, welche Schritte wir unternehmen, um Täter zu finden, es spielt keine Rolle, wie viele Freiheiten oder verfassungsmäßige Rechte wir zerstören, um diese Agenda zu erfüllen – es wird Kinder NICHT vor Missbrauch schützen, es wird den Missbrauch einfach weiter in den Untergrund treiben, es immer schwieriger machen, ihn zu entdecken und letztendlich dazu führen, dass mehr Kinder als Endergebnis missbraucht werden.”

“In der Praxis bedeutet dies, dass private Unternehmen mit einer Angelegenheit betraut würden, die eigentlich von öffentlichen Behörden behandelt werden sollte”

“Sowohl hinsichtlich des Mandatsgeheimnisses als auch im Hinblick auf [die Rechte der Anwälte] erscheinen die mit den Vorschlägen der Kommission für Anwältinnen und Anwälte und […] für deren Mandantschaft einhergehenden Risiken besonders hoch. Denn die Bewertung von mit Kindesmissbrauch in Zusammenhang stehenden Sachverhalten gehört zum Aufgabenbereich der Anwaltschaft. Dementsprechend häufig wird die zwischen Anwälten und Mandanten ausgetauschten Kommunikation entsprechende Schlagwörter beinhalten. […] Nach den Vorschlägen der Kommission  [steht] zu befürchten, dass es in allen genannten Konstellationen aufgrund der unvermeidbaren Verwendung einschlägiger Begrifflichkeiten regelmäßig zu einem Bruch der Vertraulichkeit kommen wird. Ein solches Ergebnis wäre aus Gründen der Rechtsstaatlichkeit sowie zum Schutze der Rechte von Mandanten und Rechtsanwälten schlechterdings inakzeptabel. Die Vertraulichkeit der Kommunikation zwischen Anwälten und Mandanten muss in jedem Fall gewährleistet bleiben. Sie ist nicht verhandelbar.“

“Ich hatte keine vertraulichen Kommunikationsmittel, als ich vergewaltigt wurde; meine gesamte Kommunikation wurde von meinen Tätern überwacht – es gab nichts, was ich tun konnte, es gab kein Vertrauen. […] Ich kann nicht umhin, mich zu fragen, wie viel anders mein Leben verlaufen wäre, wenn ich Zugang zu diesen modernen Technologien gehabt hätte. [Die geplante Abstimmung über die e-Privacy-Ausnahmeregelung] wird Missbrauch in den Untergrund treiben, was es viel schwieriger macht, ihn zu entdecken; es wird Selbsthilfegruppen daran hindern, Missbrauchsopfern zu helfen – ES WIRD LEBEN ZERSTÖREN.”

„Eine flächendeckende und anlasslose Überwachung von digitalen Kommunikationskanälen ist weder zielführend noch erforderlich, um Online-Kindesmissbrauch aufzuspüren. Die Bekämpfung von sexualisierter Gewalt an Kindern muss mit zielgerichteten und konkreteren Maßnahmen angegangen werden. Die Ermittlungsarbeit ist Aufgabe der Strafverfolgungsbehörden und darf nicht auf private Betreiber von Messenger-Diensten ausgelagert werden.“

“Wie bei anderen Arten des Scannens von Inhalten (ob auf Plattformen wie YouTube oder in der privaten Kommunikation) schafft das ständige Scannen von allem und jedem ein enormes Risiko, zu einer Massenüberwachung zu führen, indem es den Test der Notwendigkeit und Verhältnismäßigkeit nicht besteht. Darüber hinaus entsteht ein Dammbruch, bei dem wir mit dem Scannen für weniger schädliche Fälle (Urheberrecht) beginnen und dann zu härteren Themen übergehen (sexueller Kindesmissbrauch, Terrorismus) und bevor wir wissen, was passiert ist, wird das ständige Scannen von allem zum neuen Normalzustand.”

“Der DAV spricht sich ausdrücklich dafür aus, die Vorbereitung und Begehung von sexuellem Kindesmissbrauch und deren Verbreitung über das Internet durch wirksame Maßnahmen auf europäischer Ebene zu bekämpfen. Die von der Kommission vorgeschlagene Übergangs-VO würde jedoch eklatant unverhältnismäßige Eingriffe in die Freiheitsgrundrechte von redlichen Nutzern internet-basierter Kommunikationsdienste ermöglichen. Darüber hinaus lässt der Verordnungsvorschlag hinreichende prozessuale Absicherungen für Betroffene vermissen. Das Gesetzesvorhaben ist daher insgesamt abzulehnen.”

“Positive Treffer mit nachfolgender Offenbarung gegenüber staatlichen und nichtstaatlichen Stellen würden neben Beschuldigten vor allem die Opfer sexuellen Kindesmissbrauchs zu befürchten haben. Dabei ist die absolute Vertraulichkeit der anwaltlichen Beratung gerade in diesen häufig mit Scham behafteten Sachverhalten im Interesse der Opfer unabdingbar. Die Entscheidungshoheit darüber, welche Mandatsinhalte gegenüber wem offenbart werden dürfen, muss gerade in diesen Fällen bei der Mandantschaft verbleiben. Es stünde sonst zu befürchten, dass Opfer sexuellen Kindesmissbrauchs keine anwaltliche Beratung in Anspruch nehmen.”

“Im Zuge der Initiative “Fighting child sexual abuse: detection, removal, and reporting of illegal content” plant die Europäische Union die Abschaffung des digitalen Briefgeheimnisses. Um illegale Inhalte automatisch zu erkennen, sollen künftig alle privaten Chat-Nachrichten durchleuchtet werden. Dies soll auch für Inhalte gelten, die bisher mit einer starken Ende-zu-Ende-Verschlüsselung geschützt sind. Sollte diese Initiative nach dem jetzigen Plan umgesetzt werden, würde sie unseren europäischen Idealen und den unbestreitbaren Grundlagen unserer Demokratie, nämlich der Meinungsfreiheit und dem Schutz der Privatsphäre, enorm schaden […]. Die Initiative würde auch der strategischen Autonomie Europas und damit den in der EU ansässigen Unternehmen schwer schaden.”

Experten aus Polizei und Wissenschaft sehen das Vorhaben der EU eher kritisch: Sie fürchten einerseits viele falsche Anzeigen durch die Scanner, andererseits eine Alibi-Funktion des Gesetzes. Daniel Kretzschmar, Sprecher des Bundesvorstandes des Bundes Deutscher Kriminalbeamter, sagt, dass seinem Verband die Bekämpfung von Kindesmissbrauchsdarstellungen “enorm wichtig” ist. Trotzdem ist er skeptisch: Es könnten leicht Unverdächtige in den Fokus der Ermittlungen geraten. Gleichzeitig bedeute eine Privatisierung dieser Initiativermittlungen eine “Abhängigkeit der Strafverfolgung von diesen Unternehmen, die eigentlich staatliche und hoheitliche Aufgabe ist.”

Auch Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei in Brandenburg, sieht das EU-Vorhaben eher kritisch. “Am Ende wird es vermutlich vor allem wieder Minderjährige treffen”, sagte er WELT. Rüdiger verweist auf Zahlen aus der Kriminalitätsstatistik, wonach 43 Prozent der erfassten Straftaten im Bereich kinderpornographische Inhalte auf Kinder und Jugendliche selbst zurückgehen würden. Das ist etwa beim sogenannten “Sexting” und der “Schulhof-Pornografie” der Fall, wenn sich 13- und 14-Jährige anzügliche Bilder schicken.

Echte Täter, die man eigentlich erwischen wolle, würde man vermutlich eher nicht fassen. “Die sind sich nämlich ihrer Taten bewusst und weichen auf Alternativen aus. Vermutlich werden dann wieder vermehrt USB-Sticks und andere Datenträger genutzt”, so Rüdiger weiter.

“Die automatische Durchsuchung der privaten Kommunikation eines jeden Menschen zu jeder Zeit stellt einen unverhältnismäßigen Eingriff in den Kern des Grundrechts auf Privatsphäre dar. Sie kann eine Form der undemokratischen Massenüberwachung darstellen und schwerwiegende und ungerechtfertigte Auswirkungen auch auf viele andere Grundrechte und Freiheiten haben.”

“Im Vorfeld des offiziellen Gesetzentwurfs im Laufe dieses Jahres fordern wir alle EU-Kommissare auf, sich an ihre Verantwortung für die Menschenrechte zu erinnern und sicherzustellen, dass kein Vorschlag vorgelegt wird, der das Recht der Menschen auf Privatsphäre und den Grundpfeiler der demokratischen Gesellschaft in Frage stellt.”

“In the view of our experts, academics and IT professionals, all efforts to intercept and extensively monitor chat communication via client site scanning has a tremendous negative impact on the IT security of millions of European internet users and businesses. Therefore, a European right to secure communication and effective encryption for all must become a standard.”

“Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:

Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.

Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.”

(…)

“Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.”

Es brauche „vor allem den Ausbau der personellen und technischen Ressourcen bei den Strafverfolgungsbehörden, mehr sichtbare Präsenz von Polizei im Netz, mehr staatliche Meldestellen sowie die Entkriminalisierung von der Verbreitung selbstgenerierten Materials unter Jugendlichen“.

die aktuellen Pläne würden nicht unbedingt dazu führen, mehr Pädokriminelle festzunehmen, erläutern mehrere langjährige Ermittler. Einer der Gründe: Zwar würde das Gesetz zu mehr Meldungen von Missbrauchsbildern führen, aber diese führten nicht automatisch zu mehr Ermittlungserfolgen. Die Strafverfolger hätten heute schon genug Datenpunkte. Das Problem sei, all die Fälle mit den vorhandenen Ressourcen abzuarbeiten und die besonders gefährlichen Täter zu finden. »Wir haben heute schon ein Heuhaufen-Problem. Die Masse der neuen Meldungen nach den EU-Plänen droht unsere Strafverfolgung eher lahmzulegen«, beschreibt es ein Ermittler.