Chatkontrolle

🇫🇷 Französisch: Traduction du dossier Chat Control 2.0 
🇸🇪 Schwedisch: Chat Control 2.0
🇳🇱 Niederländisch: Chatcontrole

Die Abschaffung des Digitalen Briefgeheimnisses

Die EU will es Chat- und Messenger-Providern vorschreiben, private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Eine nie dagewesene Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.

Weitere Konsequenzen des Gesetzentwurfs zur Chatkontrolle sind unwirksame Netzsperren-Zensur, die Durchleuchtung persönlicher Cloudspeicher einschließlich privater Fotos, durch verpflichtende Altersüberprüfung das Ende anonymer Kommunikation, durch Appstore-Zensur das Ende sicherer Messengerapps und die Bevormundung Jugendlicher.

Chatkontrolle 2.0 auf jedem Smartphone droht

Am 6. Juli 2021 hat bereits eine Mehrheit der Abgeordneten des Europäische Parlaments dem freiwilligen Einsatz der Chatkontrolle zugestimmt, wovon bisher nur unverschlüsselte US-Kommunikationsdienste wie GMail, Facebook/Instagram Messenger, Skype, Snapchat, iCloud E-Mail oder X-Box Gebrauch machen (Übersicht hier). Die Europäische Kommission hat am 11. Mai 2022 eine Folgeverordnung zum verpflichtenden Einsatz der Chatkontrolle durch alle Anbieter vorgestellt. Infolge der künftig verpflichtenden Chatkontrolle erwartet die EU-Kommission einen Anstieg der Berichte aus Chatkontrollen um 354%. Eine öffentliche Konsultation der Kommission zu diesem Vorhaben hatte ergeben, dass die Mehrheit der Befragten Bürger:innen und Interessengruppen eine Verpflichtung zum Einsatz der verdachtslosen Nachrichten- und Chatkontrolle ablehnt. Über 80% der Befragten sprachen sich gegen eine Anwendung auf Ende-zu-Ende verschlüsselte Kommunikation aus.

Der aktuelle Entwurf

Was konkret im Entwurf vorgesehen ist:

Chatkontrolle-Gesetzentwurf der EU-Kommission	Konsequenzen	Position des EU-Parlaments	Position des Rates (Entwurf)
Vorgesehen ist die Chatkontrolle, Netzsperren, verpflichtende Altersverifikation für Nachrichten und Chats, Altersverifikation und Ausschluss Minderjähriger von der Installation vieler Apps		keine Chatkontrolle, Netzsperren optional, keine verpflichtende Altersverifikation für Nachrichten und Chats, kein genereller Ausschluss Minderjähriger von der Installation vieler Apps	wie Kommission
Alle Dienste, die normalerweise gegen Entgelt erbracht werden (einschließlich werbefinanzierter Dienste), fallen in den Anwendungsbereich, ohne Mindestgröße, Mindestnutzerzahl usw.	Nur nicht-kommerzielle Dienste, die nicht werbefinanziert sind, wie z. B. vielfach Open-Source-Software, sind ausgenommen	wie Kommission	wie Kommission
Auch außerhalb der EU niedergelassene Anbieter sind verpflichtet, die Verordnung umzusetzen	Siehe Artikel 33	wie Kommission	wie Kommission
Als Kommunikationsdienste betroffen sind u.a. Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen, auf Datingportalen usw.), Videokonferenzen	Nachrichten, Bilder, Videos und Sprachaufzeichnungen (z.B. Video-Meetings, Sprachnachichten, Telefonaten) müssten durchsucht werden	Telefonie ausgeschlossen, kein Scannen von Nachrichtentexten, betroffen sind E-Mail, Messenger, Chats, Videokonferenzen	wie Kommission
Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommen	Die Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen (client-side scanning) und ggf. unverschlüsselt ausleiten. Das zerstört das Vertrauen in sichere Verschlüsselung und erzwingt eine Hintertür, die eine Überwachung bisher sicher verschlüsselter Kommunikation auch für viele andere Zwecke ermöglicht.	Ende-zu-Ende verschlüsselte Messenger sind ausgenommen	wie Kommission
Als Hostingdienste betroffen sind u.a. Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und Clouddienste	Auch persönliche Speicher, die nicht geteilt werden, wie Apples iCloud sind betroffen	wie Kommission	wie Kommission
Zur verdachtslosen und flächendeckenden Durchsuchung des Inhalts persönlicher Kommunikation und gespeicherter Daten (Chatkontrolle) verpflichtet werden Dienste, die wahrscheinlich auch für sexuell ausbeutende Darstellungen oder zur Kontaktaufnahme mit Kindern/Jugendlichen genutzt werden	Da vermutlich jeder Dienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtet	Durchsuchung nur mit richterlichem Beschluss und beschränkt auf Personen oder Personengruppen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehen	wie Kommission
Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtet	Es besteht kein Ermessen	wie Kommission	wie Kommission
Bei der Chatkontrolle muss nach bekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt	Diese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 80% der Meldungen strafrechtlich irrelevant sind. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.	wie Kommission	wie Kommission
Bei der Chatkontrolle muss auch nach unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt	Maschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. Der Entwurf erlaubt es Providern, Treffermeldungen ungeprüft an die Polizei weiterzugeben.	wie Kommission	zunächst ausgeschlossen
Bei der Chatkontrolle muss im Nachrichtentext maschinell nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht werden, verdächtige Nachrichten werden der Polizei angezeigt	Maschinell nach Anbahnungsversuchen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen.	ausgeschlossen	ausgeschlossen
Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfen	In der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, so dass eine anonyme Kommunikation per E-Mail, Messenger usw. verboten wird. Auf den Schutz der Anonymität sind Whistleblower, Menschenrechtsverteidiger und marginalisierte Gruppen angewiesen.	keine verpflichtende Altersprüfung	wie Kommission
Appstores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen unter 17 die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden können	Allen Kommunikationsdienste wie Messenger, Datingapps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden (siehe Umfrage) und wären für Kinder/Jugendliche verboten. Und die Altersüberprüfung liefe auf eine Identifikationspflicht gegenüber Anbietern von Appstores heraus.	Fordert die App eine Einwilligung in die Verarbeitung persönlicher Daten, müssen die großen Appstores (Google, Apple) vernünftige Anstrengungen unternehmen, um bei Jugendlichen bis 16 die Einwilligung der Eltern zu überprüfen	wie Kommission
Internet-Zugangsanbieter müssen verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockieren	Netzsperren sind technisch unwirksam und leicht zu umgehen, außerdem bauen sie eine technische Zensurinfrastruktur auf	Netzsperren KÖNNEN von Gerichten verhängt werden	wie Kommission

Verhandlungsmandat des Europäischen Parlaments

Im November 2023 hat das Europäische Parlament fast einstimmig ein gemeinsames Verhandlungsmandat zum Gesetzentwurf beschlossen. Mit dem Europaabgeordneten der Piratenpartei Dr. Patrick Breyer saß der entschiedenste Gegner einer Chatkontrolle mit am Verhandlungstisch. Das Ergebnis: Das Parlament will dem extremen Entwurf der EU-Kommission folgende Giftzähne ziehen:

1. Wir wollen das digitale Briefgeheimnis retten und die grundrechtswidrigen Pläne flächendeckender verdachtsloser Chatkontrollen stoppen. Auch die aktuelle freiwillige Chatkontrolle privater Nachrichten (nicht sozialer Netzwerke) durch US-Internetkonzerne soll auslaufen. Eine zielgerichtete Telekommunikationsüberwachung und -durchsuchung soll nur auf richterliche Anordnung und nur beschränkt auf Personen oder Personengruppen zugelassen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehen.
2. Wir wollen das Vertrauen in sichere Ende-zu-Ende-Verschlüsselung retten. Das sogenannte client-side scanning, also den Einbau von Überwachungsfunktionen und Sicherheitslücken in unsere Smartphones, schließen wir klar aus.
3. Wir wollen das Recht auf anonyme Kommunikation garantieren und eine Altersnachweispflicht für Benutzer von Kommunikationsdiensten ausschließen. Whistleblower könnten so weiterhin Missstände anonym leaken, ohne Ausweis oder Gesicht vorzeigen zu müssen.
4. Löschen statt sperren: Netzsperren sollen nicht verhängt werden müssen. Auf keinen Fall sollen zulässige Inhalte als „Kollateralschaden“ mitgesperrt werden.
5. Wir wollen keine App-Verbote für junge Menschen: Appstores sollen junge Menschen unter 16 nicht wie geplant ‘zu ihrem eigenen Schutz’’’ an der Installation von Messengerapps, sozialen Netzwerken und Spielen hindern müssen. Es bleibt bei der Datenschutz-Grundverordnung.

Junge Menschen und Missbrauchsopfer wollen wir viel wirksamer schützen als im Entwurf der EU-Kommission vorgesehen:

1. Security by design: Um junge Menschen vor sexueller Ansprache und Ausbeutung zu schützen, sollen Internetdienste und Apps sicher ausgestaltet und voreingestellt werden. Es muss möglich sein, andere Nutzer zu blockieren und zu melden. Nur auf Wunsch des Nutzers soll dieser öffentlich ansprechbar sein und Nachrichten oder Bilder anderer Nutzer sehen. Vor dem Verschicken von Kontaktdaten oder Nacktbildern wird rückgefragt. Potenzielle Täter und Opfer werden bei konkretem Anlass gewarnt, beispielsweise wenn versucht wird anhand bestimmter Suchworte nach Missbrauchsmaterial zu suchen. Öffentliche Chats sind bei hohem Grooming-Risiko zu moderieren.
2. Das Netz säubern: Um das Netz von Kinderpornografie und Missbrauchsdarstellungen zu säubern, soll das neue EU-Kinderschutzzentrum proaktiv öffentlich abrufbare Internetinhalte automatisiert nach bekannten Missbrauchsdarstellungen durchsuchen. Dieses Crawling ist auch im Darknet einsetzbar und dadurch effektiver als Privatüberwachungsmaßnahmen der Anbieter.
3. Löschpflicht: Anbieter, die auf eindeutig illegales Material aufmerksam werden, sollen – anders als von der EU-Kommission vorgeschlagen – zur Löschung verpflichtet werden. Strafverfolger, die auf illegales Material aufmerksam werden, sollen dies dem Anbieter zur Löschung melden müssen. Damit reagieren wir auf den Fall der Darknetplattform Boystown, bei der schlimmstes Missbrauchsmaterial mit Wissen des Bundeskriminalamts monatelang weiter verbreitet wurde.

Achtung: Dies ist nur das Verhandlungsmandat des Parlaments, das sich normalerweise nur zum Teil durchsetzt. Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität). Sobald sich die EU-Regierungen im Rat verständigt haben, werden Parlament, Rat und Kommission die sogenannten Trilog-Verhandlungen über die endgültige Fassung der Verordnung aufnehmen. Patrick Breyer bzw. mit Unterstützung der Wähler:innen seine Nachfolgerin Anja Hirschel von der Piratenpartei werden wieder mit am Verhandlungstisch sitzen, um gegen die Chatkontrolle zu kämpfen.

Position der EU-Regierungen im Rat

Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen extremen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität), so dass eine Positionierung schon zweimal gescheitert ist.

Ausweislich von Statements der EU-Innenminister am 19. Oktober lässt sich die Position der meisten EU-Länder ungefähr so zusammenfassen:

Videos zur Chatkontrolle sind in dieser Playlist hinterlegt.

Die Verhandlungen: Zeitschiene und Termine

2020: Die europäische Kommission schlägt ein zeitlich begrenztes Gesetz vor welches die Chatkontrolle erlaubt

Die Europäische Kommission hat 2020 ein Gesetz auf den Weg gebracht, das es erlaubt, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. Das heißt: Facebook Messenger, Gmail & Co dürfen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. Meldet ein Algorithmus einen Verdachtsfall, werden alle Nachrichteninhalte und Kontaktdaten automatisch und ohne menschliche Prüfung an eine private Verteilstelle und weiter an Polizeibehörden weltweit geleitet. Die Betroffenen sollen nie davon erfahren.

6. Juli 2021: Das europäische Parlament stimmt für die Einführung der Chatkontrolle

Das Europäische Parlament hat für die ePrivacy-Ausnahmeregelung gestimmt, die eine freiwillige Chat-Kontrolle für Messaging- und E-Mail-Anbieter ermöglicht. Infolgedessen führen einige US-amerikanische Anbieter von Diensten wie Gmail und Outlook.com bereits solche automatisierten Messaging- und Chat-Kontrollen durch.

9. Mai 2022: Mitglied des Europäischen Parlaments Patrick Breyer reicht eine Klage gegen das US-Unternehmen Meta ein

Nach einem Urteil des Europäischen Gerichtshofs ist die dauerhafte und flächendeckende automatisierte Analyse privater Kommunikation grundrechtswidrig und verboten (Abs. 177). Die ehemalige EuGH-Richterin, Prof. Dr. Ninon Colneric, kommt in ihrem Rechtsgutachten (englisch) zu dem Ergebnis, dass die EU-Gesetzesvorhaben zur Chatkontrolle nicht im Einklang mit der Rechtsprechung des Europäischen Gerichtshofs stehen und die Grundrechte aller EU-Bürger*innen auf Achtung der Privatsphäre, auf Datenschutz und auf freie Meinungsäußerung verletzen. Auch der Wissenschaftliche Dienst des Bundestags stellt fest: “Die latente Dauergefahr der Begehung von (auch schwerwiegenden) Straftaten dürfte daher zur Rechtfertigung einer ständigen und umfassenden automatisierten Analyse wohl nicht genügen.” Der Europaabgeordnete Patrick Breyer hat aus diesem Grund das US-Unternehmen Meta wegen der freiwillig praktizierten Chatkontrolle verklagt.

11. Mai 2022: Die Kommission stellt einen Gesetzesentwurf vor, der zur Chatkontrolle verpflichtet

Die EU-Kommission will mit einem zweiten Gesetz nun alle Anbieter zum Einsatz dieser Technologie verpflichten. Dabei zeigt eine im März 2021 durchgeführte Umfrage, dass die Mehrheit der EuropäerInnen den Einsatz der Chatkontrolle entschieden ablehnt. (Detaillierte Umfrageergebnisse hier)

• 8. Mai 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 22. Juni 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 5. Juli 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 25. Juli 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromissvorschlag)
• 6. September 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 22. September 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromissvorschlag: Artikel 1&2, Artikel 25-39)
• 28. September 2022: Ratsworkshop zu Durchsuchungstechnologien
• 5. Oktober 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 10. Oktober 2022: Der Vorschlag wurde präsentiert und diskutiert im führenden Ausschuss (LIBE) – Videoaufzeichnung
• 19. Oktober 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 3. November 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 24. November 2022: Treffen der Ratsarbeitsgruppe Strafverfolgung (Altersverifikation)
• 30. November 2022: Erstes treffen der Schattenberichterstatter des Europäischen Parlaments
• 8. – 9. Dezember 2022: Tagung des des Rates „Justiz und Inneres“ in Brüssel
• 14. Dezember 2022: Treffen der Schattenberichterstatter: Anhörungen
• 10. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen
• 19. & 20. Januar 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 24. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen (Fokus: Strafverfolgung)
• 7. Februar 2023: Treffen der Schattenberichterstatter
• 27. Februar 2023: Treffen der Schattenberichterstatter
• 7. März 2023: Treffen der Schattenberichterstatter
• 16. März 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
• 21. März 2023: Treffen der Schattenberichterstatter
• 29. März 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 13. April 2023: Präsentation des Impact Assessment in LIBE
• 14. April 2023: EP-Berichterstatter reicht Berichtsentwurf ein
• 25. April 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
• 26. April 2023: Präsentation des Berichtsentwurfs in LIBE
• 17. Mai 2023: Frist des EP für die Einreichung von Änderungsanträgen
• 25. – 26. Mai 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
• 31. Mai 2023: Treffen der Stellvertreter der Ständigen Vertretung
• 31. Mai 2023: Treffen der Schattenberichterstatter
• 7. Juni 2023: Treffen der Schattenberichterstatter
• 8. und 9. Juni 2023: Rat “Justiz und Inneres” soll partielle Einigung festlegen (Kompromisvorschlag)
• 14. Juni 2023: Treffen der Schattenberichterstatter
• 28. Juni 2023: Treffen der Schattenberichterstatter
• 5. Juli 2023: Treffen der Schattenberichterstatter
• 12. Juli 2023: Treffen der Schattenberichterstatter
• 19. Juli 2023: Treffen der Schattenberichterstatter
• 5. September 2023: Treffen der Schattenberichterstatter
• 14. September 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung
• 17. September 2023: Treffen der Ratsarbeitsgruppe Strafverfolgung (Kompromisvorschlag)
• 20. September 2023: Treffen der Stellvertreter der Ständigen Vertretungen
• Treffen der Schattenberichterstatter siehe Kalendereinträge zu CSAM
• 16. Oktober 2023: Debatte im Ausschuss der Ständigen Vertreter des Rats
• 18. Oktober 2023: Treffen der Schattenberichterstatter
• 24. Oktober 2023: Treffen der Schattenberichterstatter
• 25. Oktober 2023: LIBE-Anhörung von Innenkommissarin Johansson zu Lobbyismusvorwürfen
• 14. November 2023: Im LIBE-Ausschuss fast einstimmige Annahme der Parlamentsposition und des Mandats zu Trilogverhandlungen
• 23. November 2023: Mangels Widerspruchs keine Abstimmung über das im LIBE-Ausschuss beschlossene Verhandlungsmandat im Plenum
• 1. Dezember 2023: Die Ratspräsidentschaft will die Arbeitsgruppe Strafverfolgung über den „Stand der Dinge“ informieren
• 4. Dezember 2023: Die EU-Kommission will die Justiz- und Innenminister „informieren“
• vor der Europawahl 2024 (möglicherweise): Verlängerung der ePrivacy-Ausnahmeverordnung zur freiwilligen Chatkontrolle (Chatkontrolle 1.0)
• nach der Europawahl 2024 (geplant): Verhandlungen über die endgültige Fassung der Verordnung zwischen Kommission, Parlament und Rat (Trilog) und Verabschiedung des Ergebnisses

Die Akteure

Berichterstatter und Schattenberichterstatter

	EVP	S&D	Renew	Die Grünen/ EFA	Die Linke	EKR	ID
LIBE	Javier Zarzalejos	Paul Tang	Hilde Vautmans	Patrick Breyer	Cornelia Ernst	Vincenzo Sofo	Annalisa Tardino
IMCO	Marion Walsmann	Alex Aguis Saliba	Catharina Rinzema	Marcel Kolaja	Kateřina Konečná	Adam Bielan	Jean-Lin Lacapelle
CULT	Asim Ademov	Marcos Ros Sempere	Lucia Duris Nicolsonova	Marcel Koloja	Niyazi Kizilyürek	Elzbieta Kruk	Catherine Griset
FEMM	Eleni Stavrou	Heléne Fritzon	Karen Melchior	Pierrette Herzberger-Fofana	Sandra Pereira	Jadwiga Wiśniewska
BUDG	Niclas Herbst	Nils Ušakovs	Nils Torvalds	Alexandra Geese	Silvia Modig	Bogdan Rzońca	Joachim Kuhs

---

Was hat das Ganze mit dir zu tun?

Nachrichten- und Chatkontrolle:

• Alle deine Chats und E-Mails werden automatisch auf verdächtige Inhalte durchsucht. Nichts ist mehr vertraulich oder geheim. Kein Gericht muss diese Durchsuchung anordnen. Sie passiert immer und automatisch.
• Falls die Maschinenprüfung anschlägt, werden deine privaten Fotos und Videos von Mitarbeitern von internationalen Konzernen und Polizeibehörden angesehen. Auch intime Nacktbilder von dir werden dann von unbekannten Menschen auf der ganzen Welt gesichtet, in deren Hände sie nicht sicher sind.
• Flirts und Sexting werden mitgelesen, denn Texterkennungsfilter schlagen besonders häufig auf solche intimen Chats an.
• Du kannst unschuldig in den Verdacht geraten, Material von Kindesmissbrauch zu verschicken. Denn die Bilderkennungsfilter sind bekannt dafür, dass sie auch auf völlig legale Urlaubsfotos mit Kindern am Strand anschlagen. 80% aller maschinell gemeldeten Verdachtsfälle erweisen sich als unbegründet, so die Schweizer Bundespolizei. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart. Knapp 40% aller in Deutschland wegen “Kinderpornografie” von der Polizei verfolgter Personen sind Minderjährige.

“Die Trefferquote ist dabei sehr tief: «2020 trafen bei uns rund 8000 Meldungen ein», sagt Fedpol-Sprecher Florian Näf. «Strafrechtlich relevant waren davon zirka 14 Prozent.»”

Quelle: Sonntagszeitung vom 14.03.2021, Seite 9
2021 waren 20% der Meldungen strafrechtlich relevant

“Und auch hierzulande bekommen die Ermittler von Google jede Menge falsche Alarmmeldungen aufgetischt, ergaben die Recherchen der WELT AM SONNTAG schon 2021: Laut Experten des Landeskriminalamts NRW lag die Fehlerquote in der Vergangenheit bei etwa 40 Prozent.”

Quelle: Die Welt, 23.08.2022

• Bei deiner nächsten Auslandsreise könnten dich große Probleme erwarten. Verdachtsmeldungen werden unkontrollierbar an Staaten wie die USA, wo es keinerlei Datenschutz gibt, weitergeleitet – mit unabsehbaren Konsequenzen.
• Geheimdienste und Hacker können einfacher Zugriff auf deine privaten Chats und E-Mails erhalten. Denn sobald sichere Verschlüsselung für den Einsatz der Chatkontrolle ausgehebelt wird, ist die Tür offen zum massenhaften Auslesen deiner Nachrichten durch jeden, der die technischen Mittel dazu hat.
• Das ist nur der Anfang. Ist die Technologie zur Nachrichten- und Chatkontrolle einmal etabliert, kann sie spielend leicht auch für andere Zwecke eingesetzt werden. Und wer garantiert, dass die Verdächtigungsmaschinen künftig nicht auch unsere Smartphones und Laptops kontrollieren?

Altersprüfung:

• Du kannst nicht mehr anonym E-Mail- oder Messenger-Konten einrichten oder anonym chatten, ohne dich ausweisen oder dein Gesicht zeigen zu müssen, wodurch du identifizierbar wirst und Datenlecks riskierst. Dies verhindert zum Beispiel sensible Chats zum Thema Sexualität im Schutz der Anonymität, anonyme Pressekommunikation mit Quellen (z. B. Whistleblowern) sowie politische Aktivitäten.
• Unter 17 Jahren wirst du aus dem Appstore beispielsweise folgende Apps nicht mehr installieren können (Begründung: Grooming-Gefahr): Messenger wie Whatsapp, Snapchat, Telegram oder Twitter, soziale Medien wie Instagram, TikTok oder Facebook, Spiele wie FIFA, Minecraft, GTA, Call of Duty, Roblox, Dating Apps, Videokonferenzen wie Zoom, Skype, Facetime.
• Wenn du keinen Appstore nutzt, wird die Einhaltung des Mindestalters des Anbieters überprüft werden. Wenn du nicht das Mindestalter von 16 Jahren erreichst, wirst du etwa Whatsapp aufgrund der geplanten Altersverifizierung nicht mehr nutzen können; dasselbe gilt für die Onlinefunktionen des Spiels FIFA 23. Wenn du unter 13 Jahre alt bist, kannst du TikTok, Snapchat oder Instagram nicht mehr nutzen.

Weitere Argumente gegen die Chatkontrolle

---

Was du gegen die Chatkontrolle unternehmen kannst

Befürchtest du, dass dieses Gesetz die Grundrechte massiv einschränkt und der falsche Ansatz ist? Handele jetzt:

Protestiere jetzt bei der Bundesregierung, die im Rat mitentscheidet (z.B. in Deutschland Bundesinnenministerin Faeser (SPD), Bundesjustizminister Buschmann (FDP), Digital- und Verkehrsminister Wissing (FDP), Bundesfamilienministerin Paus (Grüne)) und die Pläne größtenteils mitträgt (siehe Grafik)! Teile ihnen höflich deine Bedenken gegen die Chatkontrolle mit. Offiziell heißt die geplante Pflicht zur Nachrichten- und Chatkontrolle “Gesetz zur Verhinderung und Bekämpfung von Kindesmissbrauch”.

Protestiere jetzt bei Abgeordneten der Bundestagsfraktionen SPD, Grünen und FDP gegen diese Position der Bundesregierung zur Chatkontrolle, und fordere eine klare Absage des Bundestags! Teile ihnen höflich deine Bedenken bezüglich der Chat-Kontrolle mit (Argumente hier). Die Erfahrung zeigt, dass Telefonanrufe effektiver sind als E-Mails oder Briefe. Der offizielle Name des geplanten Gesetzes zur obligatorischen Chat-Kontrolle lautet “Vorschlag für eine Verordnung mit Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern”.

Unterschreibe und verbreite Petitionen gegen die Chatkontrolle! In Deutschland Petition gegen die Chatkontrolle von Campact unterschreiben. In Österreich Petition gegen Chatkontrolle von #aufstehn unterschreiben. Europaweit Petition gegen die Chatkontrolle von EDRi unterschreiben (englischsprachig).

Rede darüber! Erzähle anderen von den Gefahren der Chatkontrolle. Dafür kannst du hier auf Sharepics und Videos zugreifen. Du kannst natürlich auch selbst Bilder und Videos erstellen.

Schaffe Aufmerksamkeit in den Sozialen Medien! Für einen Beispieltweet kannst du rechts auf die Schaltfläche klicken. Nutze dafür die Hashtags #Chatkontrolle und #digitalesBriefgeheimnis

Medienberichte anstoßen! Journalistinnen und Journalisten haben die Nachrichten- und Chatkontrolle bisher kaum aufgegriffen. Wende dich direkt an Medienunternehmen und bitte sie, darüber zu schreiben – online und offline.

Sprich mit deinen Anbietern! Vermeide Gmail, Facebook Messenger, outlook.com und die Chatfunktion der X-Box, wo schon heute verdachtslos durchleuchtet wird. Frage deine E-Mail-, Messenger- und Chatanbieter, ob sie private Nachrichten verdachtslos nach verbotenen Inhalten durchsuchen oder dies planen.

Drucke und verteile Informationsflyer zur Chatkontrolle! Wir haben einen Flyer erstellt der druckfertig hier runtergeladen werden.

Sharepics und Info-Grafiken für dich zum Download und Teilen:

(Rechtsklick auf ein Bild und wähle “Bild speichern unter…” aus)

---

Mythen entlarvt

Bei der erstmaligen Präsentation des Gesetzesentwurfs zur Chatkontrolle im Mai 2022 hatte die EU-Kommission das umstrittene Vorhaben mit verschiedenen Argumenten beworben. Im Folgenden werden diverse Behauptungen hinterfragt:

---

Weiterführende Informationen und Argumente gegen die Nachrichten- und Chatkontrolle

Massenüberwachung ist der falsche Weg im Kampf gegen “Kinderpornografie” und sexuell ausbeutende Darstellungen

• Das Scannen privater Nachrichten und Chats dämmt die Verbreitung ausbeutender Darstellungen nicht ein. Facebook beispielsweise praktiziert die Chatkontrolle seit Jahren und die Zahl der “Treffermeldungen” und automatisierten Strafanzeigen steigt von Jahr zu Jahr an auf zuletzt 22 Millionen im Jahr 2021.
• Die verpflichtende Chatkontrolle trifft die Täter, die Kindesmissbrauch aufnehmen und weitergeben, nicht. Missbrauchstäter tauschen ihr Material nicht über kommerzielle E-Mail-, Messenger- oder Chatdienste, sondern organisieren sich über selbst betriebene geheime Foren, ohne Scanner zu installieren. Bilder und Videos laden Missbrauchstäter außerdem typischerweise als verschlüsselte Archive hoch und teilen nur die Links und Passwörter. Chatkontrolle-Algorithmen erkennen weder verschlüsselte Archive noch Links wieder.
• Der richtige Weg wäre die Löschung bekannter Speicherorte ausbeutender Darstellungen im Netz. Weder Bundeskriminalamt noch Europol melden aber bekanntes Missbrauchsmaterial den Speicherdiensten.
• Chatkontrolle schadet der Verfolgung von Kindesmissbrauch, weil sie Ermittler millionenfach mit Computermeldungen überlastet, die zum Großteil strafrechtlich irrelevant sind.

Nachrichten- und Chatkontrolle schadet allen

• Alle Bürgerinnen und Bürger werden ohne Anlass unter Verdacht gestellt, Straftaten zu begehen. Die Text- und Bilderkennungsfilter werten unterschiedslos alle Nachrichten aus – unabhängig davon, ob ein konkreter Verdacht vorliegt oder nicht. Kein Richter muss dieser Durchsuchung zustimmen – ganz im Gegensatz zur analogen Welt, in der das Briefgeheimnis und damit die Vertraulichkeit der schriftlichen Kommunikation gewährleistet ist. Laut der Rechtsprechung des Europäischen Gerichtshofes ist eine permanente und verdachtslose automatische Auswertung privater Kommunikation grundrechtswidrig (Rechtssache C-511/18, Abs. 192). Die EU will die Gesetze trotzdem verabschieden. Sie vor Gericht zu stoppen kann Jahre dauern. Deswegen müssen die Gesetze bereits jetzt verhindert werden!
• Die Vertraulichkeit privater Kommunikation wird nachhaltig zerstört. Nutzerinnen und Nutzer von Messenger-Diensten und E-Mail müssen davon ausgehen, dass alle ihre Nachrichten künftig in Echtzeit mitgelesen und ausgewertet werden. Sensible Bild- und Textinhalte können an unbekannte Personen weltweit vollautomatisiert weitergeleitet werden und in falsche Hände geraten. Es sind bereits Fälle bekannt geworden, in denen die Mitarbeiter von US-Behördenabgefangene Nacktbilder von Nutzer*innen in Umlauf gebracht haben. Auch Konzernmitarbeiter haben bereits Kinderdaten missbraucht.
• Die Chatkontrolle zeigt Tausende zu Unrecht an. Nach Angaben der Schweizer Bundespolizei sind 80% der maschinell angezeigten Inhalte nicht strafbar, etwa Urlaubsfotos am Strand mit nackten Kindern. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.
• Sicher verschlüsselte Kommunikation ist in Gefahr. Denn verschlüsselte Nachrichten können bisher nicht von den Algorithmen erfasst werden. Um die Chatkontrolle für jede Online-Kommunikation zu ermöglichen, müssen Hintertüren eingebaut werden. Sobald das geschieht, kann diese Sicherheitslücke von jeder und jedem, der oder die die technischen Mittel dazu hat, ausgenutzt werden. Private Kommunikation, aber auch Geschäftsgeheimnisse und sensible Regierungsinformationen, wären Angriffen ab dann schutzlos ausgesetzt. Sichere Verschlüsselung schützt Minderheiten, LGBTQI-Personen, Demokratieaktivisten, Journalisten usw.
• Strafverfolgung wird privatisiert. Denn in Zukunft entscheiden die Algorithmen von Unternehmen wie Facebook, Google und Microsoft, welche Inhalte als verdächtig eingestuft werden und welche nicht. Dabei geht es nicht nur um Bilder, sondern auch bestimmte Wort-Kombinationen, die den Chatfiltern verdächtig erscheinen. Eine Transparenzpflicht über die Algorithmen ist nicht vorgesehen. In einem Rechtsstaat gehört die Ermittlung von Straftaten aber in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
• Die Chatkontrolle ist ein Dammbruch. Die Technologie zum automatischen Mitlesen privater online-Kommunikation ist gefährlich. Denn sie kann spielend leicht auch für andere Zwecke entfremdet werden. In autoritären Staaten werden solche Filter zur Verfolgung und Inhaftierung unliebsamer Regierungsgegner*innen verwendet.  Für die Algorithmen macht es keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.
  

---

Warum die Nachrichten- und Chatkontrolle Kindern und Missbrauchsopfern besonders schadet

Die EU-Kommission argumentiert, dass die Chatkontrolle die Strafverfolgung von Kindesmissbrauch erleichtern soll. Das ist jedoch selbst unter Betroffenen von Missbrauch umstritten. Tatsächlich fügt das Vorhaben Opfern sexuellen Missbrauchs sowie Kindern und Jugendlichen im Allgemeinen am meisten Schaden zu:

1. Schutzräume werden zerstört. Gerade Betroffene sexualisierter Gewalt sind auf die Möglichkeit angewiesen, sicher und vertraulich kommunizieren zu können. Räume zum sicheren Austausch untereinander oder etwa mit Therapeut*innen und Anwält*innen helfen Betroffenen bei der Verarbeitung und dem Umgang mit ihren Erfahrungen. Diese sicheren Räume werden ihnen nun durch die Einführung von Echtzeitüberwachung genommen. Das kann Opfer davon abhalten, Hilfe und Unterstützung zu suchen.
2. Selbst aufgenommene Nacktaufnahmen von Minderjährigen (Sexting) geraten in die Hände von Unternehmensmitarbeitern und Polizei, wo sie nicht hingehören und nicht sicher sind.
3. Jugendliche werden überproportional kriminalisiert. Laut Kriminalstatistik sind fast 40% aller wegen Kinderpornografie von der Polizei verfolgten Personen Minderjährige.
4. Die Chatkontrollen dämmen den Austausch illegalen Materials nicht ein, sondern erschweren die Strafverfolgung von Kindesmissbrauch zusätzlich. Denn sie verdrängen kriminelle Täter in den Untergrund, wo sie kaum noch zu überwachen sind. Auch in offenen Kanälen haben die Kontrollen die Menge der weitergegebenen Darstellungen nicht eingedämmt, wie die von Jahr zu Jahr steigenden Zahlen an Verdachtsmeldungen belegen.

---

Alternativen zur Chatkontrolle

Ausbau der Kapazitäten der Strafverfolgung

Momentan sind die Kapazitäten der Strafverfolger so unzureichend, dass oft Monate und Jahre vergehen, bis Hinweisen nachgegangen und Daten ausgewertet sind. Bekanntes Material wird häufig lange weder gesichtet noch gelöscht. Die Hintermänner des Missbrauchs tauschen ihr Material nicht über Facebook und ähnliche Kanäle aus, sondern im Darknet. Um Produzenten von Missbrauchsmaterial aufzuspüren, muss verdeckte Polizeiarbeit stattfinden, statt die knappen Kapazitäten auf Massenverfahren zu verschwenden. Es ist außerdem unerlässlich, die verantwortlichen Ermittlungseinheiten personell und finanziell aufzustocken, damit gründliche und nachhaltige Ermittlungen über längere Zeiträume hinweg möglich sind. Auch müssen verlässliche Standards/Richtlinien für die polizeiliche Bearbeitung von Fällen sexuellen Missbrauchs erarbeitet und eingehalten werden.

Nicht nur Symptome bekämpfen, sondern die Ursache

Anstelle untauglicher Versuche Missbrauchsdarstellungen nachträglich wieder „einfangen“ zu wollen, muss alles daran gesetzt werden, dass solche Aufnahmen niemals entstehen und dass Missbrauch verhindert und gestoppt wird. Präventionskonzepte und Schulungen in Betreuungseinrichtungen spielen eine Schlüsselrolle, weil die allermeisten Missbrauchsfälle nie auch nur bekannt werden. Es fehlt auch den Opferschutzorganisationen meist eine stabile Finanzierung.

Schnelle und einfach verfügbare Hilfe für (potenzielle) Opfer

1. Verpflichtende Meldemechanismen bei Online-Diensten: Um die wirkungsvolle Prävention von Online-Missbrauch und insbesondere Grooming zu erreichen, sollten die Online-Dienste verpflichtet werden, Hinweis- und Meldefunktionen auf den Plattformen prominent zu platzieren. Wenn sich das Angebot an Jugendliche oder Kinder richtet und/oder von Jugendlichen und Kindern genutzt wird, sollten Anbieter auch verpflichtet sein, sie über die Risiken des Online-Groomings zu informieren.
2. Hotlines und Beratungsstellen: Viele nationale Hotlines, die sich mit Fällen von gemeldetem Missbrauchsmaterial befassen, haben mit finanziellen Problemen zu kämpfen. Hier muss unbedingt sicher gestellt werden, dass ausreichend Kapazität besteht, gemeldeten Fällen nachzugehen.

Verbesserung der Medienkompetenz

Die frühe Vermittlung von digitaler Kompetenz ist ein wesentlicher Bestandteil zum Schutz von Kindern und Jugendlichen online. Die Kinder selbst müssen über das Wissen und die Werkzeuge verfügen, sich im Internet sicher zu bewegen. Sie müssen darüber informiert werden, dass auch online Gefahren lauern und lernen, die Muster von Grooming zu erkennen und zu hinterfragen. Hierzu wären zum Beispiel gezielte Angebote in Schulen und Ausbildungsstätten sinnvoll, in denen geschultes Personal Wissen vermittelt und Diskussionen leitet.

Kinder müssen lernen, sich zu äußern, zu reagieren und Anzeige zu erstatten, selbst wenn der Missbrauch aus ihrem Vertrauensbereich kommt (d. h. von nahestehenden Personen oder anderen Personen, die sie kennen und denen sie vertrauen), was häufig der Fall ist. Sie müssen auch Zugang zu sicheren, zugänglichen und altersgerechten Kanälen haben, um Missbrauch ohne Angst melden zu können.

---

Dokumente zur Chatkontrolle

EP legislative observatory (Englisch) (regelmäßig aktualisiert)

Europäisches Parlament

• Verhandlungsmandat (14.11.2023)
• Änderungsanträge 277 – 544 (30. Mai 2023)
• Änderungsanträge 545 – 953 (30. Mai 2023)
• Änderungsanträge 954 – 1332 (30. Mai 2023)
• Änderungsanträge 1333 – 1718 (30. Mai 2023)
• Änderungsanträge 1719 – 1909 (30. Mai 2023)
• Berichtsentwurf des Berichterstatters (25. April 2023)
• Ergänzende Folgenabschätzung des wissenschaftlichen Dienstes des Europäischen Parlaments (Englisch) (April 2023)
• Briefing: Commission proposal on preventing and combating child sexual abuse: The Commission’s engagement with stakeholders (15. November 2023)

Rat der Europäischen Union (Ministerrat)

• Ratsdokumente (regelmäßig aktualisiert)
• Weisung zum AStV-2 am 18. Oktober 2023
• Unterrichtung Sitzung des AStV 2 am 13. Oktober 2023
• Unterrichtung Sitzung der RAG Strafverfolgung am 14. September 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 8. September 2023
• Unterrichtung der RAG Strafverfolgung vom 26. Juli 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 16. Juli 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 08. Juni 2023
• Öffentliche Sitzung des Rates Justiz und Inneres am mit Stellungnahmen der schwedischen Ratspräsidentschaft und Kommissarin Ylva Johansson am 08. Juni 2023
• Unterrichtung Sitzung der RAG Strafverfolgung am 12. Mai 2023
• Unterrichtung Sitzung der RAG Strafverfolgung am 27./28. April 2023
• Gemeinsamer Standpunkt der gleichgesinnten Gruppe der Mitgliedstaaten (Englisch) (27. April 2023)
• Unterrichtung Sitzung der RAG Strafverfolgung am 13. April 2023
• Stellungnahmen EU Regierungen zu Verschlüsselung (12. April 2023)
• Meinungsbild im Rat zu Artikel 12-15 (12. April 2023)
• Unterrichtung Sitzung der RAG Strafverfolgung am 29. März 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 23. März 2023
• Unterrichtung Sitzung der RAG Strafverfolgung am 16. März 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 15. März 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 8. März 2023
• Unterrichtung Sitzung der RAG Strafverfolgung – Polizei am 24. Februar 2023
• Kompromissvorschläge der Ratspräsidentschaft vom 16. Februar 2023
• Unterrichtung Sitzung der RAG Strafverfolgung (LEWP-P) am 19./20.01.2023
• Fortschrittsbericht des Rates (24. November 2022)
• Unterrichtung Sitzung der RAG Strafverfolgung (LEWP-P) am 24. November 2022
• Unterrichtung Sitzung der RAG Strafverfolgung (LEWP-P) am 3. November 2022
• Unterrichtung Sitzung der RAG Strafverfolgung (LEWP) am 20. Juli 2022
• Unterrichtung Sitzung der RAG Strafverfolgung – Polizei (LEWP-Police) am 22. Juni 2022
• Kompromissvorschläge der Ratspräsidentschaft vom 10. Oktober 2023

Europäische Kommission

• Non-paper Comments of the services of the Commission on some elements of the Draft Final Complementary Impact Assessment (Englisch) (17. Mai 2023)
• Briefing für Kommisarin Ylva Johansson für ein Treffen mit einen französischen Minister (27. September 2022)
• Öffentliche Konsultation (Englisch) (geschlossen am 12. September 2022), siehe auch diese Auswertung
• Non-paper Balancing children’s rights with user rights (Englisch) (16. Mai 2022)
• Verordnungsentwurf zur verpflichtenden Chatkontrolle und Folgenabschätzung (11. Mai 2022)
• Zweite Stellungnahme des Ausschuss für Regulierungskontrolle (Englisch)(28. März 2022)
  • Qualitätscheckliste für Stellungnahme des Ausschusses für Regierungskontrolle (Englisch) (06. November 2021)
• Geleakte Stellungnahme der Kommission löst Bestürzung aus über Massenüberwachung der privaten Kommunikation (23. März 2022)
• Antwort der EU Kommission auf einen parteiübergreifenden Brief gegen die geplante verpflichtende Chatkontrolle (9. März 2022)
• Stellungnahme Ausschuss für Regulierungskontrolle (Englisch) (15. Februar 2022)
• Technische Lösungen zur Durchleuchtung Ende-zu-Ende-verschlüsselter Kommunikation (September 2020)

Gutachten & Stellungnahmen

• Gutachten des Juristischen Dienstes des Ministerrats (26. April 2023)
• Stellungnahme des Bundesregierung (April 2023)
• Ergebnisbericht Erfolgsaussichten des Kommissionsvorschlags Universität Groningen (Englisch) (25.01.2021)
• Zusammenfassung der Stellungnahme des Kinderschutzbundes Bundesverband e.V. zur Öffentlichen Anhörung des Ausschusses für Digitales zur “Chatkontrolle” (1. März 2023)
• Zusammenfassung der Stellungnahme des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zur Öffentlichen Anhörung des Ausschusses für Digitales zur “Chatkontrolle” (1. März 2023)
• Zusammenfassung der Stellungnahme des Generalstaatsanwaltschaft Köln, Zentral- und Ansprechstelle Cybercrime (ZAC) zu der öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestags zur „Chatkontrolle”
• Briefing des Wissenschaftlicher Dienst des Europäischen Parlaments (Dezember 2022)
• Gutachten des wissenschaftlichen Dienstes des Bundestags zur Chatkontrolle(14. Oktober 2022)
• Stellungnahme Europäischer Wirtschafts- und Sozialausschuss (13. September 2022)
• Gemeinsame Stellungnahme EDPB und EDPS (Englisch) (28. Juli 2022)
• Stellungnahme Ausschuss für Regulierungskontrolle (Englisch) (15. Februar 2022)
• Antworten von Europol zu den Ermittlungsstatistiken in Bezug auf kinderpornografisches Material online (Englisch) (28. April 2021)
• Rechtsgutachten des ehemaligen EuGH-Richters Christopher Vajda KC (19. Oktober 2023)

Freiwillige Chatkontrolle

• 2021 Berichte zur freiwilligen Chatkontrolle von Meta, Twitter und Google
• Gesetz zur freiwilligen Chatkontrolle (Englisch) (21. Mai 2021)
• Rechtsgutachten zur Vereinbarkeit der Chatkontrolle mit der Rechtssprechung des EuGH (Englisch) (März 2021)
• Gutachten des Wissenschaftlichen Dienstes des Europaparlaments (EPRS) (Englisch) (05. Februar 2021)
• Antworten der EU-Kommission auf Fragen der Parlamentsabgeordneten (27. Oktober 2020)
• Antworten der EU-Kommission auf Fragen der Parlamentsabgeordneten (28. September 2020)
• Technische Lösungen zur Durchleuchtung Ende-zu-Ende-verschlüsselter Kommunikation (September 2020)

Kritische Stellungnahmen und Hintergrundartikel zur Nachrichtendurchleuchtung

• Zivilgesellschaft und Gewerkschaftsverbände: “European Commission: uphold privacy, security and free expression by withdrawing new law” (8. Juni 2022)
• Jeremy Malcolm: “How the War against Child Abuse Material was lost” (19. August 2020)

“Wir müssen bessere Lösungen für die Menschen schaffen, die sich dazu hingezogen fühlen.”

• UN-Ausschuss für die Rechte des Kindes, General comment No. 25 (2021):

“Jede digitale Überwachung von Kindern und jede damit verbundene automatisierte Verarbeitung personenbezogener Daten sollte das Recht des Kindes auf Privatsphäre respektieren und nicht routinemäßig, wahllos oder ohne das Wissen des Kindes durchgeführt werden…”

(eigene Übersetzung)

• European Digital Rights (EDRi): “Is surveilling children really protecting them? Our concerns on the interim CSAM regulation” (24. September 2020)

“[D]die Verordnung überträgt privaten Unternehmen die Verantwortung für eine Angelegenheit, die von öffentlichen Behörden erledigt werden sollte.”

• Civil Society Organisations: “Open Letter: Civil society views on defending privacy while preventing criminal acts” (27. Oktober 2020)

“Wir schlagen vor, dass die Kommission nicht-technischen Maßnahmen und der schnelleren Entfernung von anstößigen Websites den Vorrang vor clientseitiger Durchsuchung von Nachrichteninhalten einräumt“

• Europäischer Datenschutzbeauftragter: “Opinion on the proposal for temporary derogations from Directive 2002/58/EC for the purpose of combatting child sexual abuse online” (10. November 2020)

“Die in dem Vorschlag vorgesehenen Maßnahmen würden einen Eingriff in die Grundrechte auf Achtung des Privatlebens und den Datenschutz aller Nutzer sehr beliebter elektronischer Kommunikationsdienste, wie Instant-Messaging-Plattformen und -Anwendungen, darstellen. Die Vertraulichkeit der Kommunikation ist ein Eckpfeiler der Grundrechte auf Achtung des Privat- und Familienlebens. Selbst freiwillige Maßnahmen privater Unternehmen stellen einen Eingriff in diese Rechte dar, wenn die Maßnahmen die Überwachung und Analyse des Inhalts der Kommunikation und die Verarbeitung personenbezogener Daten beinhalten.”

• Gesellschaft für Informatik: Gegen Überwachung digitaler Kommunikation in Europa (08. November 2021)

“Mit der geplanten Regelung verstößt die EU-Kommission gegen die Grundrechte der Bürgerinnen und Bürger, die in der Europäische Grundrechtecharta (GRCh) garantiert werden: insbesondere Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Schutz personenbezogener Daten) und Artikel 11 (Meinungsäußerungsfreiheit und Informationsfreiheit) garantieren grundsätzlich vertrauliche Kommunikation. Eine derartige Überwachung legt auch die verschlüsselte und unverschlüsselte Kommunikation von Unternehmen, Behörden offen – ebenso von Medienschaffenden und ihren Informantinnen und Informanten.”

• Alexander Hanff (Victim of Child Abuse and Privacy Activist): “Why I don’t support privacy invasive measures to tackle child abuse.” (11. November 2020)

“Als Missbrauchsüberlebender bin ich (und Millionen anderer Überlebender auf der ganzen Welt) auf vertrauliche Kommunikation angewiesen, um Unterstützung zu finden und die Verbrechen gegen uns zu melden – unsere Rechte auf Privatsphäre und Vertraulichkeit zu beschneiden, bedeutet, uns weiteren Verletzungen auszusetzen, und offen gesagt, haben wir genug gelitten. […] es spielt keine Rolle, welche Schritte wir unternehmen, um Täter zu finden, es spielt keine Rolle, wie viele Freiheiten oder verfassungsmäßige Rechte wir zerstören, um diese Agenda zu erfüllen – es wird Kinder NICHT vor Missbrauch schützen, es wird den Missbrauch einfach weiter in den Untergrund treiben, es immer schwieriger machen, ihn zu entdecken und letztendlich dazu führen, dass mehr Kinder als Endergebnis missbraucht werden.”

• AccessNow: “The fundamental rights concerns at the heart of new EU online content rules” (19. November 2020)

“In der Praxis bedeutet dies, dass private Unternehmen mit einer Angelegenheit betraut würden, die eigentlich von öffentlichen Behörden behandelt werden sollte”

• Bundesrechtsanwaltskammer: “Stellungnahme zur Übergangsverordnung gegen Kindesmissbrauch im Internet” (24. November 2020)

“Sowohl hinsichtlich des Mandatsgeheimnisses als auch im Hinblick auf [die Rechte der Anwälte] erscheinen die mit den Vorschlägen der Kommission für Anwältinnen und Anwälte und […] für deren Mandantschaft einhergehenden Risiken besonders hoch. Denn die Bewertung von mit Kindesmissbrauch in Zusammenhang stehenden Sachverhalten gehört zum Aufgabenbereich der Anwaltschaft. Dementsprechend häufig wird die zwischen Anwälten und Mandanten ausgetauschten Kommunikation entsprechende Schlagwörter beinhalten. […] Nach den Vorschlägen der Kommission  [steht] zu befürchten, dass es in allen genannten Konstellationen aufgrund der unvermeidbaren Verwendung einschlägiger Begrifflichkeiten regelmäßig zu einem Bruch der Vertraulichkeit kommen wird. Ein solches Ergebnis wäre aus Gründen der Rechtsstaatlichkeit sowie zum Schutze der Rechte von Mandanten und Rechtsanwälten schlechterdings inakzeptabel. Die Vertraulichkeit der Kommunikation zwischen Anwälten und Mandanten muss in jedem Fall gewährleistet bleiben. Sie ist nicht verhandelbar.“

• Alexander Hanff (Victim of Child Abuse and Privacy Activist): “EU Parliament are about to pass a derogation which will result in the total surveillance of over 500M Europeans” (4. Dezember 2020)

“Ich hatte keine vertraulichen Kommunikationsmittel, als ich vergewaltigt wurde; meine gesamte Kommunikation wurde von meinen Tätern überwacht – es gab nichts, was ich tun konnte, es gab kein Vertrauen. […] Ich kann nicht umhin, mich zu fragen, wie viel anders mein Leben verlaufen wäre, wenn ich Zugang zu diesen modernen Technologien gehabt hätte. [Die geplante Abstimmung über die e-Privacy-Ausnahmeregelung] wird Missbrauch in den Untergrund treiben, was es viel schwieriger macht, ihn zu entdecken; es wird Selbsthilfegruppen daran hindern, Missbrauchsopfern zu helfen – ES WIRD LEBEN ZERSTÖREN.”

• Bundesdatenschutzbeauftragter: „BfDI kritisiert versäumte Umsetzung von EU Richtlinie“ (17. Dezember 2020)

„Eine flächendeckende und anlasslose Überwachung von digitalen Kommunikationskanälen ist weder zielführend noch erforderlich, um Online-Kindesmissbrauch aufzuspüren. Die Bekämpfung von sexualisierter Gewalt an Kindern muss mit zielgerichteten und konkreteren Maßnahmen angegangen werden. Die Ermittlungsarbeit ist Aufgabe der Strafverfolgungsbehörden und darf nicht auf private Betreiber von Messenger-Diensten ausgelagert werden.“

• European Digital Rights (EDRi): Wiretapping children’s private communications: Four sets of fundamental rights problems for children (and everyone else) (Englisch) (10. Februar 2021)

“Wie bei anderen Arten des Scannens von Inhalten (ob auf Plattformen wie YouTube oder in der privaten Kommunikation) schafft das ständige Scannen von allem und jedem ein enormes Risiko, zu einer Massenüberwachung zu führen, indem es den Test der Notwendigkeit und Verhältnismäßigkeit nicht besteht. Darüber hinaus entsteht ein Dammbruch, bei dem wir mit dem Scannen für weniger schädliche Fälle (Urheberrecht) beginnen und dann zu härteren Themen übergehen (sexueller Kindesmissbrauch, Terrorismus) und bevor wir wissen, was passiert ist, wird das ständige Scannen von allem zum neuen Normalzustand.”

• Deutscher Anwaltsverein (DAV): “Anlassloses Inhalte-Scannen ist unverhält­nismäßig” (8. März 2021)

“Der DAV spricht sich ausdrücklich dafür aus, die Vorbereitung und Begehung von sexuellem Kindesmissbrauch und deren Verbreitung über das Internet durch wirksame Maßnahmen auf europäischer Ebene zu bekämpfen. Die von der Kommission vorgeschlagene Übergangs-VO würde jedoch eklatant unverhältnismäßige Eingriffe in die Freiheitsgrundrechte von redlichen Nutzern internet-basierter Kommunikationsdienste ermöglichen. Darüber hinaus lässt der Verordnungsvorschlag hinreichende prozessuale Absicherungen für Betroffene vermissen. Das Gesetzesvorhaben ist daher insgesamt abzulehnen.”

• Schreiben der Präsidentin des Deutschen Anwaltvereins (DAV) und des Präsidents der Bundesrechtsanwaltskammer (BRAK)(8. März 2021)

“Positive Treffer mit nachfolgender Offenbarung gegenüber staatlichen und nichtstaatlichen Stellen würden neben Beschuldigten vor allem die Opfer sexuellen Kindesmissbrauchs zu befürchten haben. Dabei ist die absolute Vertraulichkeit der anwaltlichen Beratung gerade in diesen häufig mit Scham behafteten Sachverhalten im Interesse der Opfer unabdingbar. Die Entscheidungshoheit darüber, welche Mandatsinhalte gegenüber wem offenbart werden dürfen, muss gerade in diesen Fällen bei der Mandantschaft verbleiben. Es stünde sonst zu befürchten, dass Opfer sexuellen Kindesmissbrauchs keine anwaltliche Beratung in Anspruch nehmen.”

• Strategische Autonomie in Gefahr: Europäische Tech-Unternehmen warnen vor einer Absenkung des Datenschutzniveaus in der EU (Englisch) (15. April 2021)

“Im Zuge der Initiative “Fighting child sexual abuse: detection, removal, and reporting of illegal content” plant die Europäische Union die Abschaffung des digitalen Briefgeheimnisses. Um illegale Inhalte automatisch zu erkennen, sollen künftig alle privaten Chat-Nachrichten durchleuchtet werden. Dies soll auch für Inhalte gelten, die bisher mit einer starken Ende-zu-Ende-Verschlüsselung geschützt sind. Sollte diese Initiative nach dem jetzigen Plan umgesetzt werden, würde sie unseren europäischen Idealen und den unbestreitbaren Grundlagen unserer Demokratie, nämlich der Meinungsfreiheit und dem Schutz der Privatsphäre, enorm schaden […]. Die Initiative würde auch der strategischen Autonomie Europas und damit den in der EU ansässigen Unternehmen schwer schaden.”

• Auszug aus “Welt.de: Kriminalscanner auf jedem Smartphone – EU plant den großen Überwachungsangriff“ (4. November 2021)

Experten aus Polizei und Wissenschaft sehen das Vorhaben der EU eher kritisch: Sie fürchten einerseits viele falsche Anzeigen durch die Scanner, andererseits eine Alibi-Funktion des Gesetzes. Daniel Kretzschmar, Sprecher des Bundesvorstandes des Bundes Deutscher Kriminalbeamter, sagt, dass seinem Verband die Bekämpfung von Kindesmissbrauchsdarstellungen “enorm wichtig” ist. Trotzdem ist er skeptisch: Es könnten leicht Unverdächtige in den Fokus der Ermittlungen geraten. Gleichzeitig bedeute eine Privatisierung dieser Initiativermittlungen eine “Abhängigkeit der Strafverfolgung von diesen Unternehmen, die eigentlich staatliche und hoheitliche Aufgabe ist.”

Auch Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei in Brandenburg, sieht das EU-Vorhaben eher kritisch. “Am Ende wird es vermutlich vor allem wieder Minderjährige treffen”, sagte er WELT. Rüdiger verweist auf Zahlen aus der Kriminalitätsstatistik, wonach 43 Prozent der erfassten Straftaten im Bereich kinderpornographische Inhalte auf Kinder und Jugendliche selbst zurückgehen würden. Das ist etwa beim sogenannten “Sexting” und der “Schulhof-Pornografie” der Fall, wenn sich 13- und 14-Jährige anzügliche Bilder schicken.

Echte Täter, die man eigentlich erwischen wolle, würde man vermutlich eher nicht fassen. “Die sind sich nämlich ihrer Taten bewusst und weichen auf Alternativen aus. Vermutlich werden dann wieder vermehrt USB-Sticks und andere Datenträger genutzt”, so Rüdiger weiter.

• European Digital Rights (EDRi): Prinzipien von EDRi für Ausnahmen von der Datenschutzrichtlinie für elektronische Kommunikation zum Zweck der Entdeckung von online verbreiteten Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) (9. Februar 2022)

“Die automatische Durchsuchung der privaten Kommunikation eines jeden Menschen zu jeder Zeit stellt einen unverhältnismäßigen Eingriff in den Kern des Grundrechts auf Privatsphäre dar. Sie kann eine Form der undemokratischen Massenüberwachung darstellen und schwerwiegende und ungerechtfertigte Auswirkungen auch auf viele andere Grundrechte und Freiheiten haben.”

• European Digital Rights (EDRi): Geleakte Stellungnahme der Kommission löst Bestürzung aus über Massenüberwachung der privaten Kommunikation (23. Februar 2022)

“Im Vorfeld des offiziellen Gesetzentwurfs im Laufe dieses Jahres fordern wir alle EU-Kommissare auf, sich an ihre Verantwortung für die Menschenrechte zu erinnern und sicherzustellen, dass kein Vorschlag vorgelegt wird, der das Recht der Menschen auf Privatsphäre und den Grundpfeiler der demokratischen Gesellschaft in Frage stellt.”

• Council of European Professional Informatics Societies (CEPIS): Europe has a right to secure communication and effective encryption (März 2022)

“In the view of our experts, academics and IT professionals, all efforts to intercept and extensively monitor chat communication via client site scanning has a tremendous negative impact on the IT security of millions of European internet users and businesses. Therefore, a European right to secure communication and effective encryption for all must become a standard.”

• Chaos Computer Club: EU-Kommission will alle Chatnachrichten durchleuchten (9. Mai 2022)

“Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:

Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.

Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.”

(…)

“Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.”

• Kinderschutzbund gegen anlasslose Scans verschlüsselter Nachrichten (8. Mai 2022)

Es brauche „vor allem den Ausbau der personellen und technischen Ressourcen bei den Strafverfolgungsbehörden, mehr sichtbare Präsenz von Polizei im Netz, mehr staatliche Meldestellen sowie die Entkriminalisierung von der Verbreitung selbstgenerierten Materials unter Jugendlichen“.

• Deutsche Strafverfolger kritisieren die EU-Pläne hinter vorgehaltener Hand (12. Mai 2022)

die aktuellen Pläne würden nicht unbedingt dazu führen, mehr Pädokriminelle festzunehmen, erläutern mehrere langjährige Ermittler. Einer der Gründe: Zwar würde das Gesetz zu mehr Meldungen von Missbrauchsbildern führen, aber diese führten nicht automatisch zu mehr Ermittlungserfolgen. Die Strafverfolger hätten heute schon genug Datenpunkte. Das Problem sei, all die Fälle mit den vorhandenen Ressourcen abzuarbeiten und die besonders gefährlichen Täter zu finden. »Wir haben heute schon ein Heuhaufen-Problem. Die Masse der neuen Meldungen nach den EU-Plänen droht unsere Strafverfolgung eher lahmzulegen«, beschreibt es ein Ermittler.