Change language: Deutsch

Chatkontrolle

🇫🇷 Französisch: Traduction du dossier Chat Control 2.0 
🇸🇪 Schwedisch: Chat Control 2.0
🇳🇱 Niederländisch: Chatcontrole

Die Abschaffung des Digitalen Briefgeheimnisses

Die EU will es Chat- und Messenger-Providern vorschreiben, private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Eine nie dagewesene Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.

Weitere Konsequenzen des Gesetzentwurfs zur Chatkontrolle sind unwirksame Netzsperren-Zensur, die Durchleuchtung persönlicher Cloudspeicher einschließlich privater Fotos, durch verpflichtende Altersüberprüfung das Ende anonymer Kommunikation, durch Appstore-Zensur das Ende sicherer Messengerapps und die Bevormundung Jugendlicher.

Freiwillige Chatkontrolle 1.0

Am 6. Juli 2021 hatte bereits eine Mehrheit der Abgeordneten des Europäische Parlaments dem freiwilligen Einsatz der Chatkontrolle zugestimmt (Chatkontrolle 1.0), wovon bisher nur unverschlüsselte US-Kommunikationsdienste wie GMail, Facebook/Instagram Messenger, Skype, Snapchat, iCloud E-Mail oder X-Box Gebrauch machen (Übersicht hier). Die EU hat 2024 eine Verlängerung der freiwilligen Chatkontrolle 1.0 um zwei Jahre beschlossen – siehe Zeitplan und Dokumente. Ein Missbrauchsbetroffener und der Piraten-Europaabgeordnete Patrick Breyer klagen gegen die eigenmächtige Chatkontrolle 1.0.

Verpflichtende Chatkontrolle 2.0 auf jedem Smartphone droht

Die Europäische Kommission hat am 11. Mai 2022 eine Folgeverordnung zum verpflichtenden Einsatz der Chatkontrolle durch alle Anbieter vorgestellt (Chatkontrolle 2.0). Infolge der künftig verpflichtenden Chatkontrolle erwartet die EU-Kommission einen Anstieg der Berichte aus Chatkontrollen um 354%. Eine öffentliche Konsultation der Kommission zu diesem Vorhaben hatte ergeben, dass die Mehrheit der Befragten Bürger:innen und Interessengruppen eine Verpflichtung zum Einsatz der verdachtslosen Nachrichten- und Chatkontrolle ablehnt. Über 80% der Befragten sprachen sich gegen die vorgesehene Anwendung auf Ende-zu-Ende verschlüsselte Kommunikation aus.

Das Parlament hat sich 2023 fast einstimmig gegen eine verdachtslose Chatkontrolle positioniert. Nachdem sich im EU-Rat die Befürworter und Gegner einer verpflichtenden Chatkontrolle unversöhnlich gegenüberstehen, hat eine gemeinsame Position bisher nicht die erforderliche Mehrheit gefunden. Immer wieder wird dies aber versucht.

Video: Kurz gesagt: Wie funktioniert die Chatkontrolle? Was bedeutet sie für Jugendliche?

Hilf jetzt mit die Chatkontrolle zu stoppen!

Die Chatkontrolle ist wieder auf der Tagesordnung der Regierungen der EU. Im Oktober 2024 ist es uns zuletzt gelungen die beispiellosen Pläne mit einer knappen „Sperrminorität“ der EU Regierungen aufzuhalten. Jetzt im Dezember wird ein neuer Anlauf unternommen: Die Botschafter sollen die Chatkontrolle bereits am 06.12.2024 beraten.

Zahlreiche Regierungen wie Frankreich, die sich früher gegen die Pläne gestellt hatten, haben ihren Widerstand bereits aufgegeben. Viele Regierungen wie die deutsche Bundesregierung, die immer noch kritisch zum Vorschlag stehen, melden nur noch geringfügigen Änderungsbedarf an (z.B. eine Ausnahme für Ende-zu-Ende-Verschlüsselung ), womit unsere private Kommunikation von den meisten Diensten immer noch massenhaft durchsucht und geleaked würde. Darum besteht jetzt aktuell die konkrete Gefahr, dass die benötigte Mehrheit für die massenhafte Durchleuchtung privater Kommunikation während der ungarischen Ratspräsidentschaft erreicht wird (Ungarn unterstützt den Vorschlag).

Deshalb müssen wir uns alle engagieren, unsere Stimmen gegenüber unseren Regierungen erheben und die Bevölkerung aufklären.

  • Regierungen, welche den Chatkontrolle-Vorschlag bisher unterstützt haben, müssen überzeugt werden ihre Position zu ändern
  • Sich kritisch verhaltende Regierungen müssen dazu gebracht werden, umfassende und nicht nur kleine Änderungen am Vorschlag zu fordern, so wie sie das Europäische Parlament fordert.

Dieser Blogartikel erklärt verschiedene Möglichkeiten, wie du aktiv werden kannst. Jede*r kann sich einbringen. Um uns erfolgreich gegen die Chatkontrolle zu wehren, müssen wir uns alle engagieren!

Auf dieser Karte (die du gerne online teilen kannst!) kannst du die Positionen der EU-Mitgliedstaaten zur Chatkontrolle Stand 23. September 2024 laut eines geleakten Berichts sehen mit einigen Aktualisierungen. Die Länder sind außerdem in der Tabelle unten aufgeführt.

Ist deine Regierung für die Chatkontrolle?
→ Verlange eine Erklärung und dass die Regierung ihren Kurs ändert.

Enthält sich deine Regierung?
→ Frage sie nach den Gründen und fordere, dass sie sich in Zukunft entschieden gegen die Chatkontrolle einsetzt.

Ist deine Regierung gegen die Chatkontrolle?
→ Prima, aber schau genaue hin: Einige Regierungen, wie z. B. die deutsche Bundesregierung, lehnen nur das Scannen verschlüsselter Kommunikation ab, sind aber mit dem anlasslosen Scannen anderer privater Kommunikation einverstanden, oder mit dem Ende anonymer Kommunikation durch verpflichtende Alterskontrollen, oder mit der Einführung eines Mindestalters für vermeintlich „riskante“ Messenger und Apps zur Kommunikation. Auch müssen Regierungen jetzt ihren Einfluss im Rat der EU besser geltend machen und sich mit anderen kritischen Staaten auf gemeinsame Forderungen verständigen und den Vorschlag damit grundlegend überarbeiten. Wenn diese Änderungen nicht umgesetzt werden, sollten die Regierungen von der Europäischen Kommission eine Rücknahme des Chatkontrolle-Vorschlags verlangen.

Wie deine Regierung zum aktuellen Chatkontrolle-Vorschlag steht

Für den VorschlagNicht für den VorschlagUnentschieden / unklar
BulgariaAustriaItaly
CroatiaBelgiumPortugal
CyprusCzech RepublicFinland
DenmarkEstonia
Germany
FranceLuxembourg
GreeceNetherlands
HungaryPoland
IrelandSlovenia
Latvia
Lithuania

Malta

Romania

Slovakia

Spain

Sweden
In dieser Tabelle kannst du die Positionen der EU-Mitgliedstaaten zur Chatkontrolle Stand 23. September 2024 sehen, bezüglich der Niederlande Stand 01.10.2024, bezüglich Finnland Stand 29.11.2024.

Die neun Länder, die sich kritisch äußern, würden knapp für eine Sperrminorität ausreichen, aber der Druck auf sie ist groß und kurzfristige Positionswechsel sind nicht unüblich.

Das kannst du tun

Es gibt Maßnahmen, die du sofort und kurzfristig ergreifen kannst, und solche, die mehr Vorbereitung erfordern. Für den Anfang:

  • Bitte deine Regierung, von der Europäischen Kommission die Rücknahme des Vorschlags zur Chatkontrolle zu fordern. Weise sie auf einen gemeinsamen Brief hin, der von Kinderrechts- und Digitalrechtsgruppen aus ganz Europa veröffentlicht wurde. Klicke hier, um den Brief und weitere Informationen zu finden. Klicke hier, um Argumente gegen die Chatkontrolle zu finden.
  • Aus Deutschland? Fordere die Bundesregierung dazu auf, die Chatkontrolle konsequent und vollständig abzulehnen und den eigenen Einfluss im Rat der EU zum Schutz unserer Grundrechte geltend zu machen.
  • Aus einem anderen Land als Deutschland? Überprüfe das Abstimmungsverhalten deiner Regierung (siehe oben) und bitte sie um eine Begründung, falls sie für oder gegen die Chatkontrolle gestimmt hat. Sage ihnen, dass du als Bürger*in willst, dass sie den Vorschlag ablehnen, dass die Chatkontrolle von vielen Expert*innen kritisiert wird und dass keiner der bisher im Rat der EU vorgelegten Vorschläge akzeptabel ist. Fordere sie auf, die Privatsphäre deiner Kommunikation und deine IT-Sicherheit zu schützen.
  • Teile diesen Aufruf zum Handeln online.

Die besten Anlaufstellen in deiner Regierung sind in der Regel das Innenministerium (federführend) und Ministerien für Justiz und für Digitalisierung / Telekommunikation / Wirtschaft. Außerdem gibt es für jedes Land eine Ständige Vertretung bei den EU-Institutionen. Die Kontaktdaten der Ständigen Vertretungen findest du, indem du hier klickst.

Es kann auch sehr helfen sich an die Abgeordneten in den nationalen Parlamenten zu wenden, da sie das Stimmverhalten ihres Landes festlegen können. Sprich deine politischen Vertreter*innen an. Ob es sich um die neu gewählten Abgeordneten des Europäischen Parlaments oder um lokale Gruppen der politischen Parteien handelt: Sie alle sollten erfahren, worum es bei der Chatkontrolle geht und dass du von der Politik erwartest, deine Grundrechte gegen den Chatkontrolle-Vorschlag zu verteidigen!

Tipp: Wenn du mit Politiker*innen in Kontakt treten willst, solltest du möglichst einen echten Brief schreiben, im Büro anrufen oder zu einer lokalen Parteiveranstaltung oder zu Öffnungszeiten des Büros gehen und dort ein persönliches Gespräch führen. Das hat eine noch größere Wirkung als eine E-Mail. Die Kontaktdaten findest du in der Regel auf den Websites der Politiker*innen und der Ortsgruppen der Parteien. Denk daran, dass du deinen Standpunkt entschlossen vertreten, dabei aber auch höflich bleiben solltest, da sie dir sonst nicht zuhören werden.

Hier findest du eine Argumentationshilfe zur Chatkontrolle. Und hier Erklärungen, warum die bisher von den Regierungen vorgesehenen Änderungen nicht ausreichen, um den Gefahren der Chatkontrolle entgegenzuwirken.

Während wir den Kampf gegen die Chatkontrolle fortführen, müssen wir den Widerstand noch weiter ausbauen:

  • Erklär deinen Bekannten, warum das ein wichtiges Thema ist. Dieses kurze Video, das in alle europäische Sprachen übersetzt wurde, kann ein hilfreicher Anfang sein. Du kannst es frei nutzen und teilen! Auch verfügbar auf YouTube und PeerTube.
  • Aktiv zu werden funktioniert besser und ist motivierender, wenn man zusammenarbeitet. Versuche also, Verbündete zu finden und Allianzen zu schmieden. Ob in einem lokalen Hackspace oder in einem Sportverein: Deine lokale Aktionsgruppe gegen Chatkontrolle kann überall an den Start gehen. Dann könnt ihr kreativ werden und überlegen, welche Art von Aktion am besten zu euch passt.

Werde jetzt aktiv. Der Widerstand gegen die Chatkontrolle sind wir alle!

Rede darüber! Erzähle anderen von den Gefahren der Chatkontrolle. Hier findest du Sharepics und Videos in allen Sprachen zum Teilen. Unten findest du weitere Bilder zum Teilen. Du kannst natürlich auch selbst Bilder und Videos erstellen.
Schaffe Aufmerksamkeit in den Sozialen Medien! Nutze dafür die Hashtags #Chatkontrolle und #digitalesBriefgeheimnis
Medienberichte anstoßen! Journalistinnen und Journalisten haben die Nachrichten- und Chatkontrolle bisher kaum aufgegriffen. Wende dich direkt an Medienunternehmen und bitte sie, darüber zu schreiben – online und offline.
Sprich mit deinen Anbietern! Vermeide Gmail, Facebook/Instagram Messenger, outlook.com, Snapchat und die Chatfunktion der X-Box, wo schon heute verdachtslos durchleuchtet wird. Frage deine E-Mail-, Messenger- und Chatanbieter, ob sie private Nachrichten verdachtslos nach verbotenen Inhalten durchsuchen oder dies planen.
Drucke und verteile Informationsflyer zur Chatkontrolle! Wir haben beispielsweise diesen Flyer erstellt, der druckfertig hier runtergeladen werden kann.

Sharepics und Info-Grafiken für dich zum Download und Teilen

(Rechtsklick auf ein Bild und wähle “Bild speichern unter…” aus)

Bildbeschreibungen

Visualisierung der Ergebnisse einer Studie. Links eine Lupe mit einem Smartphone in der Mitte. Umrundet mit einem Ring der zu 80% gefüllt ist. Rechts ein Textkasten mit dem Text: “80% der Minderjährigen sind gegen ein automatisiertes Scannen ihrer Nachrichten nach verdächtigen Inhalten”.

Visualisierung der Ergebnisse einer Studie. Links eine Lupe mit dem Text: “40% der Jugendlichen nutzen Kommunikations-Apps um legale intime Fotos von sich zu versenden”. In einer kleinerer Lupe rechts unten steht: “Mit der #Chatkontrolle leitet die K.I. diese Fotos direkt weiter an die EU”. Rechts auf dem Bild sind Line-Art Menschen zu sehen, die linken zwei mit Zensurbalken.

Visualisierung der Ergebnisse einer Studie. Links ist ein Textkasten: “87% der Jugendlichen würden sich unwohl fühlen ihre Sexualität zu erkunden oder politisch aktiv zu sein wenn Unternehmen oder die Polizei in der Lage wären, ihre digitalen Unterhaltungen zu überwachen.” Rechts davon eine Lupe im Hintergrund mit einem Lautsprecher in der Mitte.


Der Gesetzentwurf zur Chatkontrolle 2.0

Was konkret im Entwurf vorgesehen ist:

Chatkontrolle-Gesetzentwurf der EU-KommissionKonsequenzenPosition des EU-ParlamentsPosition des Rates (Entwurfsstand 2024)
Vorgesehen ist die Chatkontrolle, Netzsperren, verpflichtende Altersverifikation für Nachrichten und Chats, Altersverifikation und Ausschluss Minderjähriger von der Installation vieler Apps  keine Chatkontrolle, Netzsperren optional, keine verpflichtende Altersverifikation für Nachrichten und Chats, kein genereller Ausschluss Minderjähriger von der Installation vieler Apps wie Kommission
Alle Dienste, die normalerweise gegen Entgelt erbracht werden (einschließlich werbefinanzierter Dienste), fallen in den Anwendungsbereich, ohne Mindestgröße, Mindestnutzerzahl usw. Nur nicht-kommerzielle Dienste, die nicht werbefinanziert sind, wie z. B. vielfach Open-Source-Software, sind ausgenommenwie Kommissionwie Kommission
Auch außerhalb der EU niedergelassene Anbieter sind verpflichtet, die Verordnung umzusetzenSiehe Artikel 33wie Kommissionwie Kommission
Als Kommunikationsdienste betroffen sind u.a. Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen, auf Datingportalen usw.), VideokonferenzenNachrichten, Bilder, Videos und Sprachaufzeichnungen (z.B. Video-Meetings, Sprachnachichten, Telefonaten) müssten durchsucht werdenTelefonie ausgeschlossen, kein Scannen von Nachrichtentexten, betroffen sind E-Mail, Messenger, Chats, Videokonferenzenwie Parlament
Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommenDie Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen (client-side scanning) und ggf. unverschlüsselt ausleiten. Das zerstört das Vertrauen in sichere Verschlüsselung und erzwingt eine Hintertür, die eine Überwachung bisher sicher verschlüsselter Kommunikation auch für viele andere Zwecke ermöglicht.Ende-zu-Ende verschlüsselte Messenger sind ausgenommenwie Kommission
Als Hostingdienste betroffen sind u.a. Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und ClouddiensteAuch persönliche Speicher, die nicht geteilt werden, wie Apples iCloud sind betroffenwie Kommissionwie Kommission, zusätzlich Suchmaschinen
Zur verdachtslosen und flächendeckenden Durchsuchung des Inhalts persönlicher Kommunikation und gespeicherter Daten (Chatkontrolle) verpflichtet werden Dienste, die wahrscheinlich auch für sexuell ausbeutende Darstellungen oder zur Kontaktaufnahme mit Kindern/Jugendlichen genutzt werdenDa vermutlich jeder Dienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtetDurchsuchung nur mit richterlichem Beschluss und beschränkt auf Personen oder Personengruppen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehenwie Kommission.
Das Scannen wird auf Dienste mit “hohem Risiko” beschränkt, jedoch dürften im Grunde alle Dienste davon erfasst sein.
Der Nutzer kann das Scannen ablehnen, kann dann aber keinerlei Bilder, Videos oder Links mehr empfangen oder senden (“upload moderation”).
Accounts von Sicherheitsbehörden sollen nicht gescannt werden.
Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtetEs besteht kein Ermessenwie Kommissionwie Kommission.
Viereinhalb Jahre lang sollen Anbieter außerdem weiterhin freiwillig nach bekannten und unbekanntem Material sowie Anbahnungsversuchen scannen dürfen (Verlängerung der Chatkontrolle 1.0).
Bei der Chatkontrolle muss nach bekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigtDiese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 80% der Meldungen strafrechtlich irrelevant sind. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.wie Kommissionwie Kommission
Bei der Chatkontrolle muss auch nach unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigtMaschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. Der Entwurf erlaubt es Providern, Treffermeldungen ungeprüft an die Polizei weiterzugeben.wie Kommissionausgeschlossen (Vorschlag September 2024)
Bei der Chatkontrolle muss im Nachrichtentext maschinell nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht werden, verdächtige Nachrichten werden der Polizei angezeigtMaschinell nach Anbahnungsversuchen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen.ausgeschlossenausgeschlossen
Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfenIn der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, so dass eine anonyme Kommunikation per E-Mail, Messenger usw. verboten wird. Auf den Schutz der Anonymität sind Whistleblower, Menschenrechtsverteidiger und marginalisierte Gruppen angewiesen.keine verpflichtende Altersprüfungwie Kommission
Appstores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen unter 16 die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden könnenAllen Kommunikationsdienste wie Messenger, Datingapps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden (siehe Umfrage) und wären für Kinder/Jugendliche verboten. Und die Altersüberprüfung liefe auf eine Identifikationspflicht gegenüber Anbietern von Appstores heraus.Fordert die App eine Einwilligung in die Verarbeitung persönlicher Daten, müssen die großen Appstores (Google, Apple) vernünftige Anstrengungen unternehmen, um bei Jugendlichen bis 16 die Einwilligung der Eltern zu überprüfenwie Kommission
Internet-Zugangsanbieter müssen verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockierenNetzsperren sind technisch unwirksam und leicht zu umgehen, außerdem bauen sie eine technische Zensurinfrastruktur aufNetzsperren KÖNNEN von Gerichten verhängt werdenwie Kommission

Verhandlungsmandat des Europäischen Parlaments

Im November 2023 hat das Europäische Parlament fast einstimmig ein gemeinsames Verhandlungsmandat zum Gesetzentwurf beschlossen. Mit dem Europaabgeordneten der Piratenpartei Dr. Patrick Breyer saß der entschiedenste Gegner einer Chatkontrolle mit am Verhandlungstisch. Das Ergebnis: Das Parlament will dem extremen Entwurf der EU-Kommission folgende Giftzähne ziehen:

  1. Wir wollen das digitale Briefgeheimnis retten und die grundrechtswidrigen Pläne flächendeckender verdachtsloser Chatkontrollen stoppen. Auch die aktuelle freiwillige Chatkontrolle privater Nachrichten (nicht sozialer Netzwerke) durch US-Internetkonzerne soll auslaufen. Eine zielgerichtete Telekommunikationsüberwachung und -durchsuchung soll nur auf richterliche Anordnung und nur beschränkt auf Personen oder Personengruppen zugelassen, die im Verdacht stehen, mit Kinderpornografie und Missbrauchsdarstellungen in Verbindung zu stehen.
  2. Wir wollen das Vertrauen in sichere Ende-zu-Ende-Verschlüsselung retten. Das sogenannte client-side scanning, also den Einbau von Überwachungsfunktionen und Sicherheitslücken in unsere Smartphones, schließen wir klar aus.
  3. Wir wollen das Recht auf anonyme Kommunikation garantieren und eine Altersnachweispflicht für Benutzer von Kommunikationsdiensten ausschließen. Whistleblower könnten so weiterhin Missstände anonym leaken, ohne Ausweis oder Gesicht vorzeigen zu müssen.
  4. Löschen statt sperren: Netzsperren sollen nicht verhängt werden müssen. Auf keinen Fall sollen zulässige Inhalte als „Kollateralschaden“ mitgesperrt werden.
  5. Wir wollen keine App-Verbote für junge Menschen: Appstores sollen junge Menschen unter 16 nicht wie geplant ‘zu ihrem eigenen Schutz’’’ an der Installation von Messengerapps, sozialen Netzwerken und Spielen hindern müssen. Es bleibt bei der Datenschutz-Grundverordnung.

Junge Menschen und Missbrauchsopfer wollen wir viel wirksamer schützen als im Entwurf der EU-Kommission vorgesehen:

  1. Security by design: Um junge Menschen vor sexueller Ansprache und Ausbeutung zu schützen, sollen Internetdienste und Apps sicher ausgestaltet und voreingestellt werden. Es muss möglich sein, andere Nutzer zu blockieren und zu melden. Nur auf Wunsch des Nutzers soll dieser öffentlich ansprechbar sein und Nachrichten oder Bilder anderer Nutzer sehen. Vor dem Verschicken von Kontaktdaten oder Nacktbildern wird rückgefragt. Potenzielle Täter und Opfer werden bei konkretem Anlass gewarnt, beispielsweise wenn versucht wird anhand bestimmter Suchworte nach Missbrauchsmaterial zu suchen. Öffentliche Chats sind bei hohem Grooming-Risiko zu moderieren.
  2. Das Netz säubern: Um das Netz von Kinderpornografie und Missbrauchsdarstellungen zu säubern, soll das neue EU-Kinderschutzzentrum proaktiv öffentlich abrufbare Internetinhalte automatisiert nach bekannten Missbrauchsdarstellungen durchsuchen. Dieses Crawling ist auch im Darknet einsetzbar und dadurch effektiver als Privatüberwachungsmaßnahmen der Anbieter.
  3. Löschpflicht: Anbieter, die auf eindeutig illegales Material aufmerksam werden, sollen – anders als von der EU-Kommission vorgeschlagen – zur Löschung verpflichtet werden. Strafverfolger, die auf illegales Material aufmerksam werden, sollen dies dem Anbieter zur Löschung melden müssen. Damit reagieren wir auf den Fall der Darknetplattform Boystown, bei der schlimmstes Missbrauchsmaterial mit Wissen des Bundeskriminalamts monatelang weiter verbreitet wurde.

Achtung: Dies ist nur das Verhandlungsmandat des Parlaments, das sich normalerweise nur zum Teil durchsetzt. Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität). Sobald sich die EU-Regierungen im Rat verständigt haben, werden Parlament, Rat und Kommission die sogenannten Trilog-Verhandlungen über die endgültige Fassung der Verordnung aufnehmen.

Position der EU-Regierungen im Rat

Die meisten EU-Regierungen unterstützen weiterhin den ursprünglichen extremen Vorschlag der EU-Kommission ohne wesentliche Abstriche. Viele andere Regierungen verhindern aber eine solche Positionierung (sog. Sperrminorität), so dass eine Positionierung schon dreimal gescheitert ist. Zuletzt im Oktober 2024 war es uns gelungen die beispiellosen Pläne mit einer knappen „Sperrminorität“ der EU Regierungen aufzuhalten.

Im September 2024 hat die EU-Ratspräsidentschaft vorgeschlagen, den Einsatz „künstlicher Intelligenz“ zur Suche nach verdächtigen Bildern und Chats Messenger- und Chatanbietern freizustellen. Aber:

  • Die grundlegenden Probleme der Chat-Kontrolle werden dadurch nicht ausgeräumt, insbesondere die wahllose Massenüberwachung privater Kommunikation und das Ende sicherer Ende-zu-Ende-Verschlüsselung, die unsere Sicherheit gewährleistet
  • Der Juristische Dienst des Rates hat bekräftigt, dass auch der neueste Vorstoß wahrscheinlich das Grundrecht auf Privatsphäre verletzt
  • Meldungen vermeintlich bekannten illegalen Materials werden von den Strafverfolgungsbehörden oft als strafrechtlich nicht relevant aussortiert, weil z. B. unklar ist, ob die Teilnehmer vorsätzlich gehandelt haben, welches Alter die gezeigten Personen haben oder wegen Besonderheiten des nationalen Strafrechts (z. B. ob fiktionale Darstellungen oder Cartoons strafbar sind). Kein Algorithmus kann zuverlässig zwischen strafbar und nicht strafbar unterscheiden. Laut Meta, dem Absender der meisten Verdachtsmeldungen, wird in der EU derzeit nur nach bekanntem Material gescannt, und dennoch sind nach Angaben des Bundeskriminalamtes mindestens 50% der US-Verdachtsmeldungen nicht strafrechtlich relevant. EU-Innenkommissarin Johansson gab Ende 2023 zu, dass 75 % der NCMEC-Meldungen nicht von einer Qualität sind, mit der die Polizei arbeiten kann.
  • Die Suche nach der Weiterverbreitung bereits bekannten Materials wird keine Kinder vor laufendem Missbrauch schützen
  • Die massenhafte Verfolgung der Weiterverbreitung wird die benötigten Ressourcen zur Aufklärung von Missbrauch reduzieren

Position der Bundesregierung

Positiv:

  • Kein client-side scanning, d.h. Ende-zu-Ende-verschlüsselte Nachrichten sollen von der Nachrichten- und Chatkontrolle ausgenommen werden. Das betrifft Whatsapp, Signal, Threema.
  • Keine freiwillige, eigenmächtige Nachrichten- und Chatkontrolle durch die Anbieter ohne Anordnung mehr, wie zurzeit auf diversen US-Diensten wie Facebook/Instagram Messenger, Gmail, outlook.com praktiziert.
  • Kein Scannen von Audiokommunikation und Telefonanrufen.

Negativ:

  • Keine Ablehnung der server-seitigen Chatkontrolle jeglicher unverschlüsselter privater Nachrichten. Das betrifft E-Mails, Chats (z.B. Dating-Apps) und nicht Ende-zu-Ende-verschlüsselte Messenger wie Facebook Messenger, Instagram, Telegram.
  • Keine Ablehnung des server-seitigen Scannens privater Videoanrufe und privater Cloudspeicher, z.B. der Sicherungskopie des privaten Smartphones.
  • Keine Ablehnung unwirksamer Netzsperren.
  • Keine Ablehnung des Ausschlusses von Menschen unter 16 Jahren von der Installation von Apps mit Grooming-Risiko, also de facto allen Chat- und Messengerapps wie Whatsapp
  • Keine Ablehnung verpflichtender Altersverifikation, die anonyme Kommunikation de facto unmöglich macht.

Quelle

Videos zur Chatkontrolle sind in dieser Playlist hinterlegt.

Die Verhandlungen: Zeitschiene und Termine

2020: Die europäische Kommission schlägt ein zeitlich begrenztes Gesetz vor welches die Chatkontrolle erlaubt

Die Europäische Kommission hat 2020 ein Gesetz auf den Weg gebracht, das es erlaubt, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. Das heißt: Facebook Messenger, Gmail & Co dürfen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. Meldet ein Algorithmus einen Verdachtsfall, werden alle Nachrichteninhalte und Kontaktdaten automatisch und ohne menschliche Prüfung an eine private Verteilstelle und weiter an Polizeibehörden weltweit geleitet. Die Betroffenen sollen nie davon erfahren.

6. Juli 2021: Das europäische Parlament stimmt für die Einführung der Chatkontrolle

Das Europäische Parlament hat für die ePrivacy-Ausnahmeregelung gestimmt, die eine freiwillige Chat-Kontrolle für Messaging- und E-Mail-Anbieter ermöglicht. Infolgedessen führen einige US-amerikanische Anbieter von Diensten wie Gmail und Outlook.com bereits solche automatisierten Messaging- und Chat-Kontrollen durch.

9. Mai 2022: Mitglied des Europäischen Parlaments Patrick Breyer reicht eine Klage gegen das US-Unternehmen Meta ein

Nach einem Urteil des Europäischen Gerichtshofs ist die dauerhafte und flächendeckende automatisierte Analyse privater Kommunikation grundrechtswidrig und verboten (Abs. 177). Die ehemalige EuGH-Richterin, Prof. Dr. Ninon Colneric, kommt in ihrem Rechtsgutachten (englisch) zu dem Ergebnis, dass die EU-Gesetzesvorhaben zur Chatkontrolle nicht im Einklang mit der Rechtsprechung des Europäischen Gerichtshofs stehen und die Grundrechte aller EU-Bürger*innen auf Achtung der Privatsphäre, auf Datenschutz und auf freie Meinungsäußerung verletzen. Auch der Wissenschaftliche Dienst des Bundestags stellt fest: “Die latente Dauergefahr der Begehung von (auch schwerwiegenden) Straftaten dürfte daher zur Rechtfertigung einer ständigen und umfassenden automatisierten Analyse wohl nicht genügen.” Der Europaabgeordnete Patrick Breyer hat aus diesem Grund das US-Unternehmen Meta wegen der freiwillig praktizierten Chatkontrolle verklagt.

11. Mai 2022: Die Kommission stellt einen Gesetzesentwurf vor, der zur Chatkontrolle verpflichtet

Die EU-Kommission will mit einem zweiten Gesetz nun alle Anbieter zum Einsatz dieser Technologie verpflichten. Dabei zeigt eine im März 2021 durchgeführte Umfrage, dass die Mehrheit der EuropäerInnen den Einsatz der Chatkontrolle entschieden ablehnt. (Detaillierte Umfrageergebnisse hier)


Was hat das Ganze mit dir zu tun?

Nachrichten- und Chatkontrolle:

  • Alle deine Chats und E-Mails werden automatisch auf verdächtige Inhalte durchsucht. Nichts ist mehr vertraulich oder geheim. Kein Gericht muss diese Durchsuchung anordnen. Sie passiert immer und automatisch.
  • Falls die Maschinenprüfung anschlägt, werden deine privaten Fotos und Videos von Mitarbeitern von internationalen Konzernen und Polizeibehörden angesehen. Auch intime Nacktbilder von dir werden dann von unbekannten Menschen auf der ganzen Welt gesichtet, in deren Hände sie nicht sicher sind.
  • Flirts und Sexting werden mitgelesen, denn Texterkennungsfilter schlagen besonders häufig auf solche intimen Chats an.
  • Du kannst unschuldig in den Verdacht geraten, Material von Kindesmissbrauch zu verschicken. Denn die Bilderkennungsfilter sind bekannt dafür, dass sie auch auf völlig legale Urlaubsfotos mit Kindern am Strand anschlagen. 80% aller maschinell gemeldeten Verdachtsfälle erweisen sich als unbegründet, so die Schweizer Bundespolizei. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart. Knapp 40% aller in Deutschland wegen “Kinderpornografie” von der Polizei verfolgter Personen sind Minderjährige.

“Die Trefferquote ist dabei sehr tief: «2020 trafen bei uns rund 8000 Meldungen ein», sagt Fedpol-Sprecher Florian Näf. «Strafrechtlich relevant waren davon zirka 14 Prozent.»”

Quelle: Sonntagszeitung vom 14.03.2021, Seite 9
2021 waren 20% der Meldungen strafrechtlich relevant

“Und auch hierzulande bekommen die Ermittler von Google jede Menge falsche Alarmmeldungen aufgetischt, ergaben die Recherchen der WELT AM SONNTAG schon 2021: Laut Experten des Landeskriminalamts NRW lag die Fehlerquote in der Vergangenheit bei etwa 40 Prozent.”

Quelle: Die Welt, 23.08.2022
  • Bei deiner nächsten Auslandsreise könnten dich große Probleme erwarten. Verdachtsmeldungen werden unkontrollierbar an Staaten wie die USA, wo es keinerlei Datenschutz gibt, weitergeleitet – mit unabsehbaren Konsequenzen.
  • Geheimdienste und Hacker können einfacher Zugriff auf deine privaten Chats und E-Mails erhalten. Denn sobald sichere Verschlüsselung für den Einsatz der Chatkontrolle ausgehebelt wird, ist die Tür offen zum massenhaften Auslesen deiner Nachrichten durch jeden, der die technischen Mittel dazu hat.
  • Das ist nur der Anfang. Ist die Technologie zur Nachrichten- und Chatkontrolle einmal etabliert, kann sie spielend leicht auch für andere Zwecke eingesetzt werden. Und wer garantiert, dass die Verdächtigungsmaschinen künftig nicht auch unsere Smartphones und Laptops kontrollieren?

Altersprüfung und App-Verbot unter 16:

  • Du kannst nicht mehr anonym E-Mail- oder Messenger-Konten einrichten oder anonym chatten, ohne dich ausweisen oder dein Gesicht zeigen zu müssen, wodurch du identifizierbar wirst und Datenlecks riskierst. Dies verhindert zum Beispiel sensible Chats zum Thema Sexualität im Schutz der Anonymität, anonyme Pressekommunikation mit Quellen (z. B. Whistleblowern) sowie politische Aktivitäten.
  • Unter 16 Jahren wirst du aus dem Appstore beispielsweise folgende Apps nicht mehr installieren können (Begründung: Grooming-Gefahr): Messenger wie Whatsapp, Snapchat, Telegram oder Twitter, soziale Medien wie Instagram, TikTok oder Facebook, Spiele wie FIFA, Minecraft, GTA, Call of Duty, Roblox, Dating Apps, Videokonferenzen wie Zoom, Skype, Facetime.
  • Wenn du keinen Appstore nutzt, wird die Einhaltung des vom Anbieter festgesetzten Mindestalters überprüft werden. Wenn du nicht das von Whatsapp festgelegte Mindestalter von 16 Jahren erreichst, wirst du Whatsapp aufgrund der geplanten Altersverifizierung nicht mehr nutzen können; dasselbe gilt für die Onlinefunktionen des Spiels FIFA 23. Wenn du unter 13 Jahre alt bist, kannst du TikTok, Snapchat oder Instagram nicht mehr nutzen.

Weitere Argumente gegen die Chatkontrolle


Mythen entlarvt

Bei der erstmaligen Präsentation des Gesetzesentwurfs zur Chatkontrolle im Mai 2022 hatte die EU-Kommission das umstrittene Vorhaben mit verschiedenen Argumenten beworben. Im Folgenden werden diverse Behauptungen hinterfragt:

1. „Heutzutage werden Fotos und Videos, die den sexuellen Missbrauch von Kindern zeigen, im Internet massiv verbreitet. Im Jahr 2021 wurden beim US-amerikanischen National Centre for Missing and Exploited Children 29 Millionen Fälle gemeldet.“

Im Zusammenhang mit der Chatkontrolle ausschließlich von Darstellungen sexuellen Kindesmissbrauchs zu reden, ist irreführend. Bei sexuell ausbeutenden Darstellungen Minderjähriger (child sexual exploitation material, CSEM) handelt es sich zwar oft um Aufnahmen sexualisierter Gewalt an Minderjährigen (child sexual abuse material, CSAM). Eine internationale Arbeitsgruppe aus Kinderschutzinstitutionen weist aber darauf hin, dass zum strafbaren Material auch Aufnahmen sexueller Handlungen oder von Sexualorganen Minderjähriger zählen, bei denen keine Gewalt angewendet wird oder auch keine andere Person beteiligt ist. Auch in Alltagssituationen entstandene Aufnahmen werden genannt wie ein Familienbild eines Mädchens im Bikini oder nackt in den Stiefeln ihrer Mutter. Erfasst sind auch ohne Wissen der minderjährigen Person angefertigte oder weitergegebene Aufnahmen. Zu strafbarem CSEM zählen auch Comics, Zeichnungen, Manga/Anime und computergenerierte Darstellungen fiktionaler Minderjähriger. Schließlich gehören zu strafbaren Darstellungen auch selbst gemachte sexuelle Aufnahmen Minderjähriger etwa zur Weiterleitung an gleichaltrige Partner („Sexting“). Die Studie schlägt zur korrekten Umschreibung deshalb den Begriff „Darstellungen der sexualisierten Ausbeutung“ von Minderjährigen vor. Strafbar sind dabei gleichermaßen Aufnahmen von Kindern (bis 14 Jahre) und von Jugendlichen (bis 18 Jahre).

2. “Allein im Jahr 2021 wurden weltweit 85 Millionen Bilder und Videos von sexuellem Kindesmissbrauch gemeldet.”

Es kursieren viele irreführende Angaben darüber, wie das Ausmaß sexuell ausbeutender Darstellungen Minderjähriger (CSEM) beziffert werden kann. Die Zahl, mit der die EU-Kommission ihre Pläne verteidigt, stammt von der US-amerikanischen Nichtregierungsorganisation NCMEC (National Center for Missing and Exploited Children) und umfasst auch Duplikate, da CSEM mehrfach geteilt und oft nicht gelöscht wird. Ohne Duplikate verbleiben von den 85 Millionen gemeldeten Aufnahmen noch 22 Millionen einzigartige Aufnahmen.

75 Prozent aller NCMEC-Meldungen aus dem Jahr 2021 stammen von Meta (FB, Instagram, Whatsapp). Facebooks eigene interne Analyse besagt, dass “mehr als 90 Prozent von [CSEM auf Facebook im Jahr 2020] mit zuvor gemeldeten Inhalten identisch oder ihnen visuell ähnlich waren. Und Kopien von nur sechs Videos waren für mehr als die Hälfte der kinderausbeutenden Inhalte verantwortlich”. Die viel zitierten Zahlen des NCMEC beschreiben also nicht wirklich das Ausmaß der Aufnahmen von sexualisierter Gewalt gegen Kinder im Internet. Sie beschreiben vielmehr, wie oft Facebook Kopien von bereits bekannten Aufnahmen entdeckt. Auch das ist relevant.

Nicht alle einzigartigen Aufnahmen, die der NCMEC gemeldet werden, zeigen Gewalt gegen Kinder. Die 85 Millionen von NCMEC gemeldeten Darstellungen beinhalten zum Beispiel auch einvernehmliches Sexting. Die Anzahl von Missbrauchsdarstellungen, die NCMEC im Jahr 2021 gemeldet wurden, betrug 1,4 Millionen.

7% der weltweiten Verdachtsmeldungen von NCMEC gehen an die Europäische Union.

Darüber hinaus steigen selbst auf Facebook, wo die Chatkontrolle seit langem freiwillig eingesetzt wird, die Zahlen für die Verbreitung von missbräuchlichem Material immer weiter an. Die Chatkontrolle ist somit keine Lösung.

Quelle: https://netzpolitik.org/2022/ncmec-zahlen-erklaert-das-raunen-vom-millionenfachen-missbrauch/

3. “64% Anstieg der Berichte über bestätigten sexuellen Kindesmissbrauch im Jahr 2021 im Vergleich zum Vorjahr.“

Dass die Algorithmen zur freiwilligen Chatkontrolle großer US-Anbieter mehr CSEM gemeldet haben, lässt keinen Rückschluss darauf zu, wie sich die Menge an CSEM insgesamt entwickelt hat. Schon die Konfiguration der Algorithmen hat großen Einfluss auf die Zahl der Verdachtsmeldungen. Im Übrigen zeigt der Anstieg, dass sich die Zirkulation von CSEM mithilfe einer Chatkontrolle nicht in den Griff bekommen lässt.

4. “Europa ist die globale Drehscheibe für dem Großteil des Materials.”

7% der weltweiten Verdachtsmeldungen von NCMEC gehen an die Europäische Union. Im Übrigen melden europäische Strafverfolgungsbehörden wie Europol und BKA wissentlich Missbrauchsmaterial nicht den Speicherdiensten zur Entfernung, so dass die Menge des hier gespeicherten Materials nicht sinken kann.

5. “Eine von Europol unterstützte Untersuchung, die auf der Meldung eines Online-Diensteanbieters beruhte, führte zur Rettung von 146 Kindern weltweit, wobei über 100 Verdächtige in der gesamten EU identifiziert wurden.”

Der Bericht wurde von einem Anbieter von Cloud-Speichern und nicht von einem Kommunikationsdienstleister erstellt. Zur Durchleuchtung von Cloudspeichern ist es nicht notwendig, die Überwachung der Kommunikation aller Menschen vorzuschreiben. Wenn man die Täter von Online-Verbrechen im Zusammenhang mit Kindesmissbrauchsmaterial erwischen möchte, sollte man sogenannte Honeypots und andere Methoden verwenden, die nicht die Überwachung der Kommunikation der gesamten Bevölkerung erfordern.

6. „Die bestehenden Möglichkeiten zur Aufdeckung entsprechender Inhalte werden nicht mehr zur Verfügung stehen, wenn die gegenwärtige Übergangslösung ausläuft.“

Anbieter von Speicherdiensten (Filehoster, Clouds) und von sozialen Medien dürfen auch nach Auslaufen der ePrivacy-Ausnahmeverordnung weiter scannen. Für Anbieter von Kommunikationsdiensten könnte die Ausnahmeverordnung zur freiwilligen Chatkontrolle verlängert werden, ohne dass sämtliche Anbieter zur Durchsuchung verpflichtet werden müssten.

7. Metaphern: Die Chatkontrolle ist “wie ein Spam-Filter” / “wie ein Magnet, der nach einer Nadel im Heuhaufen sucht: der Magnet sieht das Heu nicht.” / “wie ein Polizeihund, der Briefe erschnüffelt: er hat keine Ahnung, was drin ist”. Der Inhalt Ihrer Kommunikation wird von niemandem eingesehen, wenn es keinen Treffer gibt. “Die Erkennung zu Zwecken der Cybersicherheit findet bereits statt, wie z. B. die Erkennung von Links in WhatsApp” oder Spam-Filtern.

Malware- und Spamfilter geben den Inhalt privater Kommunikation nicht an Dritte weiter und führen nicht dazu, dass unschuldige Menschen angezeigt werden. Sie führen nicht zur Löschung oder langfristigen Sperrung von Profilen in sozialen Medien oder von Online-Diensten.

8. “Was die Erkennung neues Missbrauchsmaterials im Netz betrifft, so liegt die Trefferquote deutlich über 90 %. … Einige der bestehenden Technologien zur Erkennung von Grooming (wie die von Microsoft) haben eine “Genauigkeitsrate” von 88%, vor der menschlichen Überprüfung.”

Bei der unüberschaubaren Anzahl von Nachrichten führt selbst eine geringe Fehlerquote zu unzähligen Falschmeldungen, die die Zahl der richtigen Meldungen bei weitem übersteigen können. Selbst bei einer Trefferquote von 99 % würde dies bedeuten, dass von den 100 Milliarden Nachrichten, die täglich allein über Whatsapp verschickt werden, 1 Milliarde (d. h. 1.000.000.000) falsch positive Meldungen überprüft werden müssten. Und das jeden Tag und nur auf einer einzigen Plattform. Der “menschliche Überprüfungsaufwand” für die Strafverfolgungsbehörden wäre immens, während der Rückstau und die Überlastung der Ressourcen bereits gegen sie arbeiten.

Unabhängig davon hat eine FOI-Anfrage des ehemaligen Europaabgeordneten Felix Reda die Tatsache aufgedeckt, dass diese Behauptungen über die Genauigkeit von der Industrie stammen – von denjenigen, die ein persönliches Interesse an diesen Behauptungen haben, weil sie Ihnen die Erkennungstechnologie verkaufen wollen (Thorn, Microsoft). Sie weigern sich, ihre Technologie einer unabhängigen Prüfung zu unterziehen, und wir sollten ihre Behauptungen nicht für bare Münze nehmen.

Die Bewertung der EU von Instrumenten zur Aufdeckung von Kindesmissbrauch basiert lediglich auf Industrieangaben, die für bare Münze genommen werden.

Weitere entlarvten Mythen und Argumentationshilfen hat D64 Zentrum für Digitalen Fortschritt zusammengestellt und kann man hier finden.


Weiterführende Informationen und Argumente gegen die Nachrichten- und Chatkontrolle

Massenüberwachung ist der falsche Weg im Kampf gegen “Kinderpornografie” und sexuell ausbeutende Darstellungen

  • Das Scannen privater Nachrichten und Chats dämmt die Verbreitung ausbeutender Darstellungen nicht ein. Facebook beispielsweise praktiziert die Chatkontrolle seit Jahren und die Zahl der “Treffermeldungen” und automatisierten Strafanzeigen steigt von Jahr zu Jahr an auf zuletzt 22 Millionen im Jahr 2021.
  • Die verpflichtende Chatkontrolle trifft die Täter, die Kindesmissbrauch aufnehmen und weitergeben, nicht. Missbrauchstäter tauschen ihr Material nicht über kommerzielle E-Mail-, Messenger- oder Chatdienste, sondern organisieren sich über selbst betriebene geheime Foren, ohne Scanner zu installieren. Bilder und Videos laden Missbrauchstäter außerdem typischerweise als verschlüsselte Archive hoch und teilen nur die Links und Passwörter. Chatkontrolle-Algorithmen erkennen weder verschlüsselte Archive noch Links wieder.
  • Der richtige Weg wäre die Löschung bekannter Speicherorte ausbeutender Darstellungen im Netz. Weder Bundeskriminalamt noch Europol melden aber bekanntes Missbrauchsmaterial den Speicherdiensten.
  • Chatkontrolle schadet der Verfolgung von Kindesmissbrauch, weil sie Ermittler millionenfach mit Computermeldungen überlastet, die zum Großteil strafrechtlich irrelevant sind.

Nachrichten- und Chatkontrolle schadet allen

  • Alle Bürgerinnen und Bürger werden ohne Anlass unter Verdacht gestellt, Straftaten zu begehen. Die Text- und Bilderkennungsfilter werten unterschiedslos alle Nachrichten aus – unabhängig davon, ob ein konkreter Verdacht vorliegt oder nicht. Kein Richter muss dieser Durchsuchung zustimmen – ganz im Gegensatz zur analogen Welt, in der das Briefgeheimnis und damit die Vertraulichkeit der schriftlichen Kommunikation gewährleistet ist. Laut der Rechtsprechung des Europäischen Gerichtshofes ist eine permanente und verdachtslose automatische Auswertung privater Kommunikation grundrechtswidrig (Rechtssache C-511/18, Abs. 192). Die EU will die Gesetze trotzdem verabschieden. Sie vor Gericht zu stoppen kann Jahre dauern. Deswegen müssen die Gesetze bereits jetzt verhindert werden!
  • Die Vertraulichkeit privater Kommunikation wird nachhaltig zerstört. Nutzerinnen und Nutzer von Messenger-Diensten und E-Mail müssen davon ausgehen, dass alle ihre Nachrichten künftig in Echtzeit mitgelesen und ausgewertet werden. Sensible Bild- und Textinhalte können an unbekannte Personen weltweit vollautomatisiert weitergeleitet werden und in falsche Hände geraten. Es sind bereits Fälle bekannt geworden, in denen die Mitarbeiter von US-Behördenabgefangene Nacktbilder von Nutzer*innen in Umlauf gebracht haben. Auch Konzernmitarbeiter haben bereits Kinderdaten missbraucht.
  • Die Chatkontrolle zeigt Tausende zu Unrecht an. Nach Angaben der Schweizer Bundespolizei sind 80% der maschinell angezeigten Inhalte nicht strafbar, etwa Urlaubsfotos am Strand mit nackten Kindern. Auch in Irland wurden nur 20% der im Jahr 2020 eingegangenen NCMEC-Meldungen als tatsächliche “Kinderpornografie” (“CSAM”) bestätigt. In Deutschland liegt der prozentuale Anteil der Meldungen, die letztlich in Ermittlungsverfahren münden, über die Jahre relativ konstant im einstelligen Bereich (unter 10%). Größtenteils werden Unschuldige verdächtigt und teils intime Nacktfotos oder Chats offenbart.
  • Sicher verschlüsselte Kommunikation ist in Gefahr. Denn verschlüsselte Nachrichten können bisher nicht von den Algorithmen erfasst werden. Um die Chatkontrolle für jede Online-Kommunikation zu ermöglichen, müssen Hintertüren eingebaut werden. Sobald das geschieht, kann diese Sicherheitslücke von jeder und jedem, der oder die die technischen Mittel dazu hat, ausgenutzt werden. Private Kommunikation, aber auch Geschäftsgeheimnisse und sensible Regierungsinformationen, wären Angriffen ab dann schutzlos ausgesetzt. Sichere Verschlüsselung schützt Minderheiten, LGBTQI-Personen, Demokratieaktivisten, Journalisten usw.
  • Strafverfolgung wird privatisiert. Denn in Zukunft entscheiden die Algorithmen von Unternehmen wie Facebook, Google und Microsoft, welche Inhalte als verdächtig eingestuft werden und welche nicht. Dabei geht es nicht nur um Bilder, sondern auch bestimmte Wort-Kombinationen, die den Chatfiltern verdächtig erscheinen. Eine Transparenzpflicht über die Algorithmen ist nicht vorgesehen. In einem Rechtsstaat gehört die Ermittlung von Straftaten aber in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
  • Die Chatkontrolle ist ein Dammbruch. Die Technologie zum automatischen Mitlesen privater online-Kommunikation ist gefährlich. Denn sie kann spielend leicht auch für andere Zwecke entfremdet werden. In autoritären Staaten werden solche Filter zur Verfolgung und Inhaftierung unliebsamer Regierungsgegner*innen verwendet.  Für die Algorithmen macht es keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.

Warum die Nachrichten- und Chatkontrolle Kindern und Missbrauchsopfern besonders schadet

Die EU-Kommission argumentiert, dass die Chatkontrolle die Strafverfolgung von Kindesmissbrauch erleichtern soll. Das ist jedoch selbst unter Betroffenen von Missbrauch umstritten. Tatsächlich fügt das Vorhaben Opfern sexuellen Missbrauchs sowie Kindern und Jugendlichen im Allgemeinen am meisten Schaden zu:

  1. Schutzräume werden zerstört. Gerade Betroffene sexualisierter Gewalt sind auf die Möglichkeit angewiesen, sicher und vertraulich kommunizieren zu können. Räume zum sicheren Austausch untereinander oder etwa mit Therapeut*innen und Anwält*innen helfen Betroffenen bei der Verarbeitung und dem Umgang mit ihren Erfahrungen. Diese sicheren Räume werden ihnen nun durch die Einführung von Echtzeitüberwachung genommen. Das kann Opfer davon abhalten, Hilfe und Unterstützung zu suchen.
  2. Selbst aufgenommene Nacktaufnahmen von Minderjährigen (Sexting) geraten in die Hände von Unternehmensmitarbeitern und Polizei, wo sie nicht hingehören und nicht sicher sind.
  3. Jugendliche werden überproportional kriminalisiert. Laut Kriminalstatistik sind fast 40% aller wegen Kinderpornografie von der Polizei verfolgten Personen Minderjährige.
  4. Die Chatkontrollen dämmen den Austausch illegalen Materials nicht ein, sondern erschweren die Strafverfolgung von Kindesmissbrauch zusätzlich. Denn sie verdrängen kriminelle Täter in den Untergrund, wo sie kaum noch zu überwachen sind. Ermittler berichten, sie seien derart ausgelastet mit der Auswertung der NCMEC-Meldungen, dass für die Mitarbeit an Aufdeckung großer Kinderpornografie-Ringe keine Kapazitäten mehr vorhanden seien. Auch in offenen Kanälen haben die Kontrollen die Menge der weitergegebenen Darstellungen nicht eingedämmt, wie die von Jahr zu Jahr steigenden Zahlen an Verdachtsmeldungen belegen.

Video: Chatkontrolle – Es ist noch nicht vorbei. Vortrag auf dem Chaos Computer Congress am 29.12.2023 mit Patrick Breyer, khaleesi (CCC) und Ulrich Kelber (Bundesdatenschutzbeauftragter)


Alternativen zur Chatkontrolle

Ausbau der Kapazitäten der Strafverfolgung

Momentan sind die Kapazitäten der Strafverfolger so unzureichend, dass oft Monate und Jahre vergehen, bis Hinweisen nachgegangen und Daten ausgewertet sind. Bekanntes Material wird häufig lange weder gesichtet noch gelöscht. Die Hintermänner des Missbrauchs tauschen ihr Material nicht über Facebook und ähnliche Kanäle aus, sondern im Darknet. Um Produzenten von Missbrauchsmaterial aufzuspüren, muss verdeckte Polizeiarbeit stattfinden, statt die knappen Kapazitäten auf Massenverfahren zu verschwenden. Es ist außerdem unerlässlich, die verantwortlichen Ermittlungseinheiten personell und finanziell aufzustocken, damit gründliche und nachhaltige Ermittlungen über längere Zeiträume hinweg möglich sind. Auch müssen verlässliche Standards/Richtlinien für die polizeiliche Bearbeitung von Fällen sexuellen Missbrauchs erarbeitet und eingehalten werden.

Nicht nur Symptome bekämpfen, sondern die Ursache

Anstelle untauglicher Versuche Missbrauchsdarstellungen nachträglich wieder „einfangen“ zu wollen, muss alles daran gesetzt werden, dass solche Aufnahmen niemals entstehen und dass Missbrauch verhindert und gestoppt wird. Präventionskonzepte und Schulungen in Betreuungseinrichtungen spielen eine Schlüsselrolle, weil die allermeisten Missbrauchsfälle nie auch nur bekannt werden. Es fehlt auch den Opferschutzorganisationen meist eine stabile Finanzierung.

Schnelle und einfach verfügbare Hilfe für (potenzielle) Opfer

  1. Verpflichtende Meldemechanismen bei Online-Diensten: Um die wirkungsvolle Prävention von Online-Missbrauch und insbesondere Grooming zu erreichen, sollten die Online-Dienste verpflichtet werden, Hinweis- und Meldefunktionen auf den Plattformen prominent zu platzieren. Wenn sich das Angebot an Jugendliche oder Kinder richtet und/oder von Jugendlichen und Kindern genutzt wird, sollten Anbieter auch verpflichtet sein, sie über die Risiken des Online-Groomings zu informieren.
  2. Hotlines und Beratungsstellen: Viele nationale Hotlines, die sich mit Fällen von gemeldetem Missbrauchsmaterial befassen, haben mit finanziellen Problemen zu kämpfen. Hier muss unbedingt sicher gestellt werden, dass ausreichend Kapazität besteht, gemeldeten Fällen nachzugehen.

Verbesserung der Medienkompetenz

Die frühe Vermittlung von digitaler Kompetenz ist ein wesentlicher Bestandteil zum Schutz von Kindern und Jugendlichen online. Die Kinder selbst müssen über das Wissen und die Werkzeuge verfügen, sich im Internet sicher zu bewegen. Sie müssen darüber informiert werden, dass auch online Gefahren lauern und lernen, die Muster von Grooming zu erkennen und zu hinterfragen. Hierzu wären zum Beispiel gezielte Angebote in Schulen und Ausbildungsstätten sinnvoll, in denen geschultes Personal Wissen vermittelt und Diskussionen leitet.

Kinder müssen lernen, sich zu äußern, zu reagieren und Anzeige zu erstatten, selbst wenn der Missbrauch aus ihrem Vertrauensbereich kommt (d. h. von nahestehenden Personen oder anderen Personen, die sie kennen und denen sie vertrauen), was häufig der Fall ist. Sie müssen auch Zugang zu sicheren, zugänglichen und altersgerechten Kanälen haben, um Missbrauch ohne Angst melden zu können.


Dokumente zur Chatkontrolle 2.0

EP legislative observatory (Englisch) (regelmäßig aktualisiert)

Europäisches Parlament

Rat der Europäischen Union (Ministerrat)

Europäische Kommission

Gutachten & Stellungnahmen

Dokumente zur freiwilligen Chatkontrolle 1.0

Kritische Stellungnahmen und Hintergrundartikel zur Nachrichtendurchleuchtung

“Wir müssen bessere Lösungen für die Menschen schaffen, die sich dazu hingezogen fühlen.”

“Jede digitale Überwachung von Kindern und jede damit verbundene automatisierte Verarbeitung personenbezogener Daten sollte das Recht des Kindes auf Privatsphäre respektieren und nicht routinemäßig, wahllos oder ohne das Wissen des Kindes durchgeführt werden…”

(eigene Übersetzung)

“[D]die Verordnung überträgt privaten Unternehmen die Verantwortung für eine Angelegenheit, die von öffentlichen Behörden erledigt werden sollte.”

“Wir schlagen vor, dass die Kommission nicht-technischen Maßnahmen und der schnelleren Entfernung von anstößigen Websites den Vorrang vor clientseitiger Durchsuchung von Nachrichteninhalten einräumt“

“Die in dem Vorschlag vorgesehenen Maßnahmen würden einen Eingriff in die Grundrechte auf Achtung des Privatlebens und den Datenschutz aller Nutzer sehr beliebter elektronischer Kommunikationsdienste, wie Instant-Messaging-Plattformen und -Anwendungen, darstellen. Die Vertraulichkeit der Kommunikation ist ein Eckpfeiler der Grundrechte auf Achtung des Privat- und Familienlebens. Selbst freiwillige Maßnahmen privater Unternehmen stellen einen Eingriff in diese Rechte dar, wenn die Maßnahmen die Überwachung und Analyse des Inhalts der Kommunikation und die Verarbeitung personenbezogener Daten beinhalten.”

“Mit der geplanten Regelung verstößt die EU-Kommission gegen die Grundrechte der Bürgerinnen und Bürger, die in der Europäische Grundrechtecharta (GRCh) garantiert werden: insbesondere Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Schutz personenbezogener Daten) und Artikel 11 (Meinungsäußerungsfreiheit und Informationsfreiheit) garantieren grundsätzlich vertrauliche Kommunikation. Eine derartige Überwachung legt auch die verschlüsselte und unverschlüsselte Kommunikation von Unternehmen, Behörden offen – ebenso von Medienschaffenden und ihren Informantinnen und Informanten.”

“Als Missbrauchsüberlebender bin ich (und Millionen anderer Überlebender auf der ganzen Welt) auf vertrauliche Kommunikation angewiesen, um Unterstützung zu finden und die Verbrechen gegen uns zu melden – unsere Rechte auf Privatsphäre und Vertraulichkeit zu beschneiden, bedeutet, uns weiteren Verletzungen auszusetzen, und offen gesagt, haben wir genug gelitten. […] es spielt keine Rolle, welche Schritte wir unternehmen, um Täter zu finden, es spielt keine Rolle, wie viele Freiheiten oder verfassungsmäßige Rechte wir zerstören, um diese Agenda zu erfüllen – es wird Kinder NICHT vor Missbrauch schützen, es wird den Missbrauch einfach weiter in den Untergrund treiben, es immer schwieriger machen, ihn zu entdecken und letztendlich dazu führen, dass mehr Kinder als Endergebnis missbraucht werden.”

“In der Praxis bedeutet dies, dass private Unternehmen mit einer Angelegenheit betraut würden, die eigentlich von öffentlichen Behörden behandelt werden sollte”

“Sowohl hinsichtlich des Mandatsgeheimnisses als auch im Hinblick auf [die Rechte der Anwälte] erscheinen die mit den Vorschlägen der Kommission für Anwältinnen und Anwälte und […] für deren Mandantschaft einhergehenden Risiken besonders hoch. Denn die Bewertung von mit Kindesmissbrauch in Zusammenhang stehenden Sachverhalten gehört zum Aufgabenbereich der Anwaltschaft. Dementsprechend häufig wird die zwischen Anwälten und Mandanten ausgetauschten Kommunikation entsprechende Schlagwörter beinhalten. […] Nach den Vorschlägen der Kommission  [steht] zu befürchten, dass es in allen genannten Konstellationen aufgrund der unvermeidbaren Verwendung einschlägiger Begrifflichkeiten regelmäßig zu einem Bruch der Vertraulichkeit kommen wird. Ein solches Ergebnis wäre aus Gründen der Rechtsstaatlichkeit sowie zum Schutze der Rechte von Mandanten und Rechtsanwälten schlechterdings inakzeptabel. Die Vertraulichkeit der Kommunikation zwischen Anwälten und Mandanten muss in jedem Fall gewährleistet bleiben. Sie ist nicht verhandelbar.“

“Ich hatte keine vertraulichen Kommunikationsmittel, als ich vergewaltigt wurde; meine gesamte Kommunikation wurde von meinen Tätern überwacht – es gab nichts, was ich tun konnte, es gab kein Vertrauen. […] Ich kann nicht umhin, mich zu fragen, wie viel anders mein Leben verlaufen wäre, wenn ich Zugang zu diesen modernen Technologien gehabt hätte. [Die geplante Abstimmung über die e-Privacy-Ausnahmeregelung] wird Missbrauch in den Untergrund treiben, was es viel schwieriger macht, ihn zu entdecken; es wird Selbsthilfegruppen daran hindern, Missbrauchsopfern zu helfen – ES WIRD LEBEN ZERSTÖREN.”

„Eine flächendeckende und anlasslose Überwachung von digitalen Kommunikationskanälen ist weder zielführend noch erforderlich, um Online-Kindesmissbrauch aufzuspüren. Die Bekämpfung von sexualisierter Gewalt an Kindern muss mit zielgerichteten und konkreteren Maßnahmen angegangen werden. Die Ermittlungsarbeit ist Aufgabe der Strafverfolgungsbehörden und darf nicht auf private Betreiber von Messenger-Diensten ausgelagert werden.“

“Wie bei anderen Arten des Scannens von Inhalten (ob auf Plattformen wie YouTube oder in der privaten Kommunikation) schafft das ständige Scannen von allem und jedem ein enormes Risiko, zu einer Massenüberwachung zu führen, indem es den Test der Notwendigkeit und Verhältnismäßigkeit nicht besteht. Darüber hinaus entsteht ein Dammbruch, bei dem wir mit dem Scannen für weniger schädliche Fälle (Urheberrecht) beginnen und dann zu härteren Themen übergehen (sexueller Kindesmissbrauch, Terrorismus) und bevor wir wissen, was passiert ist, wird das ständige Scannen von allem zum neuen Normalzustand.”

“Der DAV spricht sich ausdrücklich dafür aus, die Vorbereitung und Begehung von sexuellem Kindesmissbrauch und deren Verbreitung über das Internet durch wirksame Maßnahmen auf europäischer Ebene zu bekämpfen. Die von der Kommission vorgeschlagene Übergangs-VO würde jedoch eklatant unverhältnismäßige Eingriffe in die Freiheitsgrundrechte von redlichen Nutzern internet-basierter Kommunikationsdienste ermöglichen. Darüber hinaus lässt der Verordnungsvorschlag hinreichende prozessuale Absicherungen für Betroffene vermissen. Das Gesetzesvorhaben ist daher insgesamt abzulehnen.”

“Positive Treffer mit nachfolgender Offenbarung gegenüber staatlichen und nichtstaatlichen Stellen würden neben Beschuldigten vor allem die Opfer sexuellen Kindesmissbrauchs zu befürchten haben. Dabei ist die absolute Vertraulichkeit der anwaltlichen Beratung gerade in diesen häufig mit Scham behafteten Sachverhalten im Interesse der Opfer unabdingbar. Die Entscheidungshoheit darüber, welche Mandatsinhalte gegenüber wem offenbart werden dürfen, muss gerade in diesen Fällen bei der Mandantschaft verbleiben. Es stünde sonst zu befürchten, dass Opfer sexuellen Kindesmissbrauchs keine anwaltliche Beratung in Anspruch nehmen.”

“Im Zuge der Initiative “Fighting child sexual abuse: detection, removal, and reporting of illegal content” plant die Europäische Union die Abschaffung des digitalen Briefgeheimnisses. Um illegale Inhalte automatisch zu erkennen, sollen künftig alle privaten Chat-Nachrichten durchleuchtet werden. Dies soll auch für Inhalte gelten, die bisher mit einer starken Ende-zu-Ende-Verschlüsselung geschützt sind. Sollte diese Initiative nach dem jetzigen Plan umgesetzt werden, würde sie unseren europäischen Idealen und den unbestreitbaren Grundlagen unserer Demokratie, nämlich der Meinungsfreiheit und dem Schutz der Privatsphäre, enorm schaden […]. Die Initiative würde auch der strategischen Autonomie Europas und damit den in der EU ansässigen Unternehmen schwer schaden.”

Experten aus Polizei und Wissenschaft sehen das Vorhaben der EU eher kritisch: Sie fürchten einerseits viele falsche Anzeigen durch die Scanner, andererseits eine Alibi-Funktion des Gesetzes. Daniel Kretzschmar, Sprecher des Bundesvorstandes des Bundes Deutscher Kriminalbeamter, sagt, dass seinem Verband die Bekämpfung von Kindesmissbrauchsdarstellungen “enorm wichtig” ist. Trotzdem ist er skeptisch: Es könnten leicht Unverdächtige in den Fokus der Ermittlungen geraten. Gleichzeitig bedeute eine Privatisierung dieser Initiativermittlungen eine “Abhängigkeit der Strafverfolgung von diesen Unternehmen, die eigentlich staatliche und hoheitliche Aufgabe ist.”

Auch Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei in Brandenburg, sieht das EU-Vorhaben eher kritisch. “Am Ende wird es vermutlich vor allem wieder Minderjährige treffen”, sagte er WELT. Rüdiger verweist auf Zahlen aus der Kriminalitätsstatistik, wonach 43 Prozent der erfassten Straftaten im Bereich kinderpornographische Inhalte auf Kinder und Jugendliche selbst zurückgehen würden. Das ist etwa beim sogenannten “Sexting” und der “Schulhof-Pornografie” der Fall, wenn sich 13- und 14-Jährige anzügliche Bilder schicken.

Echte Täter, die man eigentlich erwischen wolle, würde man vermutlich eher nicht fassen. “Die sind sich nämlich ihrer Taten bewusst und weichen auf Alternativen aus. Vermutlich werden dann wieder vermehrt USB-Sticks und andere Datenträger genutzt”, so Rüdiger weiter.

“Die automatische Durchsuchung der privaten Kommunikation eines jeden Menschen zu jeder Zeit stellt einen unverhältnismäßigen Eingriff in den Kern des Grundrechts auf Privatsphäre dar. Sie kann eine Form der undemokratischen Massenüberwachung darstellen und schwerwiegende und ungerechtfertigte Auswirkungen auch auf viele andere Grundrechte und Freiheiten haben.”

“Im Vorfeld des offiziellen Gesetzentwurfs im Laufe dieses Jahres fordern wir alle EU-Kommissare auf, sich an ihre Verantwortung für die Menschenrechte zu erinnern und sicherzustellen, dass kein Vorschlag vorgelegt wird, der das Recht der Menschen auf Privatsphäre und den Grundpfeiler der demokratischen Gesellschaft in Frage stellt.”

“In the view of our experts, academics and IT professionals, all efforts to intercept and extensively monitor chat communication via client site scanning has a tremendous negative impact on the IT security of millions of European internet users and businesses. Therefore, a European right to secure communication and effective encryption for all must become a standard.”

“Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:

Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.

Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.”

(…)

“Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.”

Es brauche „vor allem den Ausbau der personellen und technischen Ressourcen bei den Strafverfolgungsbehörden, mehr sichtbare Präsenz von Polizei im Netz, mehr staatliche Meldestellen sowie die Entkriminalisierung von der Verbreitung selbstgenerierten Materials unter Jugendlichen“.

die aktuellen Pläne würden nicht unbedingt dazu führen, mehr Pädokriminelle festzunehmen, erläutern mehrere langjährige Ermittler. Einer der Gründe: Zwar würde das Gesetz zu mehr Meldungen von Missbrauchsbildern führen, aber diese führten nicht automatisch zu mehr Ermittlungserfolgen. Die Strafverfolger hätten heute schon genug Datenpunkte. Das Problem sei, all die Fälle mit den vorhandenen Ressourcen abzuarbeiten und die besonders gefährlichen Täter zu finden. »Wir haben heute schon ein Heuhaufen-Problem. Die Masse der neuen Meldungen nach den EU-Plänen droht unsere Strafverfolgung eher lahmzulegen«, beschreibt es ein Ermittler.