Führende Wissenschaftler warnen: Neuer EU-Vorschlag zur Chatkontrolle bleibt hochriskant

Nachdem die Verpflichtung zur „Chatkontrolle” nach öffentlichem Protest aus dem EU-Gesetzentwurf gestrichen wurde, schien dies ein Erfolg für Datenschützer zu sein. Nun warnen jedoch 18 führende europäische Experten aus den Bereichen Cybersicherheit und Datenschutz eindringlich: Der aktuelle Vorschlag berge weiterhin „hohe Risiken für die Gesellschaft ohne klaren Nutzen für Kinder“.

Ihr offener Brief erscheint kurz bevor die EU-Ratsbotschafter den Vorschlag am 19. November billigen sollen. Eine Zustimmung würde die Position der EU-Regierungen festlegen und voraussichtlich im Dezember zur formellen Annahme führen – gefolgt von kontroversen Verhandlungen mit dem Europäischen Parlament im neuen Jahr.

Im Zentrum des Streits steht die Verordnung zur Bekämpfung des sexuellen Kindesmissbrauchs (CSAR). Nach breiten Protesten wurde die Pflicht zum Scannen privater Kommunikation aus dem Entwurf des EU-Rates gestrichen. Eine weitere Klarstellung vom 13. November bestätigte: „Diese Verordnung verpflichtet Anbieter nicht zur Aufdeckung.“

Dies bewertete der ehemalige Europaabgeordnete der Piratenpartei, Patrick Breyer, als Teilerfolg: „Wir haben die verpflichtende Chatkontrolle durch die Hintertür verhindert. Aber geplant sind weiter anonymitätszerstörende Alterskontrollen und ‚freiwillige‘ Massenscans. Der Kampf geht nächstes Jahr weiter!“

Cybersicherheitsexperten von Institutionen wie der ETH Zürich, der KU Leuven und dem Max-Planck-Institut bekräftigen nun diese Warnung und argumentieren, dass zwei Kernelemente des überarbeiteten Ratsvorschlags neue, inakzeptable Gefahren schaffen.

Kritikpunkte der Experten:

1. Fehleranfällige ‚freiwillige‘ KI-Chatkontrolle erzeugt Falschmeldungen
Anders als der vorherige Vorschlag weitet der neue Text das massenhafte Scannen privater Kommunikation auf automatisierte KI-basierte Textanalyse aus, um nach sexualisierter Ansprache von Kindern zu suchen. Die Experten warnen: Dies werde unschuldige Menschen erfassen. „Die aktuelle KI-Technologie ist bei weitem nicht präzise genug für diese Aufgaben.“

Der erweiterte Anwendungsbereich öffne „die Tür, um einen größeren Teil der Konversationen zu überwachen, ohne Garantie für besseren Kinderschutz.“ Es bestehe ein „hohes Risiko, den Schutz insgesamt zu verringern, indem Ermittler mit Falschbeschuldigungen überflutet werden und echte Fälle nicht mehr verfolgen können.“

2. Verpflichtende Alterskontrolle diskriminiert und verletzt die Privatsphäre
Der Ratsvorschlag würde zudem eine verpflichtende Altersüberprüfung und -einschätzung durch App-Stores und private Messenger- und E-Mail-Dienste einführen – angeblich unter Wahrung der Privatsphäre. Die Akademiker bezeichnen dies als gefährlich und undurchführbar: „Eine Alterseinschätzung ist mit der derzeitigen Technologie nicht datenschutzfreundlich möglich, da sie biometrische, verhaltensbezogene oder kontextuelle Informationen benötigt… Sie schafft Anreize für die Sammlung und Ausbeutung von (Kinder-)Daten. Wir kommen zu dem Schluss, dass die Alterseinschätzung ein unverhältnismäßiges Risiko schwerwiegender Datenschutzverletzungen und Diskriminierung birgt – ohne Garantie für die Wirksamkeit.“

Die Alternative – Alterskontrolle anhand amtlicher Dokumente – würde einen „erheblichen Teil der Bevölkerung“ von wesentlichen Online-Diensten ausschließen, insbesondere schutzbedürftige Personen ohne digitale Ausweise.

Besonders besorgniserregend: Alterskontrollen ließen sich leicht umgehen und könnten Kinder auf gefährlichere Plattformen drängen: „Kinder können auf Anbieter außerhalb der EU ausweichen oder VPNs nutzen… Dies kann zu höheren Risiken führen, da diese alternativen Dienste oft Sicherheitsrisiken (schwache oder fehlende Verschlüsselung) und umfangreiches Tracking aufweisen – manchmal zu bösartigen Zwecken.“

Ausblick:

Sollte der Rat die Warnungen der Akademiker nicht beherzigen, dürften Alterskontrollen und das „freiwillige“ massenhafte Scannen zum zentralen Streitpunkt in den Verhandlungen mit dem Europäischen Parlament im nächsten Jahr werden. Dessen Mandat zielt darauf ab, verpflichtende Alterskontrollen zu streichen und das Scannen auf Kommunikation von Tatverdächtigen zu beschränken. 

Auch Italien stellte letzte Woche in Frage, ob im Rahmen freiwilliger Chatkontrolle das Recht auf Privatsphäre der Nutzer ausreichend gewahrt werden könne. Die italienische Regierung befürchte, das Instrument könne auch auf andere Delikte ausgeweitet werden, daher habe man Schwierigkeiten, den Vorschlag zu unterstützen. Auch Polen behielt sich eine weitere Prüfung vor.

Über die Unterzeichner:
Der Brief wurde von 18 renommierten Professoren und Forschern für Cybersicherheit, Kryptographie und Datenschutz unterzeichnet, darunter der Universität Aarhus (Dänemark), der École Polytechnique (Frankreich), des CISPA Helmholtz-Zentrum für Informationssicherheit (Deutschland), der ETH Zürich (Schweiz) und der KU Leuven (Belgien).

Weiterführende Links:

Offener Brief der Wissenschaftler: https://csa-scientist-open-letter.org/Nov2025

Einschätzung von Patrick Breyer: https://www.patrick-breyer.de/beitraege/chatkontrolle/#rat