»Chatkontrolle«

Die EU will künftig Messengerdienste wie Whatsapp und Signal dazu verpflichten, Inhalte der Nutzer nach potenziell illegalen Inhalten zu durchsuchen. Datenschützer schlagen Alarm und sagen das Ende der Privatsphäre im Internet voraus.

Brüssel, 18. Mai 2022 | Um stärker gegen kinderpornografische Inhalte im Internet vorzugehen, präsentierte die EU-Kommission vergangenen Mittwoch einen Gesetzesvorschlag, der vor allem bei Datenschützern alle Alarmglocken schrillen ließ.

Messenger und Plattformen sollen Inhalte scannen

Konkret könnten den Plänen zufolge unter anderem nationale Behörden per Anordnung Plattformen wie Facebook, Whatsapp und Signal dazu verpflichten, Anzeichen für sexuellen Missbrauch an Kindern online zu erkennen, zu melden und zu entfernen. Was für eine Technologie dabei zum Einsatz kommen soll, ist nicht definiert. Sie dürfte aber keine anderen Informationen extrahieren können sollen als die, die auf die Verbreitung von Missbrauchsmaterial hindeuten, heißt es in dem Vorschlag.

Neben bereits gemeldeten und neu produzierten Missbrauchsdarstellungen steht dabei auch entsprechende Kontaktaufnahme mit Kindern (“Grooming”) im Fokus. Die Täter sollen so künftig schneller gefasst werden.

Experte: “Das Schrecklichste, das ich je gesehen habe”

Und genau beim Erkennen von “Grooming” liege die Gefahr, meint der renommierte Informatiker an der John Hopkins Universität, Matthew Green, in einem Twitter-Beitrag. Dass die Kommission nicht nur nach Bildmaterial, sondern auch die Anbahnungsversuche im Text von Nachrichten ins Visier nehmen will, würde den Weg hin zu einer Massenüberwachung ebnen. Er bezeichnet es als „Science Fiction“, dass eine „Künstliche Intelligenz“ Nachrichten treffsicher auf solche Inhalte scannen könne und dabei die Privatsphäre der Betroffenen wahre. Das Dokument der EU sei “das Schrecklichste, das er je gesehen habe”, schreibt Green weiter.

This document is the most terrifying thing I’ve ever seen. It is proposing a new mass surveillance system that will read private text messages, not to detect CSAM, but to detect “grooming”. Read for yourself. pic.twitter.com/iYkRccq9ZP

— Matthew Green is on BlueSky (@matthew_d_green) May 10, 2022

Auch dass auf die genaue Technologie, mit der Nachrichten künftig gescannt werden sollen, im Gesetzesvorschlag nicht eingegangen wird, kritisieren Datenschützer. Das Vorgehen könnte Strafverfolgungsbehörden eine Hintertür zum Zugriff auf verschlüsselte Nachrichten öffnen. Auch könnte direkt auf den Geräten der Nutzer nach verdächtigem Material gesucht werden (sogenanntes Client-Side-Scanning).

Technologie “enorm fehleranfällig”

Die Technologie zur Erkennung dieser illegalen Inhalte “existiert aktuell nicht und bisherige Versuche sind enorm fehleranfällig. Die automatisierte Durchsuchung aller Nutzerinhalte verstößt gegen das Grundrecht auf Privatsphäre und das Briefgeheimnis”, befindet auch die Grundrechtsplattform epicenter.works. Mit diesem Schritt könne sich niemand mehr auf die Vertraulichkeit seiner elektronischen Kommunikation verlassen.

Man müsse davon ausgehen, dass oft auch vollkommen legale, intime Inhalte, die zwei Personen miteinander austauschen, an die Behörden gemeldet werden könnten, so Thomas Lohninger, Executive Director von epicenter.works gegenüber Ö1. Das beträfe auch Berufsgruppen wie etwa Journalisten, Whistleblower oder Rechtsanwälte, die einer besonders geschützten Vertraulichkeit unterliegen und in ihrer Kommunikation dadurch gefährdet würden.

Das ist mit Abstand das schlimmste Überwachungsgesetz der EU-Kommission seit der Vorratsdatenspeicherung. Uploadfilter sollen in allen Hosting- und Messengerdiensten Einzug halten. Dieser Gesetzesvorschlag wäre das Ende von Privatsphäre und Briefgeheimnis im Internet! https://t.co/fas4SwXsAf

— Thomas Lohninger (@socialhack) May 10, 2022

“Unverhältnismäßig” und “nicht zielführend”

Dass die EU-Pläne nicht nur Datenexperten zu weit gehen, zeigen auch Reaktionen aus anderen Bereichen. Der Deutsche Journalisten-Verband sieht im Vorhaben die „größte europäische Datenüberwachung aller Zeiten“ und fürchtet massive Eingriffe in Grundrechte wie die Presse- und Meinungsfreiheit. Auch der deutsche Kinderschutzbund ist der Meinung, dass das Scannen von privaten Nachrichten “unverhältnismäßig” und “nicht zielführend” für die Bekämpfung von Kinderpornografie und Kindesmissbrauch sei, da der Großteil von Kindesmissbrauchsinhalten über Plattformen und Foren geteilt werde.

Große Bedenken hegt auch eine österreichische Oppositionspartei. NEOS-Datenschutzsprecher Niki Scherak warnte vor der Umsetzung: “Das geplante Vorgehen stellt alle Internetnutzer unter Generalverdacht und gefährdet die freie Kommunikation und die Privatsphäre aller.” Zudem würde die Verantwortung auf private Unternehmen abgewälzt, wo der Staat in der Pflicht sei.  Auch der EU-Delegationsleiter der SPÖ, Andreas Schieder, übte Kritik am geplanten Vorgehen.

(mst)

Titelbild: APA Picturedesk