von Robert B. Fishman
Hier mein Radiobeitrag zum Thema im WDR5 Medienmagazin Texte, Töne, Bilder:
Mit einer neuen Verordnung will die EU-Kommission die Verbreitung von Kinderpornografie im Internet eindämmen. Provider wie die Video-Plattform Tiktok, Messengerdienste wie Telegram und Signal oder Meta für Facebook, Whatsapp und Instagram sollen mit einer Künstlichen Intelligenz Inhalte scannen, die Nutzer hochladen und Bilder und Videos von Kindesmissbrauch löschen. 13 Kinderschutz-Organisationen haben eine Petition für die neue Verordnung gestartet. Doch Datenschützer protestieren. Das Europäische Parlament will in den kommenden Wochen über den Vorschlag der EU-Kommission vom Mai 2022 abstimmen.
In einem Büro des Polizeipräsidiums Bielefeld sitzt Michael Giezek an seinem Schreibtisch. Der Kriminalhauptkommissar blickt kurz vom Bildschirm auf. „Die Bilder geben schon ein ziemlich heftiges Geschehen wieder“, sagt er nach kurzem Zögern. Giezek, etwa Anfang 50, ermittelt gegen Verbreiter von Kinderpornografie. Die Frage nach dem Krassesten, was er bisher gesehen hat, mag er nicht beantworten. Dann nennt er ein aktuelles Ermittlungsverfahren, das auch in der Lokalpresse Schlagzeilen gemacht hat: Vater und Mutter haben gemeinsam ihre kleinen Zwillingstöchter missbraucht und die Bilder davon ins Netz gestellt. Über Details will der Polizist nicht sprechen.
Bilder kaum zu ertragen
Um solche Aufnahmen aushalten zu können, tausche er sich mit den Kollegen aus. Außerdem biete die Polizei Supervisionen an. „Zuhause kann man nicht erzählen was man hier sieht“, sagt Giezek. „Das kann sich niemand vorstellen.“
Am Landeskriminalamt Nordrhein-Westfalen in Düsseldorf leitet Sven Schneider die zentrale Auswertungs- und Sammelstelle zur Bekämpfung von Kindesmissbrauchs-Abbildungen. Auch er berichtet von „horrenden Datenmengen, die für die Ermittler sehr belastend sind“.
Schneider outet sich als „Fan“ der geplanten EU-Verordnung zur Bekämpfung von Kindesmissbrauchs-Darstellungen im Internet.
EU Zentrum zur Bekämpfung von Kinderpornografie
Nach der geplanten „Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“ sollen Diensteanbieter wie Facebooks Mutterkonzern Meta ein „Risikomanagement“ gegen die Verbreitung von Kinderpornografie einführen. Mit künstlicher Intelligenz sollen sie Inhalte, die Nutzer hochladen, auf Darstellungen von Kindesmissbrauch scannen. Treffer müssen sie dann löschen und anzeigen. Die EU will ein Zentrum einrichten, an das Kinderpornografie im Netz gemeldet werden soll. Das Zentrum leitet die Meldungen dann an die nationalen Strafverfolger weiter.
Schneider sieht darin ein „mehrstufiges Verfahren, das Falschmeldungen aussortiert, bevor die Polizei bei Unschuldigen vor der Tür steht.“
„Einfallstor für die totale Überwachung im Netz“
Der Datenschutz-Verein Digitalcourage befürchtet dagegen ein „Einfallstor für die Total-Überwachung im Internet“. Die Diensteanbieter wie Meta (Facebook, Instagram, WhatsApp) würden die Daten schon auf den Rechnern der Nutzer auslesen, bevor diese hochgeladen und von den jeweiligen Programmen verschlüsselt würden. So entstünden zusätzliche Sicherheitslücken auf den Geräten, die auch auch Kriminellen den Zugriff auf private Kommunikation erleichtern. Digitalcourage-Experte Konstantin Macher sieht Geschäftsgeheimnisse in Gefahr, ebenso die Kommunikation der Anwälte mit ihren Mandanten oder zwischen Medienschaffenden und ihren Informanten. Schnell würden außerdem Strafverfolgungsbehörden dann diese Technik auch für die Ermittlungen wegen anderer Delikte nutzen. Die Privatsphäre der Nutzer würde immer weiter durchlöchert.
Auch andere Fachleute befürchten hier ein Einfallstor für kriminelle Hacker. So warnt IT-Sicherheitsexperte Matthew Daniel Green von der John-Hopkins-Universität in den USA, dass Kriminelle Gesichtserkennungs -und andere Schad-Software auf Handy platzieren könnten, bevor die zu versendenden Nachrichten verschlüsselt wird. Auch bestehe die Gefahr, dass die für die Ermittlung gegen Kinderpornografie eingesetzte Software später für andere Zwecke genutzt werden könne.
Gerichte haben anlasslose Überwachung verboten
Digitalcourage stützt seine Kritik auch auf Urteile des Bundesverfassungsgerichts und des Europäischen Gerichtshofs EuGH. Beide haben die anlasslose, verdachtsunabhängige Überwachung von Online-Kommunikation für rechtswidrig erklärt. Chats, Mails und andere Online-Aktivitäten dürften die Behörden nur kontrollieren, wenn gegen die Beteiligten ein konkreter Verdacht auf kriminelle Handlungen vorliege.
Außerdem kritisiert Macher die hohe Fehlerquote der Künstlichen Intelligenz: „Die Kommission selber hat in der Vergangenheit eingeräumt, dass sie über zehn Prozent Fehlerquote in Kauf nehmen würde“, sagt er.
zu viele falsche Alarme
Das würde bedeuten, „dass bei Milliarden Nachrichten, die per WhatsApp und Co tagtäglich verschickt werden, immer und immer wieder zu Unrecht Menschen dieser Verbrechen verdächtigt werden.“ Als Beispiel nennt er einen Fall in den USA, wo es kaum Datenschutzregeln gibt. Dort habe ein Mann seinem Arzt Bilder von seinem an den Genitalien erkrankten Kind geschickt. Der Internet-Provider meldete die Aufnahmen, wie in den USA üblich, dem Nationalen Zentrum für vermisste und ausgebeutete Kinder NCMEC (National Center for Missing and Exploited Children). Dieses leitete die Meldung an die Polizei weiter. Folge: Polizisten durchsuchten das Haus des Mannes, beschlagnahmten seine Rechner und veranlasste unter anderem Google, ihm seine sämtlichen Online- und Cloud-Zugänge zu sperren.
Hash-Verfahren genauer
Andere gehen davon aus, dass die künstliche Intelligenz Kinderpornografie im Netz weitgehend fehlerfrei erkennt. Alexander Schmitt-Geiger von der PR-Agentur Communication Public Affairs in München wirbt im Auftrag einer Schweizer Stiftung für die neue EU-Verordnung gegen die Verbreitung von Kinderpornografie. Er hofft wie andere auf das Hash-Verfahren: Bilder, die nachweislich sexuellen Kindesmissbrauch zeigen, werden in einen eindeutigen, digitalen Code, einen „Hash“ aus 144 Ziffern, umgewandelt. Dieser wird in einer Datenbank gespeichert. Wird ein fragwürdiges Bild oder Video digital weitergegeben oder im Netz geteilt, kann man dessen Hash generieren und mit den Codes in der Datenbank vergleichen. Nur nach einem solchen Treffer beginnt die Suche nach den Urhebern und Verbreitern. Die Genauigkeit dieses Verfahrens gibt Schmitt-Geiger mit 99,9 Prozent an.
In Deutschland lösen bisher die Meldungen des National Center for Missing and Exploited Children zwischen 60 und 80 Prozent der Ermittlungsverfahren aus. Findet das NCMEC kinderpornografisches Material auf deutschen Servern, meldet es diese an das Bundeskriminalamt, welches die Aufnahmen prüft und sie bei einem Anfangsverdacht auf eine Straftat an die Strafverfolgungsbehörden schickt.
Digitalcourage und andere Kritiker der europäischen Neuregelung befürchten nun, dass die Polizei mit Falschmeldungen überschwemmt und so von ihrer eigentlichen Arbeit abgehalten würde.
Diese Gefahr sieht Sven Schneider vom Landeskriminalamt NRW eher nicht: Mehrere Instanzen prüften die verdächtigen Bilder und Videos, bevor gegen die Urheber oder Verbreiter ermittelt wird. So sei es unwahrscheinlich, dass Menschen zu Unrecht der Verbreitung von Kindesmissbrauchs-Bildern verdächtigt würden.
KI als Spürhund
Schneider sieht hier keine Chat-Kontrolle oder Überwachung. Der LKA-Mann vergleicht das Verfahren mit einem Sprengstoff-Spürhund, der am Flughafen neben dem Gepäckband sitzt: „Der bellt, wenn er Sprengstoff riecht. Erst dann öffnet die Polizei den Koffer.“
Ohne künstliche Intelligenz sieht Schneider keine Chance für Polizei und Staatsanwaltschaften, die Menge an Kinderpornografie im Internet zu bewältigen. „So viele Polizistinnen und Polizisten können wir gar nicht einstellen.“
Noch ist offen, ob und wie die von der EU-Kommission vorgeschlagene Regelung kommt. Nach dem EU-Parlament entscheiden die Vertreter der Mitgliedsländer. Die niederländische Regierung ist dagegen. In Deutschland hat vor allem die FDP Datenschutz-Bedenken. Innenministerin Nancy Faeser hat sich noch nicht festgelegt.
Hinter der Diskussion stecken auch wirtschaftliche Interessen. Allein die großen Plattform-Betreiber haben nur 2022 rund 113 Millionen Euro ausgegeben, um die Politik in Brüssel in ihrem Sinne zu beeinflussen. Diese Zahl hat die lobbykritische Organisation Lobbycontrol veröffentlicht. Auch hinter den Befürwortern der geplanten Neuregelung stehen Geschäftsinteressen. So berichten die Zeit und die Internetseite Balkaninsight, dass die Organisation Thorn zahlreiche Kinderschutz-Organisationen finanziell unterstütze. Vertreter von Thorn säßen in der Steuerungsgruppe von ECLAC, einem Bündnis mehrerer Kinderschutz-Organisationen. Diese setzen sich für die neue EU-Verordnung ein. Gleichzeitig entwickle Thorn selbst künstliche Intelligenz, die Kinderpornografie im Netz aufspüren kann. Meredith Wittacker, Vorsitzende der Signal-Stiftung sieht hier einen Markt von „mehreren hundert Millionen Dollar“. Neutral ist auch sie nicht. Ihre Stiftung betreibt den Messengerdienst Signal.
Info:
Nach Angaben der Kinderschutz-Organisation ECPAT liegen 60 Prozent der Kindesmissbrauchs-Bilder und -Filme auf Servern in der Europäischen Union. Der Internet Watch Foundation IWF zufolge sind es sogar 86%. Grund: In Europa gelten deutlich strengere Datenschutz-Bestimmungen als etwa in den USA. Dort verpflichtet ein Bundesgesetz die Diensteanbieter, das Material auf ihren Servern zu prüfen und strafbare Inhalte den Behörden zu melden – in der EU nicht. Daher fühlen sich die Pädo-Kriminellen in Europa sicherer. Nach einer Schätzung des kanadischen Kinderschutzzentrums C3P sind nur etwa drei Prozent der Kinderpornografie-Bilder und Videos im Darknet versteckt. Der Rest liege auf Servern im frei zugänglichen Netz.
Kinderpornografie im Internet hat sich zu einer Plage entwickelt. Allein die Zentralstelle Cybercrime Nordrhein-Westfalen (ZAC NRW) in Köln hat nach eigenen Angaben seit 2020 mehr als 18.000 Ermittlungsverfahren wegen der Verbreitung von Kindesmissbrauchs-Darstellungen eingeleitet. 2022 erfasste die Polizei in Deutschland 17.700 solcher Darstellungen. Fast 2.300 davon zeigten Kinder unter sechs Jahren.
Petition für die EU-Verordnung: https://www.eurochild.org
Hintergründe zur PR-Schlacht um den Schutz vor Kinderpornografie im Netz haben u.a. das Magazin Balkan Insight und Die Zeit (zahlungspflichtig) veröffentlicht. : und
