Nach oben

Projekt „Monitoring and Reporting for Safer Online Environments” (SafeNet)

Seit 2023 arbeitet jugendschutz.net im EU-Projekt „Monitoring and Reporting for Safer Online Environments“ (SafeNet) mit 20 Partnerorganisationen aus ganz Europa zusammen, um illegale Hassrede und politischen Extremismus im Internet zu bekämpfen. Ziel des zweijährigen Projektes ist ein langfristiges europaweites Monitoring von Hassrede auf großen Social-Media-Plattformen. Die Ergebnisse dieses Monitorings werden genutzt, um Akteur:innen und Entscheidungsträger:innen in Politik, Wirtschaft und Zivilgesellschaft stärker für die Thematik zu sensibilisieren und so auf einen besseren Umgang mit hasserfüllten und extremistischen Online-Inhalten hinzuwirken. Koordiniert wird das Projekt vom International Network Against Cyber Hate (INACH).

Die Projektpartner

  • International Network Against Cyber Hate (INACH), Niederlande
  • Human Rights House Zagreb, Kroatien
  • Romea, Tschechien
  • Estonian Human Rights Center, Estland
  • jugendschutz.net, Deutschland
  • Hatter Society, Ungarn
  • Subjective Values Foundation, Ungarn
  • CESIE, Italien
  • Latvian Center for Human Right, Lettland
  • Lithuanian Gay League, Littauen
  • ILGA Portugal, Portugal
  • Plataforma Khetane, Spanien
  • Ligue internationale contre le racisme et l’antisémitisme, Frankreich
  • Etaireia Epikoinoniakis Kai Politikis Erevnas - Communication and political Research Society, Griechenland
  • CEJI – A Jewish Contribution to an inclusive Europe, Belgien
  • Movimento contra la Intolerancia, Spanien
  • Never Again Association, Polen
  • Integro Association, Bulgarien
  • ZARA – Zivilcourage und Anti-Rassismus Arbeit, Österreich
  • IT University of Copenhagen, Dänemark

Europaweites Monitoring

Das Projektkonsortium verfügt über langjährige Erfahrung im Monitoring von Hassrede im Internet und hat die EU-Kommission bereits im Rahmen der Monitoring-Phasen zur Evaluation des EU-Verhaltenskodex zur Bekämpfung illegaler Hassrede im Internet unterstützt.

Seit 2016 verpflichten sich große Social-Media-Anbieter in diesem Verhaltenskodex dazu, entschieden gegen illegale Hassrede auf ihren Plattformen vorzugehen und die Mehrheit der eingehenden Meldungen von Nutzer:innen sowie Trusted-Flagger-Organisationen innerhalb von 24 Stunden zu überprüfen.

In den letzten Jahren sind immer mehr Social-Media-Anbieter dem Verhaltenskodex beigetreten. Derzeit beteiligen sich Facebook, Microsoft, X/Twitter, YouTube, Instagram, Snapchat, Dailymotion, Jeuxvideo.com, TikTok, LinkedIn, Rakuten Viber und Twitch an der freiwilligen Selbstverpflichtung.

Während die Einhaltung des Verhaltenskodex bisher jährlich in 6-wöchigen Monitoring-Phasen überprüft wurde, wird dieses Monitoring mit dem Projekt SafeNet verstetigt. Das große Konsortium mit Organisationen aus ganz Europa ermöglicht zudem einen Vergleich des Moderationsverhaltens in vielen verschiedenen Mitgliedsstaaten der EU.

Insgesamt wurden im Rahmen des Projektes bereits 20116 Fälle illegaler Hassrede an die Social-Media-Anbieter gemeldet. Eine Übersicht über die Monitoring-Ergebnisse aller Projektpartner finden Sie auf der Website des Projektes SafeNet.

Ergebnisse des Monitorings durch jugendschutz.net

Seit Beginn des Projektes meldete jugendschutz.net insgesamt 906 Fälle an die untersuchten Social-Media-Anbieter (Facebook: 55; Instagram: 131; TikTok: 177; X: 292; YouTube: 251). Die Fälle wurden den Anbietern zunächst über ihre allgemeinen Meldewege gemeldet. Fälle, die eine Woche nach dieser Erstmeldung nicht gelöscht wurden, wurden erneut über die Trusted-Flagger-Kanäle der Plattformen gemeldet.

Im Projektzeitraum prüften die Plattformen 34 % der gemeldeten Fälle innerhalb 24 Stunden nach der ersten Meldung. 28 % der gemeldeten Fälle wurden nach der ersten Meldung gelöscht. Auf 50 % der Erstmeldungen erhielt jugendschutz.net keine direkte Rückmeldung zur Moderationsentscheidung der Plattformen. Solche Rückmeldungen sind wichtig, um Vertrauen aufzubauen und den Nutzer:innen ein besseres Verständnis dafür zu vermitteln, wie die Plattformen die Inhalte moderieren.

Die Ergebnisse der Meldungen über allgemeine Meldewege finden Sie in unserem Factsheet.

Nach erneuter Meldung über die Trusted-Flagger-Kanäle zeigte sich eine deutliche Verbesserung: Bei den Trusted-Flagger-Meldungen betrug die Quote der innerhalb von 24 Stunden geprüften Fälle 51 %. Die Löschquote nach der zweiten Meldung betrug insgesamt 67 %. Trotz verbesserter Kommunikation in den Meldungen erfolgte in 49% der Fälle keine Rückmeldung.

Das könnte Sie auch interessieren