Vorstellung des Jahresberichts 2022 von jugendschutz.net

Demokratiefeindlichkeit, Hassbeiträge, sexuelle Belästigung: Kinder im Netz zahlreichen Gefahren ausgesetzt

Extremistische Hetze gegen Minderheiten | Kinder und Jugendliche als Sexualobjekte | Mobbing und Belästigung in Livestreams | Generative KI verschärft Risiken | Schutzmaßnahmen von Anbietern unzureichend

Mainz/Berlin, 04.07.2023 | Hassinhalte, Desinformation und sexuelle Belästigung – Social-Media-Angebote sind Dreh- und Angelpunkt für zahlreiche Risiken, denen Kinder und Jugendliche im Netz ausgesetzt sind. Dennoch vernachlässigen Anbieter weiterhin den Schutz ihrer jüngsten Nutzer:innen und treffen keine ausreichende Vorsorge. Dies zeigt der Jahresbericht von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet.

„Wir erleben tagtäglich, wie das Netz missbraucht wird, um demokratiefeindliche Verschwörungsnarrative zu verbreiten, gegen queere Menschen zu hetzen oder Kinder sexuell zu belästigen. Nicht selten verschärfen Anbieter die Spirale von Gefährdungen noch durch neue Funktionen, mit denen sie in ihren Diensten eigentlich attraktive Nutzungserlebnisse schaffen wollen“, sagt Stefan Glaser, Leiter von jugendschutz.net. Die Recherchen und Kontrollen von jugendschutz.net hätten zwar gezeigt, dass einige Dienste mittlerweile Optimierungen vorgenommen haben. Dies sei erfreulich, aber bei Weitem noch nicht ausreichend. „Der Schutz von Kindern und Jugendlichen spielt für die Betreiber großer Plattformen anscheinend nur eine untergeordnete Rolle. Höchste Zeit, dass er als zentraler Wert in deren Unternehmensphilosophien verankert wird“, so Glaser weiter.

„Extremisten und Populisten nutzen das Netz, um die Demokratie anzugreifen und gegen Menschen mit anderer Weltanschauung zu hetzen. In den sozialen Netzwerken verbinden sie rassistisches Gedankengut mit Themen, für die sich junge Menschen interessieren. Der Jahresbericht von jugendschutz.net zeigt, dass im Zentrum von Hass und Hetze immer häufiger Menschen aus der LGBTIQ*-Community stehen“, warnt Bundesjugendministerin Lisa Paus. „Dass queere Menschen verstärkt angefeindet und bedroht werden, dürfen wir nicht hinnehmen. Die Betroffenen brauchen Rückhalt in der Gesellschaft und aus der Politik. Aber auch die Betreiber sozialer Medien stehen in der Verantwortung, die Hetze auf ihren Plattformen konsequent zu unterbinden. Mit unserem Programm Demokratie leben! und der Reform des Jugendschutzgesetzes wirken wir in beide Richtungen: Stärkung von demokratischen Strukturen, Vielfalt und Zivilcourage auf der einen Seite und sichere Teilhabe von Kindern und Jugendlichen am Internet durch konsequente Plattformregulierung auf der anderen Seite.“

„Sexualisierte Gewalt ist im Netz ein großes Problem. Dabei geht es nicht nur um die massenweise Verbreitung von Missbrauchsdarstellungen oder die Anbahnung von Straftaten. Auch dass Belästigung von Kindern in Livechats, Tanzvideos oder Karaoke-Clips auf beliebten Plattformen wie TikTok und Instagram an der Tagesordnung sind, ist ein erschreckender Befund des Berichts von jugendschutz.net“, sagt die für den Jugendschutz der Länder federführend zuständige rheinland-pfälzische Jugendministerin Katharina Binz. Gemeinsam müsse gewährleistet werden, dass sich Heranwachsende auch im Rahmen der Entwicklung ihrer sexuellen und sozialen Identität unbeschadet im Netz bewegen können. „Wichtiger Baustein der Bekämpfung und Prävention sexualisierter Gewalt ist die Entwicklung und Implementierung umfassender Schutzkonzepte, die auch das Internet einbeziehen. In Rheinland-Pfalz haben wir hierzu den ‚Pakt gegen sexualisierte Gewalt’ geschlossen, in dessen Rahmen Handlungsempfehlungen erarbeitet und umgesetzt werden.“

„Hass, Desinformation und jugendgefährdende Challenges sind weiterhin Realität in Social Media. Gleichzeitig zeigen unsere KIM- und JIM-Studien, dass immer jüngere Kinder immer häufiger und immer länger diese Dienste nutzen. Anbieter*innen müssen daher sicherstellen, dass Inhalte altersgerecht und altersdifferenziert ausgespielt werden. Wir als Aufsicht sind ebenfalls gefordert, weiterhin konsequent gegen Verstöße vorzugehen“, konstatiert Dr. Marc Jan Eumann, der Vorsitzende der Kommission für Jugendmedienschutz (KJM). Zudem seien mit der Entwicklung und Nutzung generativer Künstlicher Intelligenz neue Gefährdungslagen zu erwarten. „Anwendungen wie ChatGPT werden immer stärker Teil unseres Alltags. Schon jetzt zeigt sich, dass Herausforderungen für den Kinder- und Jugendmedienschutz bestehen – wie KI-generierte Desinformation und Deep-Fake-Pornografie. Es darf daher nicht das Bananenprinzip gelten, dass die Systeme bei den Nutzer*innen reifen. Stattdessen müssen Anbieter*innen den Schutz von Kindern und Jugendlichen konsequent und von Anfang an mitdenken. Die Kommission für Jugendmedienschutz klärt aktuell zudem, inwiefern wir jugendmedienschutzrechtlich ausreichend aufgestellt sind und was wir für einen bestmöglichen Schutz noch brauchen.“

2022 bearbeitete jugendschutz.net 7.363 Verstoßfälle. 66 % der Verstöße waren thematisch sexualisierter Gewalt zuzuordnen. Politischer Extremismus folgte mit 13 %, Pornografie mit 8 %. Auf Selbstgefährdung entfielen 7 %, auf Gewalt 5 % und auf Cybermobbing 1 %.

79 Verstoßfälle übermittelte jugendschutz.net an die Kommission für Jugendmedienschutz (KJM) zur Einleitung eines Aufsichtsverfahrens. Außerdem gab jugendschutz.net 104 Fälle an die KJM zur Indizierung durch die Prüfstelle bei der Bundeszentrale für Kinder und Jugendmedienschutz (BzKJ) ab. 2.219 Fälle sendete jugendschutz.net an das Bundeskriminalamt (BKA), da kinder- und jugendpornografische Inhalte verbreitet wurden oder Gefahr für Leib und Leben bestand (z. B. durch Gewaltandrohungen, Suizidankündigungen). Am Jahresende waren in 6.654 Fällen (90 %) die Verstöße beseitigt.

Der aktuelle Jahresbericht von jugendschutz.net steht zum Download bereit unter: www.jugendschutz.net/pdf/bericht2022.pdf.