Sexualisierte Gewalt und Hassinhalte: Gefährdungen für Kinder und Jugendliche im Netz nehmen zu

Jahresbericht von jugendschutz.net zeigt Risiken und Schutzlücken in beliebten Diensten

Im Jahr 2024 dokumentierte jugendschutz.net 17.630 Verstöße gegen den Jugendmedienschutz. Bei über 9.700 Fällen wies jugendschutz.net Anbieter und Selbstkontrollen auf Verstöße hin und forderte schnelle Beseitigung – mit großem Erfolg: In 99% reagierten die Dienste mit Löschung oder Sperrung der Inhalte. In besonders gravierenden Fällen wie zum Beispiel sexualisierter Gewalt schaltete die Organisation Strafverfolgungsbehörden ein. Aufsichtsfälle wurden an die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) übermittelt.
Der erfolgreichen Beseitigung von Jugendschutzverstößen stehen – so zeigt der Jahresbericht von jugendschutz.net – strukturelle Mängel hinsichtlich der Vorsorgemaßnahmen vieler digitaler Dienste entgegen. Zentrales Problem bleibt die fehlende Altersprüfung, ohne die Kinder und Jugendliche auf beliebten Plattformen kaum geschützt sind – etwa vor extremistischer Einflussnahme oder sexuellen Grenzverletzungen. Hinzu kommt der wachsende Einfluss generativer Künstlicher Intelligenz, die die Verbreitung problematischer Inhalte zusätzlich befeuert. Hier liegt der Fokus der Anbieter auf Innovation, Sicherheit für junge Nutzer:innen hat dabei keine Priorität.
»Social Media sind weiterhin Einfallstore für sexuelle Belästigung, Gewalt und Extremismus«, sagt Stefan Glaser, Leiter von jugendschutz.net. Besonders alarmierend sei die verstärkte Ansprache junger Menschen durch extremistische Gruppen, auch im Gaming-Bereich: »Rechtsextreme und Islamisten ködern auf TikTok, Instagram und Co. mit hippen Auftritten und Themen, die nah an der Lebenswelt junger Menschen sind. Über Discord erreichen sie spielaffine Jugendliche und führen sie an extremistisches Gedankengut heran.« Gleichzeitig verschärften technische Innovationen auf dem Feld der KI bestehende Risiken. »Es ist leider inzwischen kinderleicht, Alltagsfotos in Nacktbilder zu verwandeln. Deepnudes werden dann genutzt, um zu mobben oder zu erpressen – eine perfide Dimension der digitalen Gewalt«, warnt Glaser. Zwar zeigten die Recherchen von jugendschutz.net, dass Betreiber punktuell ihre Schutzkonzepte verbessern. »Letztlich können altersdifferenzierte Maßnahmen jedoch nur wirken, wenn auch das Alter der User überprüft wird«, so Glaser.
Bundesjugendministerin Karin Prien: »Unsere Kinder bewegen sich täglich in einer digitalen Welt, in der sie auf vieles treffen. Wie auf einem riesigen Marktplatz, auf dem tausende Stimmen durcheinanderrufen - manche freundlich, viele aber auch manipulativ, verletzend oder gefährlich. Cybermobbing, sexualisierte Ansprache oder extremistisches Gedankengut - das überfordert junge Menschen. Als Mutter bewegt mich das zutiefst. Und als Politikerin sage ich klar: Wir dürfen unsere Kinder mit diesen Gefahren nicht alleinlassen. Deshalb müssen wir gemeinsam handeln: Die Plattformen müssen endlich ihre Verantwortung wahrnehmen. Die rechtlichen Rahmenbedingungen müssen konsequent durchgesetzt werden. Aber technische Schutzmaßnahmen sind nicht alles. Kinder brauchen informierte Eltern, Lehrkräfte und Fachkräfte. Sie werden stark durch Medienkompetenz in der Schule und durch ihre Eltern, die nicht wegschauen und Vorbilder sind. Sie sind die ersten digitalen Wegbegleiter ihrer Kinder.«

Der aktuelle Jahresbericht von jugendschutz.net steht zum Download bereit unter:

Quelle: Pressemitteilung jugendschutz.net, Mainz/Berlin, 20. Mai 2025