Risiken durch demokratiefeindliche „virtuelle Influencer:innen“

jugendschutz.net beobachtet in Sozialen Medien erste Versuche, mit „virtuellen Influencer:innen“ extremistisches und menschengruppenfeindliches Gedankengut zu verbreiten. Dabei werden mittels generativer Künstlicher Intelligenz (KI) auf Fake-Profilen Bilder von virtuellen Personen generiert, die u.a. Stimmung gegen Geflüchtete, Migrant:innen und trans-Personen machen oder NS-Geschichtsrevisionismus betreiben.

Das umfasst nicht nur erkennbar computergenerierte Darstellungen mit teils ungelenken Animationen: Auf mehreren Plattformen finden sich Profile einer KI-generierten jungen Frau, die rechtspopulistische bis rechtsextreme Botschaften und Engagement Baits, teils getarnt als Alltagsposts, streut. Einzelne Inhalte erzielen mit sechsstelligen Views hohe Reichweite. Wie aus den Kommentaren ersichtlich, halten viele Nutzer:innen die KI-Figur für eine reale Person.

Besonders Kinder und Jugendliche können demokratie- und menschenfeindliche Positionen von solchen virtuellen Influencer:innen übernehmen, umso mehr, als sie diese als echte Menschen wahrnehmen. Mit fortschreitender Entwicklung generativer KI und immer einfacherer Tools zu deren Anwendung nimmt somit nicht nur die Gefahr von Fake-Infos zu.