(Stand: März 2025)
Der Begriff Deepfakes setzt sich zusammen aus den Worten „Deep Learning” (eine Methode des maschinellen Lernens) und „Fake” (engl. für Fälschung). Erstmals verwendet wurde diese Bezeichnung 2017 und bezog sich auf die Manipulation von Bildmaterial. Heute wird der Begriff weiter gefasst und schließt Video- und Tonmaterial mit ein.
In der KI-Verordnung der EU wird der Begriff folgendermaßen bestimmt: Ein „Deepfake“ ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Wie werden Deepfakes erstellt?
Deepfakes zu erstellen ist nicht mehr nur technisch versierten Personen vorbehalten. Open-Source-Anwendungen lassen sich herunterladen und ihre Funktionalitäten werden z.B. in Videos in Social-Media-Diensten umfassend erklärt. Noch einfacher macht es die Vielzahl an Apps und Websites, die mittlerweile verfügbar ist.
Face Swap
Anwendungen aus dem Bereich des Deep Learning oder KI können darauf trainiert werden, Gesichter von Personen in Bilder oder Videos zu erkennen. Mittels sogenannter Face Swap-Anwendungen wird das Gesicht einer Person (Vorlage) mit dem Gesicht einer anderen Person (Zielperson) vertauscht. Die verwendeten Aufnahmen können sowohl reale oder fiktive Personen zeigen.
Auf dieser Funktionsweise, Gesichtserkennung und Veränderung von Inhalten, basieren z.B. auch einige „Filter“ in Social-Media-Diensten.
Bildgeneratoren
Generative KI, die Bilder erstellen kann, wird mit enormen Datensätzen trainiert, in denen auch größere Mengen an Aufnahmen prominenter Personen enthalten sein können. Je nach Anbieter und dessen Richtlinien und Vorsorgemaßnahmen kann es möglich sein, realistisch wirkende Bilder prominenter Personen mit einem Bildgenerator zu erstellen.
Bildgeneratoren aus dem Open-Source-Bereich lassen sich mit eigenen Bildern nachtrainieren. So besteht in diesem Bereich die Möglichkeit Bildgeneratoren auf die Darstellung jeder beliebigen Person zu trainieren und realistischen wirkenden Bilder zu generieren.
Je nach Anwendung kommen die Fähigkeiten generativer KI zur Veränderung von Teilbereichen von Bildern oder Videos zum Einsatz, z.B. für den Bildhintergrund oder einzelne Objekte. Solche Funktionen werden bereits auf aktuellen Smartphones angeboten, um Bilder zu optimieren. Über anderen Anwendungen lassen sich der Körper oder einzelne Bereiche des Gesichts einer abgebildeten Person verändern. Wird aus dem Bild einer Person ein KI animierter Video-Avatar erstellt, werden meist nur Augen- und Lippenbewegungen per KI neu erstellt, um ein realistisches Bewegungsmuster zu erstellen.
Audio-KI
Vergleichbar zu den Möglichkeiten im Bildbereich lassen sich mit Hilfe von Audio-KI Tonaufnahmen erstellen. Auch hier werden häufig Aufnahmen prominenter Personen für das Training verwendet. Die KI analysiert die Stimme und versucht später Stimmfarbe, -muster, Tonlage und Betonung zu imitieren. Je nach Anwendung lassen sich auch eigene „Voice Clones“ erstellen. Hierfür wird meist nur eine Tonaufnahme der Person benötigt, z.B. aus einer WhatsApp-Sprachnachricht. Per Texteingabe können Täter:innen die Stimme dann selbst festgelegte Texte sprechen lassen. Über „Voice Changer“ lässt sich alternativ auch die eigene Stimme direkt verändern.
Die Möglichkeiten von visueller und Audio-KI können in Kombination Verwendung finden und so realistisch wirkende Videoaufnahmen erzeugen.
Welche Risiken bestehen für junge Nutzer:innen?
Die Technik, die bei Deepfakes zum Einsatz kommt, bietet viele Chancen – in Film und Fernsehen erlaubt sie Spezialeffekte, in Online-Shops virtuelle Anproben oder kreativen Ausdruck über „Filter” in Social-Media-Diensten.
Die Potentiale dieser Anwendungen sorgen jedoch immer häufiger für Aufsehen, da sie für manipulative oder strafrechtlich relevante Zwecke missbraucht werden.
-
Erstellen von Deepnudes (auch von Kindern) oder Deepfake-Pornografie, teils erstellt mit dem Ziel andere online bloßzustellen oder zu erpressen
-
Erstellen von gefälschten Inhalten mit dem Ziel Desinformation und Fake News zu verbreiten
-
Identitätsdiebstahl oder Verschleiern der eigenen Identität, z.B. im Kontext von Cybergrooming, -mobbing oder Betrug
Ebenfalls problematisch können virtuelle Influencer:innen sein, die überzogene Schönheitsideale verkörpern und Werbung machen.
Mit der Weiterentwicklung der Technik und der steigenden Verbreitung muss davon ausgegangen werden, dass sie zukünftig häufiger missbräuchlich verwendet wird.