Was sind Deepfakes und was kann man dagegen tun?

Deepfakes sind manipulierte Fotos, Videos oder Audiodateien, die mithilfe von Künstlicher Intelligenz erstellt wurden und täuschend echt wirken. Sie zeigen zum Beispiel Personen, die Dinge tun oder sagen, die sie nie getan oder gesagt haben. Der Begriff setzt sich aus den Wörtern „Deep Learning“ (einer Methode, mit der Künstliche Intelligenz aus großen Datenmengen lernt) und „Fake“ (Täuschung) zusammen.

Es gibt verschiedene Techniken, um Deepfakes zu erstellen. Grob kann zwischen manipulierten Inhalten (bestehende Fotos oder Bilder werden mit KI bearbeitet) und vollsynthetischen Inhalten (vollständig von KI erstellten Bildern oder Videos) unterschieden werden.

Deepfakes werden häufig für politische Propaganda, aber auch für bildbasierte sexualisierte Gewalt missbraucht. Sie können mithilfe von Apps oder eingebauten Filtern sehr leicht erstellt werden. Ohne die Zustimmung der betroffenen Person kann ihre Verwendung jedoch die Privatsphäre, Persönlichkeitsrechte, den Datenschutz und das Urheberrecht verletzen.

Durch die rasanten technischen Fortschritte wirken Manipulationen immer glaubwürdiger. Viele Deepfakes sind inzwischen so realistisch, dass sie selbst für geübte Personen kaum noch erkennbar sind. Einige Hinweise können gute Anhaltspunkte liefern, verlassen Sie sich aber nicht auf diese sichtbaren Merkmale!

• Unnatürliches Gesicht, z. B. leere Blicke oder unpassende Mimik
• Unscharfe Übergänge, z. B. zwischen Gesicht und Hintergrund
• Fehlerhafte Details bei körpernahen Gegenständen und Accessoires (z. B. Schmuck)
• Abweichende Bildqualität zwischen Gesichtern und Umgebung (schärfer bzw. unschärfer)
• Unregelmäßigkeiten bei Details (z. B. Hände, Zähne, Haare)

Wenn Personen in Bildern oder Videos digital „entkleidet“ werden, spricht man von Deepnudes. Dazu zählen auch Face Swaps, bei denen das Gesicht einer Person in bestehendes pornografisches Material eingesetzt wird.

Deepnudes sind eine Form sexueller Gewalt, die vor allem Frauen betrifft und für die Betroffenen oft gravierende Folgen hat. Für sie spielt es kaum eine Rolle, ob ein Bild echt ist oder nicht – die Wirkung ist dieselbe und reicht von Rufschädigung bis zu massiver psychischer Belastung.

Deepnudes können auch strafrechtlich relevant sein, zum Beispiel im Zusammenhang mit:

• Cybermobbing (§ 107c StGB), wenn Deepnudes erstellt werden, um jemanden bloßzustellen.
• Sextortion, wenn Personen mit den manipulierten Bildern oder Videos erpresst werden – dies stellt zwar keinen eigenen Straftatbestand dar, kann aber u. a. nach § 144 StGB (Erpressung), § 107 StGB (Gefährliche Drohung) oder 105 StGB (Nötigung) strafbar sein.
• sexuellen Missbrauchsdarstellungen Minderjähriger (§ 207a StGB), wenn die Abgebildeten unter 18 Jahre alt sind.

• Nicht allein bleiben, sondern früh Hilfe suchen – bei Vertrauenspersonen oder Beratungsstellen wie z. B. Rat auf Draht. Auch wenn sich Betroffene oft schämen: Die Verantwortung liegt bei den Täter:innen!
• Rasch reagieren und das eigene Umfeld informieren (z. B. mit einer Nachricht, die Freund:innen darüber aufklärt, dass Deepfakes im Umlauf sein könnten).
• Beweise sichern, z. B. Screenshots und Links speichern.
• Inhalte melden, z. B. bei der Plattform oder Website – gegebenenfalls mit Unterstützung von Trusted Flaggern wie Rat auf Draht oder der Internet Ombudsstelle.
• Rechtliche Schritte prüfen, z. B. Anzeige erstatten oder juristische Beratung einholen.