Was tun gegen Nacktbilder und Deepfakes im Netz?
Informationskompetenz Sexualität & Internet Künstliche Intelligenz
Manipulierte oder KI-generierte Bilder können täuschend echt wirken – für Betroffene macht es oft keinen Unterschied, ob ein Bild echt ist oder nicht. Bild: KI-generiert (Ideogram)
Bildbasierte sexualisierte Gewalt: Worum geht es?
Der Fall von Collien Fernandes hat eine Debatte ausgelöst, die weit über den Einzelfall hinausgeht. Im Zentrum steht ein Phänomen, das viele Menschen betrifft, aber oft unterschätzt wird: bildbasierte sexualisierte Gewalt. Damit sind Situationen gemeint, in denen intime oder sexualisierte Bilder ohne Zustimmung der abgebildeten Personen erstellt, verbreitet oder als Druckmittel eingesetzt werden. Hierbei werden grundlegende Rechte wie die sexuelle Selbstbestimmung und das Recht am eigenen Bild missachtet. Für die Betroffenen bedeutet dies eine massive Verletzung ihrer Privatsphäre, ihrer Würde und ihrer persönlichen Sicherheit – mit teils gravierenden psychischen Folgen.
Deepfakes im Netz: Auswirkungen und Unterstützung für Betroffene
Die Entwicklung durch neue Technologien ist besonders besorgniserregend. Generative Künstliche Intelligenz ermöglicht heute die einfache Erstellung täuschend echter Bilder und Videos. Sogenannte Deepfakes oder Deepnudes zeigen Menschen in intimen Situationen, die es in Wirklichkeit nie gegeben hat. Die Einstiegshürden sind gering: Oft reichen wenige Klicks und frei verfügbare Tools aus, um solche Inhalte zu erstellen. Für Betroffene spielt es dabei kaum eine Rolle, ob ein Bild echt ist oder nicht – die Wirkung ist dieselbe. Rufschädigung, soziale Ausgrenzung und die ständige Angst vor weiterer Verbreitung gehören für viele zum Alltag.
Diese Entwicklung stellt rechtlich und gesellschaftlich eine große Herausforderung dar. Zwar ist die Verbreitung solcher Inhalte in vielen Fällen strafbar, doch gerade bei KI-generierten Fälschungen gibt es noch Gesetzeslücken. Mit der zunehmenden Qualität und Verbreitung von KI-Technologien ist davon auszugehen, dass auch die Zahl der Fälle zukünftig noch weiter steigen wird. Umso wichtiger ist es, das Problem sichtbar zu machen und Betroffene ernst zu nehmen.
Betroffene sollten wissen: Es gibt Möglichkeiten, sich zu wehren. Zunächst ist es wichtig, Beweise zu sichern und sich Unterstützung zu holen, beispielsweise bei Beratungsstellen oder der Polizei. Auch Plattformen wie Instagram, TikTok oder Facebook bieten Meldefunktionen. Die Bearbeitung der Meldungen kann allerdings längere Zeit in Anspruch nehmen. Ebenso entscheidend ist Prävention: Wer seine Privatsphäre-Einstellungen bewusst nutzt und persönliche Informationen schützt, kann Risiken zumindest reduzieren. Und nicht zuletzt gilt: Niemand muss mit dieser Situation allein bleiben, denn es gibt zahlreiche anonyme Hilfsangebote, die Betroffene unterstützen und begleiten.
Was können Betroffene tun?
Schütze dein Profil
Es ist wichtig, die Sicherheitseinstellungen in den sozialen Netzwerken so zu wählen, dass möglichst wenig Privates öffentlich ist. Der Profilname sollte keinen Rückschluss auf den echten Namen, das Alter oder den Wohnort enthalten. Je nach Plattform kann man einstellen, ob Fremde das eigene Profil sehen können, ob sie einem Nachrichten schreiben oder Beiträge kommentieren können. Je restriktiver die Einstellungen sind, desto sicherer. Diese Einstellungen können auch nachträglich getroffen werden. Manche Plattformen bieten die Option, das Profil zu deaktivieren. So kann man in Ruhe überlegen, wie man weiter vorgeht. In unserem Social-Media-Ratgeber gibt es weitere Informationen zu den Einstellungen bei Instagram, TikTok und Co.
Hol dir Hilfe
Du musst diese Situation nicht alleine durchstehen. Wenn Du Bezugspersonen hast, denen du dich anvertrauen kannst, solltest du das unbedingt tun. Wenn du das Gefühl hast, mit niemandem in deiner Umgebung sprechen zu können, kannst du dich anonym und kostenlos an Rat auf Draht wenden (per Telefon unter der Nummer 147 oder online).
Wehr dich: Melde und lösche die Aufnahmen
Alle großen Plattformen wie zum Beispiel Facebook, Instagram und TikTok bieten die Möglichkeit, solche Inhalte zu melden. Allerdings kann dieser Prozess lange dauern. Wenn die Meldung bei der Plattform aus irgendeinem Grund nicht funktioniert, melde den Vorfall auch den sogenannten Trusted Flaggern, zum Beispiel Rat auf Draht oder der Internet Ombudsstelle.
So kannst du die Verbreitung präventiv verhindern
Der Dienst Take It Down (deutsch: Lösch das) möchte die ungewollte Verbreitung intimer Bilder von Minderjährigen verhindern. Wenn du dir Sorgen machst, dass intime Bilder im Netz auftauchen könnten, kannst du diese Aufnahmen bei „Take It Down“ mit einem „digitalen Fingerabdruck“ (genannt Hash-Wert) versehen lassen. Dieser Fingerabdruck wird an alle teilnehmenden Plattformen weitergegeben. Das hat zur Folge, dass auf diesen Plattformen niemand mehr diese Inhalte hochladen kann. Mehr Informationen dazu, wie sich Take it Down nutzen lässt, gibt es hier. Für alle Personen über 18 Jahren gibt es den Dienst StopNCII.
Angebote der Fachstelle digitaler Kinderschutz und Saferinternet.at
Die Safer-Internet-Fachstelle digitaler Kinderschutz und Saferinternet.at bieten Webinare und Informationsmaterialien zur vertieften Auseinandersetzung mit den Themen Deepfakes und Deepnudes.
Angebote für Multiplikator:innen und Eltern
Webinar zum Thema „Deepfakes und digitale Medien“
Was sind Deepfakes und wie entstehen sie? Welche Risiken ergeben sich durch manipulierte Bilder, Videos oder Audios in sozialen Medien – insbesondere für Kinder und Jugendliche? Ziel des Inputs ist es, den Teilnehmenden grundlegendes Wissen zu vermitteln, für Gefahren zu sensibilisieren und ihre Handlungssicherheit zu stärken.
Datum & Uhrzeit: 23.04.2026 15:30–17:00 Uhr via Zoom.
Zur Anmeldung geht´s hier.Factsheet: Deepfakes und sexualisierte Gewalt
Deepfakes beeinflussen die Lebenswelten von Kindern und Jugendlichen. Dieses Factsheet gibt einen Überblick über den Status quo von Deepfakes, zeigt aus einer Kinderschutzperspektive auf, welche Probleme Deepfakes im Hinblick auf (sexualisierte) Gewalt verursachen können, und bietet rechtliche Einordnungen sowie Tipps und Unterstützungsangebote.
Angebote für Jugendliche
Jugendliche können ihr Wissen testen und an konkreten Beispielen üben.
Übung: „Erpressung mit Deep Nudes: Was tun?"
Diese Übung für Kinder ab 12 Jahren soll die Handlungsfähigkeit in kritischen Onlinesituationen stärken sowie Strategien zur Selbsthilfe und Unterstützung anderer vermitteln.
Dieser Artikel wurde ursprünglich von klicksafe erstellt und für Saferinternet.at adaptiert.