Wie entstehen Deepfakes? Einfach erklärt

Was ist ein Deepfake überhaupt?

Ein Deepfake ist ein Bild, Video oder eine Stimme, die mit künstlicher Intelligenz erzeugt oder stark verändert wurde. Die dargestellte Person hat die Situation so nie aufgenommen. Trotzdem kann das Ergebnis echt wirken.

Bei sexualisierten Deepfakes wird zum Beispiel ein normales Gesicht in eine intime Darstellung eingesetzt oder Kleidung künstlich verändert. Die KI braucht dabei kein echtes intimes Bild der betroffenen Person. Ein gut sichtbares Gesicht aus einem öffentlichen Profil kann als Ausgangsmaterial genügen.

Deepfakes entstehen nicht alle auf dieselbe Weise. Manche Systeme tauschen ein Gesicht aus. Andere verändern gezielt Teile eines Fotos oder erzeugen ein komplett neues Bild, das sich nur an den Merkmalen einer Person orientiert.

Wie wird aus einem Profilfoto ein Deepfake?

Der technische Ablauf lässt sich in vier verständliche Schritte teilen:

• Ausgangsmaterial sammeln: Ein Täter speichert ein Foto, einen Clip oder mehrere Ansichten einer Person. Häufig stammen sie aus öffentlichen Social-Media-Profilen.
• Merkmale übernehmen: Das System erfasst Gesicht, Haare, Blickwinkel und andere wiedererkennbare Merkmale. Dafür wird nicht zwingend eine neue KI nur für diese Person trainiert.
• Neue Darstellung erzeugen: Die KI verändert einzelne Bildbereiche, tauscht ein Gesicht oder erstellt eine neue Szene mit der erkannten Person.
• Ergebnis nachbearbeiten: Zuschnitt, Schärfe, Komprimierung und Filter können Fehler verdecken. Danach wird die Datei über Accounts, Chats, Foren oder spezialisierte Seiten verbreitet.

Ein Alltagsfoto enthält bereits viele wiedererkennbare Merkmale. Die Fälschung kann später anders aussehen, bleibt für andere Menschen aber derselben Person zuzuordnen.

Welche Wege zur Erstellung gibt es heute?

Für Nutzerinnen ist vor allem wichtig, wie niedrig die Hürde inzwischen ist. Es gibt drei deutlich unterschiedliche Zugangswege.

1. Apps und große KI-Plattformen

Bei einer App oder einem bekannten Onlinedienst lädt der Nutzer ein Bild hoch und beschreibt die gewünschte Änderung. Der Anbieter kontrolliert die Oberfläche, das Modell und meist auch die erzeugte Datei.

Das ermöglicht zentrale Schutzmaßnahmen: verbotene Eingaben können blockiert, Ausgaben geprüft, Konten eingeschränkt und KI-Bilder markiert werden. Der Grok-Vorfall zeigt aber, was passiert, wenn solche Grenzen zu spät oder nicht zuverlässig greifen.

2. Günstige Websites für fertige Effekte

Daneben existieren spezialisierte Websites, die Gesichtstausch oder sexualisierte Manipulationen als fertigen Dienst anbieten. Nutzer müssen dort oft nur ein Foto hochladen und eine Vorlage auswählen. Manche Angebote kosten nur wenige Cent pro Ergebnis oder werden über kleine Abos verkauft.

Untersuchungen fanden ein großes Ökosystem solcher Dienste und Modelle. Eine Studie zu leicht zugänglichen Deepfake-Modellen dokumentierte fast 15 Millionen Downloads seit Ende 2022; 96 Prozent der untersuchten personenbezogenen Modelle zielten auf Frauen. Das Problem ist damit kein seltenes Expertenszenario.

• Ein einfacher Bestellprozess ist keine wirksame Einwilligungsprüfung.
• Altersabfragen und Hinweise in AGB verhindern den Missbrauch nicht.
• Hochgeladene Fotos können bei unbekannten Anbietern gespeichert oder anders verarbeitet werden.
• Ein günstiger Preis macht massenhafte Erstellung und wiederholte Versuche möglich.

3. Lokale und offene KI-Workflows

Bei lokalen Werkzeugen läuft die Bilderzeugung auf dem eigenen Computer oder einem gemieteten Server. Grafische Oberflächen wie ComfyUI verbinden Modelle und Bearbeitungsschritte zu einem sichtbaren Ablauf. Das verlangt mehr technisches Verständnis als eine einfache Website.

Die Hürde sinkt jedoch: fertige Workflows, Paketinstallationen und KI-Assistenten können bei Einrichtung und Fehlersuche helfen. Wir nennen hier bewusst keine Modelle, Erweiterungen oder Arbeitsschritte für sexualisierte Manipulationen. Für die Risikobewertung reicht der entscheidende Punkt: Bei einem lokalen Workflow gibt es keinen zentralen Plattformanbieter, der jede Eingabe und jede erzeugte Datei automatisch sieht.

Offene Software ist nicht automatisch gefährlich. Sie wird auch für legitime Kunst, Film, Forschung und Bildbearbeitung eingesetzt. Ihre Schutzwirkung hängt aber stärker vom verwendeten Modell, den Erweiterungen und der Person am Gerät ab.

Welche Sicherheitsmaßnahmen können Apps einsetzen?

Eine einzelne Sperre reicht nicht. Gute Systeme kombinieren mehrere Ebenen:

Content Credentials nach dem C2PA-Standard können die Herkunft und Bearbeitungsgeschichte einer Datei nachvollziehbarer machen. Sie beweisen aber nicht automatisch, dass ein Bild echt ist. Fehlt ein Herkunftsnachweis, folgt daraus ebenfalls nicht, dass die Datei gefälscht wurde.

Warum lösen Schutzfilter das Problem nicht vollständig?

Schutzfilter funktionieren nur dort, wo sie technisch eingebaut sind. Wird ein Bild in einer kontrollierten App abgelehnt, kann ein Täter zu einer anderen Website oder zu einem lokalen Modell wechseln.

Außerdem beginnt der Schaden oft erst nach der Erzeugung. Eine Datei wird gespeichert, zugeschnitten, komprimiert und auf anderen Plattformen neu hochgeladen. Das ursprüngliche Wasserzeichen oder die Herkunftsdaten können dabei verschwinden.

Deshalb braucht es neben sicheren KI-Produkten auch Schutz auf der nächsten Ebene: App-Stores und Werbeplattformen müssen problematische Dienste begrenzen, Veröffentlichungsplattformen müssen Meldungen bearbeiten und Betroffene müssen neue Varianten wiederfinden können.

Was kannst du selbst zum Schutz tun?

Du bist nicht schuld, wenn jemand ein öffentliches Foto missbraucht. Komplett verhindern lässt sich die Erstellung eines Fakes nicht. Du kannst das Risiko und die mögliche Verbreitung aber begrenzen:

• Prüfe, welche Profilbilder ohne Login sichtbar und leicht herunterladbar sind.
• Verwende für öffentliche Profile bewusst ausgewählte Fotos statt privater Serien in voller Auflösung.
• Suche bei Verdacht nicht nur nach deinem Namen, sondern auch nach Bildvarianten und Fake-Profilen.
• Sichere einen Fund und reagiere schnell, bevor weitere Accounts oder Seiten ihn übernehmen.
• Kontrolliere nach einer Löschung, ob direkte Dateien, Suchtreffer und neue Uploads verschwunden sind.

Die Anleitung Gestohlene Bilder im Internet finden zeigt sichere erste Suchschritte. Wenn bereits ein sexualisierter Fake veröffentlicht wurde, hilft die Soforthilfe für intime Bilder ohne Zustimmung bei Beweissicherung und Entfernung.

Welche Rolle KI RADAR und TAKEDOWN spielen

Der KI RADAR sucht während der gesamten Laufzeit des aktiven Pakets nach bekannten und veränderten Varianten. Wir verbinden technische Suche mit menschlicher Sichtprüfung, weil zugeschnittene, komprimierte oder am Gesicht manipulierte Bilder automatischen Systemen entgehen können.

Ein TAKEDOWN bearbeitet anschließend die konkreten Fundstellen. Website, direkte Datei, Account und Suchmaschinen- Vorschau können getrennte Aufgaben sein. Eine Entfernung kann private Kopien nicht rückgängig machen. Sie kann aber die öffentliche Reichweite verkleinern und den nächsten Verbreitungsschritt erschweren.

Häufige Fragen zur Entstehung von Deepfakes

Braucht man für einen Deepfake viele Fotos?

Nicht immer. Für manche Face-Swap- oder Bildbearbeitungsverfahren kann ein gut sichtbares Foto genügen. Mehrere Blickwinkel und eine höhere Auflösung können das Ergebnis verbessern, sind aber keine feste Voraussetzung.

Kann wirklich jeder einen Deepfake erstellen?

Einfache Apps und Websites senken die Hürde stark. Lokale Workflows benötigen mehr Einrichtung und Rechenleistung, werden durch fertige Oberflächen und KI-Assistenten aber zugänglicher. Die Qualität unterscheidet sich deutlich.

Ist ComfyUI eine Deepfake-App?

Nein. ComfyUI ist eine allgemeine grafische Oberfläche für KI-Bild- und Medienworkflows. Sie kann für legitime kreative Arbeit genutzt werden. Wie bei anderen offenen Werkzeugen hängt das Risiko davon ab, welche Modelle und Arbeitsschritte jemand damit verbindet.

Schützen Wasserzeichen zuverlässig vor Deepfakes?

Nein. Wasserzeichen und Content Credentials können die Herkunft eines Bildes sichtbarer machen. Sie verhindern weder die Erzeugung einer Fälschung noch das Erstellen eines Screenshots oder einer neuen Kopie ohne Metadaten.

Können Plattformen sexualisierte Deepfakes vollständig verhindern?

Nein. Sie können die Erstellung und Veröffentlichung auf dem eigenen Dienst deutlich erschweren. Andere Websites, lokale Modelle und bereits gespeicherte Kopien liegen jedoch außerhalb ihrer direkten Kontrolle.

Was ist wichtiger: Deepfakes erkennen oder ihre Verbreitung stoppen?

Beides gehört zusammen. Eine technische Erkennung hilft wenig, wenn die Fundstelle danach online bleibt. Eine einzelne Löschung reicht ebenfalls nicht, wenn neue Varianten oder Re-Uploads unbemerkt auftauchen.