Grok und offene KI-Tools: Deepfake-Gefahr

Was beim Grok-Skandal tatsächlich passiert ist

Rund um den Jahreswechsel 2025/2026 nutzten Menschen auf X die integrierte KI Grok, um Bilder realer Personen sexualisiert zu verändern. Dafür musste keine spezielle Deepfake-Software installiert werden. Nutzer konnten Grok direkt unter einem fremden Foto ansprechen und eine bearbeitete Version verlangen.

Eine Untersuchung von AI Forensics sammelte innerhalb einer Woche 50.000 öffentliche Aufforderungen zur Bilderzeugung und 20.000 von Grok erzeugte Bilder. Die Analyse dokumentierte, wie das Werkzeug gezielt gegen Frauen eingesetzt wurde. Auch Reuters testete öffentliche Anfragen und beobachtete, dass Grok zahlreiche sexualisierende Bearbeitungen realer Frauen ausführte.

Das Besondere war die Kombination aus drei Dingen:

• Das Ausgangsbild lag bereits auf X. Täter mussten es nicht erst auf ein anderes Werkzeug übertragen.
• Ein kurzer öffentlicher Befehl reichte. Die technische Hürde war extrem niedrig.
• Das Ergebnis erschien wieder auf X. Erstellung und Verbreitung lagen am selben Ort.

Grok verwandelte Bildmissbrauch damit nicht in ein neues Problem. Das Werkzeug machte einen bereits bekannten Missbrauchsweg sichtbar, schnell und für sehr viele Menschen erreichbar.

Was fehlende Sicherheitsgrenzen dabei bedeuten

Sicherheitsgrenzen – häufig auch „Guardrails“ genannt – sind Regeln und technische Filter einer KI. Sie sollen zum Beispiel verhindern, dass ein Werkzeug eine reale Person ohne Zustimmung entkleidet, sexualisiert oder als Minderjährige darstellt.

Beim Grok-Vorfall griffen diese Grenzen nicht ausreichend. Das ist mehr als ein einzelner falscher KI-Ausgabefehler: Wenn ein System dieselbe schädliche Aufgabe immer wieder ausführt, liegt das Problem in der Gestaltung und Absicherung des Produkts.

Die kanadische Datenschutzaufsicht kam in ihrer Untersuchung zu dem Ergebnis, dass xAI die Sicherheits- und Datenschutzrisiken einer böswilligen Nutzung in seiner eigenen Folgenabschätzung nicht ausreichend abgebildet hatte. Die Europäische Kommission und die irische Datenschutzaufsicht eröffneten ebenfalls Untersuchungen zu den sexualisierten, nicht einvernehmlichen Bildern.

Eine behördliche Untersuchung ist noch kein abgeschlossenes Urteil. Sie zeigt aber: Die fehlenden Grenzen waren kein theoretisches Risiko. Der Schaden war bereits eingetreten.

Ein normales Profilfoto kann zum Ausgangspunkt vieler Varianten werden. Grok senkte Anfang 2026 die Hürde zwischen Vorlage, Manipulation und öffentlicher Verbreitung.

Warum offene KI-Tools das Problem vergrößern

Grok war besonders sichtbar, weil das Werkzeug direkt in X eingebaut war. Es ist aber nicht die einzige Möglichkeit, Bilder mit KI zu manipulieren.

Bei großen Onlinediensten kann der Anbieter neue Filter einführen, Funktionen sperren und öffentliche Inhalte löschen. Bei lokal ausgeführten Modellen ist das anders: Die Software läuft auf dem Computer des Nutzers. Vorhandene Schutzregeln können je nach Modell verändert oder entfernt werden, und kein Plattformbetreiber sieht automatisch, welches Bild dort entsteht.

Das bedeutet nicht, dass jedes offene Modell gefährlich oder grundsätzlich ungefiltert ist. Der entscheidende Unterschied ist die Kontrolle:

• Onlinedienst: Der Anbieter kann Eingaben und Ergebnisse begrenzen.
• Offenes oder lokales Werkzeug: Technisch erfahrene Nutzer können das System verändern oder andere Modelle einsetzen.
• Veröffentlichungsplattform: Sie sieht oft erst das fertige Bild – nicht, wie und wo es erzeugt wurde.

Ein Filter bei einem bekannten Anbieter löst deshalb nicht das gesamte Problem. Die Erstellung kann zu einem anderen Werkzeug wechseln, während das fertige Bild trotzdem auf X, Instagram, in einem Forum oder auf einer Leak-Seite landet. Unser Grundlagenartikel Wie entstehen Deepfakes? erklärt die drei typischen Zugangswege und ihre unterschiedlichen Sicherheitsgrenzen.

Warum ein normales Social-Media-Foto reichen kann

Für sexualisierte Bildmanipulationen brauchen Täter nicht zwingend ein intimes Original. Ein gut sichtbares Gesicht auf einem normalen Profilfoto kann als Vorlage für eine Bild-zu-Bild-Bearbeitung oder einen Gesichtstausch dienen.

Das Ergebnis hängt vom Werkzeug, der Bildqualität und dem gewünschten Fake ab. Es wäre deshalb falsch zu behaupten, jedes einzelne Foto liefere automatisch ein überzeugendes Ergebnis. Richtig ist aber: Öffentliche Alltagsbilder sind heute das häufigste Ausgangsmaterial in unseren Fällen.

Das Risiko endet nicht mit der ersten Fälschung. Ein einmal gesammelter Bildsatz kann in Tätergruppen, Foren oder Datenbanken weitergegeben und später erneut verwendet werden. Dann entstehen neue Bilder, Accounts und Fundstellen, ohne dass die betroffene Person noch einmal etwas veröffentlicht hat.

Was heute bei Grok anders ist

Die Aussage „Grok besitzt keine Schutzfilter“ beschreibt den aktuellen Stand nicht mehr sauber. xAI erklärt heute, dass nicht einvernehmliche intime Inhalte gesperrt sind und diese Grenze unabhängig von Einstellungen oder Abonnement gelten soll. Der Anbieter stellt außerdem einen eigenen Meldeweg für echte und KI-generierte intime Inhalte bereit.

Diese Nachbesserungen sind wichtig. Sie ändern aber nicht, was der Vorfall gezeigt hat:

• Schutzgrenzen müssen vor einer massenhaften Veröffentlichung funktionieren, nicht erst nach einem Skandal.
• Eine Zugangsbeschränkung auf zahlende Nutzer verhindert den Missbrauch nicht automatisch.
• Neue Filter löschen keine Bilder, die bereits gespeichert oder kopiert wurden.
• Andere Modelle und lokale Werkzeuge bleiben außerhalb der Kontrolle von xAI.

Der Grok-Artikel ist deshalb keine Anleitung zum Melden. Er dokumentiert, wie ein schlecht abgesichertes KI-Produkt Bildmissbrauch skalieren kann – und warum nachträgliche Filter nur einen Teil des Problems lösen.

Was das für dich bedeutet

Du musst nicht aufhören, Bilder von dir zu veröffentlichen. Du solltest aber wissen, dass Privatsphäre-Einstellungen und Plattformfilter keine vollständige Kontrolle über bereits sichtbare Fotos bieten.

Sinnvoll sind drei Ebenen:

• Verwende für öffentliche Profile bewusst ausgewählte Bilder und prüfe, was ohne Login sichtbar ist.
• Suche bei konkretem Verdacht nicht nur nach deinem Namen, sondern auch nach Bildvarianten und Fake-Profilen.
• Reagiere schnell, wenn ein sexualisierter Fake auftaucht, damit weniger Zeit für Kopien bleibt.

Unsere Anleitung Gestohlene Bilder im Internet finden zeigt sichere erste Suchschritte. Wenn bereits ein intimes oder sexualisiertes KI-Bild existiert, führt die Soforthilfe für intime Bilder ohne Zustimmung durch Beweissicherung, Meldung und Nachkontrolle.

Welche Rolle KI RADAR und TAKEDOWN spielen

Der KI RADAR sucht während der gesamten Laufzeit des aktiven Pakets nach bekannten und veränderten Varianten. Dabei verbinden wir technische Suche mit menschlicher Sichtprüfung. Das ist wichtig, weil Täter Gesichter, Ausschnitte, Wasserzeichen und Bildqualität verändern können.

Wenn ein Bild gefunden wird, bearbeitet ein TAKEDOWN die konkreten Fundstellen. Grok-Link, X-Post, direkte Datei, fremde Website und Suchmaschinen-Reste sind dabei getrennte Aufgaben.

Niemand kann garantieren, jede private Kopie oder unbekannte geschlossene Gruppe zu finden. Ziel ist, öffentliche und zugängliche Fundstellen früh zu erkennen, ihre Verbreitung einzudämmen und neue Uploads während der Laufzeit nicht aus dem Blick zu verlieren.

Häufige Fragen zu Grok und Deepfakes

Was war das eigentliche Problem bei Grok?

Grok machte die sexualisierte Bearbeitung fremder Fotos direkt auf X sehr einfach. Ein kurzer öffentlicher Befehl konnte ausreichen, und das Ergebnis wurde im selben Netzwerk veröffentlicht. Die vorhandenen Sicherheitsgrenzen verhinderten diesen Missbrauch nicht zuverlässig.

Was sind Guardrails?

Guardrails sind Sicherheitsregeln und Filter einer KI. Sie sollen gefährliche oder missbräuchliche Aufgaben ablehnen – zum Beispiel das Entkleiden oder Sexualisieren einer realen Person ohne deren Zustimmung.

Hat Grok heute immer noch keine Schutzfilter?

Nein. xAI beschreibt inzwischen strengere Grenzen und verbietet nicht einvernehmliche intime Inhalte ausdrücklich. Das ist der heutige Anbieterstand. Der dokumentierte Vorfall zeigt trotzdem, was passiert, wenn solche Grenzen zu spät oder nicht wirksam genug greifen.

Sind offene KI-Modelle grundsätzlich gefährlich?

Nein. Offenheit allein macht ein Modell nicht missbräuchlich. Bei lokal ausgeführten oder veränderten Modellen kann jedoch kein zentraler Anbieter jede Nutzung kontrollieren. Schutzfilter lassen sich je nach System außerdem anpassen oder durch ein anderes Modell ersetzen.

Reicht wirklich ein normales Foto für einen Deepfake?

Für viele Bildmanipulationen kann ein gut sichtbares Gesicht aus einem Alltagsfoto genügen. Nicht jedes Bild und jedes Werkzeug erzeugt ein überzeugendes Ergebnis. Öffentliche Social-Media-Fotos sind nach unserer Erfahrung aber das häufigste Ausgangsmaterial.

Woran erkenne ich einen sexualisierten Deepfake?

Manche Bilder zeigen noch unlogische Details, falsche Lichtkanten oder einen unpassenden Körper. Darauf solltest du dich nicht verlassen: Gute Ergebnisse sind mit bloßem Auge schwer zu erkennen, und starke Komprimierung kann Spuren verdecken. Entscheidend ist, ob die abgebildete Person der Aufnahme zugestimmt hat – nicht, ob ein Betrachter die KI sicher beweisen kann.

Was mache ich, wenn ich selbst betroffen bin?

Sichere Link, Account und Zeitpunkt, ohne das Bild unnötig weiterzusenden. Melde jede sichtbare Fundstelle und kontrolliere danach direkte Dateien, Suchmaschinen und neue Uploads. Die vollständige Schrittfolge steht in unserer Soforthilfe für intime Bilder ohne Zustimmung.