Elon Musks Grok-KI: Neuer "Spicy"-Modus überschreitet Grenzen

KI-gestützte Videogeneratoren schießen gerade wie Pilze aus dem Boden – aber nicht alle setzen klare Grenzen. Das zeigt ein Test von The Verge: Die Funktion "Imagine" in der Grok-App lässt sich offenbar sehr leicht für fragwürdige Inhalte nutzen.

Der Clou der App: Aus einem Bild wird per Knopfdruck ein kurzes Video. Neben den Presets "Custom", "Normal" und "Fun" gibt es auch eine Einstellung namens "Spicy". Und die hat es in sich. Während Tools wie Googles Veo oder OpenAIs Sora bekannte Sicherheitsmaßnahmen nutzen, um Nacktdarstellungen oder Promi-Deepfakes zu blockieren, nimmt Grok es deutlich lockerer. Laut The Verge genügte die Auswahl des "Spicy"-Modus, um einen Clip mit einer entblößten Taylor Swift zu erzeugen – obwohl der Prompt gar nicht explizit nach Nacktheit verlangte. Das Video könnt ihr euch im Artikel von The Verge anschauen.

Wie leicht lässt sich die Sperre umgehen?

Alles begann mit einer harmlosen Eingabe: "Taylor Swift feiert auf dem Coachella mit den Jungs". Die App generierte daraufhin mehrere Bilder, einige mit aufreizender Kleidung, aber sonst alles noch im Rahmen.

Doch nachdem der "Spicy"-Modus ausgewählt wurde, entstand ein Clip, in dem Swift ihre Kleidung verliert. Laut The Verge wirkte das Ergebnis zwar etwas künstlich, aber klar erkennbar.

Interessant: Der Bildgenerator selbst verweigert die Produktion von expliziten Fotos, zeigt also weiße Flächen, wenn nach Nacktbildern gefragt wird. Aber die Videofunktion umgeht diese Barriere offenbar mühelos.

Nicht jeder "Spicy"-Clip endet im Striptease, doch die Option begünstigt genau solche Szenen. Selbst eine Altersprüfung ist kaum der Rede wert: Ein simples Eingabefeld reicht – ohne jeglichen Nachweis.

Warum das ein Problem ist

Angesichts strenger Regelungen wie dem "Take It Down Act" wirkt Groks Ansatz riskant. Zwar verbietet die Nutzungsrichtlinie pornografische Inhalte mit echten Personen, aber umgesetzt wird das nicht.

The Verge weist zudem darauf hin, dass Grok sogar realistische Kinderbilder erzeugt – immerhin aber keine Animationen in "Spicy"-Videos zulässt.

Elon Musk meldete bereits über 34 Millionen erstellte Bilder seit dem Start und sprach von "explodierendem Wachstum". Wer ein iPhone und einen Premium-Account bei X oder ein Abo für Grok besitzt, kann also ohne große Hürden Inhalte erstellen, die nicht nur moralisch bedenklich, sondern auch juristisch heikel sind. Wir sind gespannt, wann die ersten Promi-Klagen bei X und Musk eingehen.