Wien (OTS) – Massenweise werden aktuell sexualisierte Deepfakes über
Grok
erstellt. Seit 25. Dezember 2025 können Nutzer:innen der Plattform X
mit dem KI-Tool „Grok“ des Unternehmens xAI hochgeladene Fotos ohne
Einwilligung der abgebildeten Personen manipulieren. Betroffen sind
vor allem Frauen und Kinder. Süleyman Zorba, Digitalisierungssprecher
der Grünen: „Der aktuelle Grok-Skandal zeigt in aller Deutlichkeit,
warum Europa starke digitale Schutzgesetze braucht.“
Für die Erstellung der pornografischen Deepfakes braucht es
keinerlei technische Kenntnisse. Mit einfachen Textbefehlen werden
sexualisierte Deepfakes und Missbrauchsdarstellungen erstellt und
öffentlich in Reply-Threads verbreitet. xAI räumte mittlerweile
selbst „Lücken in den Schutzmaßnahmen“ ein.
„Der Grok-Skandal zeigt, warum wir den AI Act und den Digital
Services Act so dringend brauchen. Diese Gesetze schützen Menschen
vor digitaler Gewalt durch mächtige Tech-Konzerne“, sagt Zorba. Umso
alarmierender ist, dass genau diese Schutzgesetze derzeit politisch
unter Druck geraten. Zorba: „Mit dem sogenannten ,Digitalen Omnibus‘
sollen zentrale Bestimmungen der europäischen Digitalgesetzgebung
aufgeweicht werden – ausgerechnet in einem Moment, in dem der Grok-
Skandal offenbart, wie real und konkret die Gefahren durch
unkontrollierte KI sind.“
Zorba fordert insbesondere auch die österreichische Regierung
auf, dringend aus ihrem Winterschlaf zu erwachen: „Die
Bundesregierung muss sich jetzt klar und unmissverständlich zu den
europäischen Digitalgesetzen bekennen und darf deren Aufweichung
nicht unterstützen. Wer digitale Schutzgesetze schwächt, stellt sich
gegen den Schutz von Frauen, Kindern und Grundrechten im digitalen
Raum.“
Während andere Staaten handeln, bleibt Österreich bei den eigenen
Hausaufgaben säumig. Schon im November haben die Grünen rechtliche
Nachschärfungen im Bereich von sexualisierten Deepfakes gefordert.
Aber auch die nationale KI-Behörde, die Staatssekretär Pröll zwar für
Herbst angekündigt hat und die nach europäischem Recht bereits seit
Sommer 2025 eingerichtet sein müsste, existiert bis heute nicht. „Wie
soll Österreich wirksam gegen KI-Missbrauch, Deepfakes und digitale
Gewalt vorgehen, wenn nicht einmal die gesetzlich vorgeschriebene KI-
Behörde eingerichtet wird?“, kritisiert Zorba und hält fest: „Starke
Gesetze brauchen eine funktionierende Durchsetzung. Ohne klare
Zuständigkeiten bleiben sie leere Versprechen.“