Mit der Künstlichen Intelligenz (KI) "Grok" können User_innen auf X (ehemals Twitter) ganz einfach Bilder von Menschen manipulieren. Das reicht vom Entstellen und Ausziehen bis hin zu sexualisierten Videos. Betroffen sind vor allem Frauen und sogar Kinder. Grok-Eigentümer Elon Musk sieht darin kein Problem. Auch die EU greift nicht ein. Fordere jetzt gemeinsam mit uns Staatssekretär Alexander Pröll auf: Stoppen Sie Grok!
Die EU hat eigentlich strenge Datenschutzgesetze – noch fehlen aber konkrete Konsequenzen [6]. Österreich kann sich in der EU als Vorreiter stark machen, um Frauen und Kinder zu schützen. Staatssekretär Alexander Pröll ist für KI und Datenschutz zuständig und kann Grok sperren. Je mehr Menschen zeigen, was wir von der Missbrauchs-KI halten, desto höher wird der Druck auf Pröll rasch zu handeln. Unterzeichne auch du und fordere ihn auf: Stoppen Sie Grok!
Mehr
Die KI Grok erkennt antisemitische Inhalte nicht – von antisemitischen Verschwörungsmythen bis hin zu Holocaust‑Leugnungen. In Tests hat Grok ohne Widerstand judenfeindliche Texte zusammengefasst und antisemitische Argumentationen geliefert [7]. Elon Musk höchstpersönlich setzt sich außerdem dafür ein, dass Grok sich nicht an das hält, was für ihn unter „politische Korrektheit“ fällt. Die KI bezeichnete sich selbst als "MechaHitler", der bestimmte Menschen "zusammentreiben, Rechte entziehen und die Bedrohung durch Lager und Schlimmeres eliminieren" würde. Nach Kritik hat X bzw. Musk angekündigt, Grok zu überarbeiten. Passiert ist wenig. Vielmehr zeigt auch dieses Beispiel, wie problematisch Grok ist [8].
Warum die EU zögert und was Österreich tun kann
Die Regierung könnte Grok in Österreich sperren. Sollte die Sperre angefochten werden, könnte Österreich den Rechtsweg gehen und eine Klärung durch den Europäischen Gerichtshof holen [9]. Denn das EU Gesetz “Digital Services Act”, welches die Grundrechte schützen soll, wird bisher nur im Rahmen von Prüfverfahren und Ankündigungen bei Grok angesetzt. Konkrete Eingriffe fehlen. Dabei könnte die EU Strafen verhängen und wenn Gefahr akut ist, die KI auch sperren. Grok-Besitzer Elon Musk hat auf die EU Untersuchung mit Drohungen reagiert und schiebt Nutzer_innen die Verantwortung zu [6]. Fest steht: Die Missbrauchsbilder von Grok verstoßen gegen das Recht am eigenen Bild und entwürdigen die betroffenen Menschen [6].
[2] taz, 13.01.2026: Renée Good: Wenn KI die Totenruhe stört
[3] Der Standard, 08.01.2026: Deepfakes: Grok wird zum Werkzeug für Pädophile, die Investoren freut's
[4] Der Standard, 12.01.2026: Grok: Weltweiter Kampf gegen sexualisierte "Entkleidungs"-Inhalte
[5] Der Standard, 09.01.2026: Grok: Nur noch zahlende Kunden dürfen andere auf X sexuell belästigen
[6] Falter, 13.01.2026: Deepfakes: Elon Musks KI macht Kinderporno. Warum schaut die EU dabei zu?
[7] Der Standard, 29.01.2026: Grok ist der Chatbot mit dem größten Antisemitismus-Problem
[8] Der Standard, 09.07.2025: Notbremse für Musks Chatbot Grok, nachdem er sich als "MechaHitler" bezeichnet hat
[9] Falter, 27.01.2026: Social-Media-Verbot: Eine Sperre für Kids ist sinnvoll – wenn richtig gemacht