KI-Deepfakes auf X: EU-Recht durchsetzen, Menschen schützen

„Ist das echt?“ Diese Frage stellen sich derzeit Millionen Nutzer auf Plattformen wie X. In Schweden traf sie jüngst sogar ein Mitglied der Regierung: Die stellvertretende Ministerpräsidentin Ebba Busch wurde Ziel KI-generierter Deepfakes, die täuschend echt wirkten und binnen kürzester Zeit massenhaft verbreitet wurden. Diese rasante Verbreitung KI-generierter Deepfakes und die zunehmende sexuelle Ausbeutung im digitalen Raum stellen eine ernsthafte Bedrohung für Menschenwürde, Sicherheit und Vertrauen dar. Besonders deutlich wird dies derzeit am Beispiel der Plattform X und ihres KI-Chatbots Grok.

Berichte, wonach über Grok die Erstellung sexualisierter Bilder von Frauen und sogar Kindern erleichtert wurde, haben international Empörung ausgelöst. Mehrere Staaten haben Ermittlungen eingeleitet oder die Plattform eingeschränkt. 

Der Fall zeigt: Technologischer Fortschritt ohne klare Grenzen und Verantwortung gefährdet Grundrechte, insbesondere die von Frauen, Kindern und schutzbedürftigen Personen. Bereits ein einziges Bild kann ausreichen, um eine Person mithilfe von KI vollständig zu entkleiden und dauerhaft zu schädigen.

Plattformen wie X sind verpflichtet, systemische Risiken für Grund- und Persönlichkeitsrechte zu identifizieren und zu eliminieren. Dennoch entsteht zunehmend der Eindruck, dass sich einzelne Tech-Giganten über geltendes Recht hinwegsetzen oder ihre Verantwortung bewusst ignorieren.

Dabei verfügt die Europäische Union mit dem Digital Services Act und dem Artificial Intelligence Act über starke Instrumente. Diese verpflichten Plattformen zu Transparenz, wirksamer Risikominimierung und zur Entfernung illegaler Inhalte. Im Dezember 2025 verhängte die Europäische Kommission erstmals eine Geldbuße in Höhe von 120 Millionen Euro gegen X wegen Verstößen gegen Transparenzpflichten, irreführender „Verifizierungs“-Mechanismen und mangelnden Zugangs für Forschende. Weitere Untersuchungen zur Verbreitung illegaler Inhalte und zur Informationsmanipulation laufen.

Dieses Vorgehen ist ein wichtiges Signal, darf jedoch nicht das Ende der politischen Anstrengungen markieren. Entscheidend ist jetzt eine konsequente und schnelle Durchsetzung des geltenden Rechts. Wo bestehende Regeln nicht ausreichen, müssen sie gezielt nachgeschärft werden. Verbindliche Kennzeichnungen für KI-generierte Inhalte und wirksame Schutzmechanismen gegen Missbrauch sind unverzichtbar.

Europa muss deutlich machen: Digitale Innovation muss dem Menschen dienen, nicht umgekehrt. Ein sicherer digitaler Raum ist keine Innovationsbremse, sondern die Grundlage für Vertrauen, Freiheit und verantwortungsvollen technologischen Fortschritt.