"Elon Musks Grok hat mich ohne mein Einverständnis auf X ausgezogen", teilte die stellvertretende schwedische Ministerpräsidentin Ebba Busch in einem kürzlich auf der Plattform veröffentlichten Video mit. Damit ist sie eines von zahllosen Opfern einer Funktion des KI-Chatbots Grok auf X, der Nutzenden die Möglichkeit gibt, Frauen und Kinder digital zu entkleiden. In weniger als zwei Wochen erzeugte Grok drei Millionen sexualisierter Bilder, darunter Zehntausende, die Kinder zu zeigen scheinen.

Mittlerweile hat die Europäische Kommission eine Untersuchung im Rahmen des Gesetzes über digitale Dienste (Digital Services Act, DSA), eingeleitet. Die Kommission will prüfen, "ob das Unternehmen die Risiken, die mit der Einbindung der Funktionen von Grok in die Plattform X in der EU verbunden sind, ordnungsgemäß bewertet und gemindert hat". 

Die Untersuchung könnte einen wichtigen Präzedenzfall für den Umgang von Technologieunternehmen mit persönlichen Daten und für den Schutz von Privatpersonen vor der Verletzung von Persönlichkeitsrechten im Netz schaffen. "Wenn sie gegen Musk vorgehen können, ist das eine riesige Sache", sagt Joanna Bryson, Professorin für Ethik und Technologie an der Hertie School in Berlin, zur DW. "Damit wissen alle, dass die EU es ernst meint."

EU-Gesetz zum Schutz vor KI-Gefahren

Doch über wieviel Macht verfügt die EU wirklich? Ihre Gesetze geben ihr die Möglichkeit, digitale Dienstleistungen fast genauso zu regulieren wie andere Produkte. So wie unsichere Spielzeuge oder Geräte vom europäischen Markt genommen werden können, können Online-Plattformen, die gegen EU-Vorschriften verstoßen, gezwungen werden, Änderungen umzusetzen - oder ganz vom EU-Markt ausgeschlossen werden.

"Das DSA bietet die vermutlich weltweit strengste Regulierung von Plattformen", sagt Philipp Hacker, Professor für Recht und Ethik der digitalen Gesellschaft an der Europa-Universität Viadrina in Frankfurt an der Oder. Das Gesetz richtet sich nicht gegen bestimmte Technologien, sondern befasst sich mit weit gefassten Kategorien wie "systemischen Risiken". So gibt sie der Europäischen Kommission die Flexibilität, auf neue Gefahren zu reagieren, die mit der Weiterentwicklung der künstlichen Intelligenz auftreten. Als das Gesetz 2022 in Kraft trat, gab es die Entkleidungsfunktion von Grok noch nicht.

Der EU stehen zwei zentrale Instrumente zur Durchsetzung zur Verfügung. Sie kann X mit einer Geldstrafe in Höhe von bis zu sechs Prozent seines weltweiten Jahresumsatzes belegen. Dieses Instrument kam bereits im Dezember zur Anwendung, als die Kommission eine Geldstrafe von 120 Millionen Euro (143 Millionen US-Dollar) gegen die Plattform verhängte, weil sie gegen die Transparenzvorschriften des Gesetzes verstoßen hatte. Bei wiederholten Verstößen kann die Kommission die Plattform innerhalb der gesamten EU blockieren. Doch im Moment scheint eine Geldstrafe der naheliegendste nächste Schritt.

Der europäische Binnenmarkt gehört zu den größten Verbrauchermärkten weltweit, daher verfügt die EU über erheblichen Einfluss auf globale Tech-Unternehmen.

Start der Grok-Untersuchung wegen Zollstreit verschoben

Trotzdem äußern manche Experten Zweifel, ob die Kommission entschlossen genug vorgehen wird, um einen nachhaltigen Präzedenzfall zu schaffen. "Wir haben jede Menge Bestimmungen, die grundlegende Rechte schützen. Das Problem ist die Durchsetzung: sicherzustellen, dass sie nicht missachtet werden", sagt Marco Bassini, Professor für Grundrechte und Künstliche Intelligenz an der niederländischen Universität Tilburg.

In einer Zeit angespannter Beziehungen zwischen der EU und den USA übt Brüssel Zurückhaltung und schöpft seine Regulierungsmöglichkeiten gegenüber US-amerikanischen Technologieunternehmen nicht vollständig aus. Dem "Handelsblatt" zufolge wurde der Start des Prüfverfahrens gegen Grok wegen des Zollstreits zwischen der EU und den USA über Grönland durch das Büro der Kommissionspräsidentin Ursula von der Leyen verzögert. 

"Ich glaube, das war ein großer Fehler", sagt die EU-Abgeordnete Alexandra Geese zur DW. "Man hatte sehr viel Angst vor der Reaktion der US-Regierung." US-Handelsminister Howard Lutnick hatte in der Vergangenheit Zollsenkungen mit einer Forderung an die Europäer verknüpft, die Regulierungsmaßnahmen gegen Tech-Unternehmen zu lockern.

Wie weit wird die EU wirklich gehen?

Zwar wird die Einleitung der Untersuchung als positives Signal gewertet, Zweifel darüber, wie weit die Kommission zu gehen bereit ist, bestehen jedoch weiterhin. "Es muss zwischen der rechtlichen Position und der geopolitischen Position unterschieden werden", sagt Bryson. "Die Kommission berücksichtigt beide."

Zudem steht infrage, inwieweit eine Geldstrafe in Höhe von sechs Prozent ausreicht, das Verhalten des reichsten Mannes der Welt, Elon Musk, zu ändern. "Wir sollten diesen Wert anheben, damit Unternehmen wirklich auf das achten, was der europäische Gesetzgeber fordert", meint der EU-Parlamentarier Axel Voss.

Wie lange die Untersuchung in Anspruch nehmen soll, ist nicht bekannt. Fachleuten zufolge könnte es Monate dauern, bis die Kommission zu einem Ergebnis kommt.

Adaptiert aus dem Englischen von Phoenix Hanzo.