Bis tief in die Nacht wurde verhandelt, dann die Einigung - zumindest in einem besonders skandalumwitterten Bereich: Die Mitgliedstaaten der EU und das Europäische Parlament haben sich auf ein Verbot von Künstlicher Intelligenz für Porno-Deepfakes und sexualisierte Bilder geeinigt.

Das sind täuschend echt wirkende Fotos und Videos, die mithilfe von Aufnahmen realer Personen erstellt werden und die Betroffenen dann ohne Einverständnis entblößt zeigen. Teilweise sind sie ganz nackt oder sogar bei sexuellen Handlungen zu sehen - samt entsprechendem Ton. Das wirkt dann so, als ob die Gezeigten Dinge tun oder sagen, die tatsächlich nie passiert sind.

Frauen und Kinder als Opfer

Opfer werden meistens Frauen. Auch Kinderpornografie wird mit solchen "Nudifier"-Apps und anderen KI-Anwendungen bereits massenhaft erstellt. Die Europaabgeordnete Svenja Hahn von der liberalen FDP begrüßte die Einigung: "KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein", so die Politikerin.

Das Verbot solcher KI-Anwendungen werde am 2. Dezember in Kraft treten, teilte eine Sprecherin von Zyperns Ratspräsidentschaft am frühen Donnerstagmorgen mit. Die KI-Systeme müssen nach Ablaufen der Frist mit Sicherheitsvorkehrungen ausgestattet sein, die sie davon abhalten, solche Inhalte zu erzeugen.

Die EU reagiert damit unter anderem auf Vorfälle von Anfang des Jahres, als Nutzende mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Drohende Haftstrafen in Deutschland

Deutschlands Bundesjustizministerin Stefanie Hubig forderte als nächsten Schritt, den "Schutz vor digitaler Gewalt auch im Strafrecht zu verbessern". Sie hatte dazu Anfang des Monats einen Gesetzentwurf vorgestellt. Denn die EU kann Anwendungen und technische Systeme verbieten, die einzelnen EU-Länder entscheiden über Strafen für Nutzende, die Deepfakes erstellen.

Hubigs Vorschlägen zufolge sollen das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden können. Die Ministerin will damit Gesetzeslücken schließen: Derzeit ist etwa das bloße Herstellen gefälschter pornografischer Aufnahmen hierzulande nicht strafbar.

In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Schauspielerin und Moderatorin Collien Fernandes Vorwürfe gegen ihren früheren Ehemann öffentlich machte. Dabei geht es allerdings nicht um Deepfakes. Fernandes wirft ihrem Ex vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben.

Gelöste KI-Bremse im Maschinenbau

Das Verbot von Deepfake-Porno-KI auf EU-Ebene ist Teil einer Reform eines KI-Gesetzes, das die EU 2024 beschlossen hatte. Die in der Nacht erzielten Neuerungen sollen in anderen Bereichen sogar zu einer Abschwächung geplanter Reglungen führen oder zumindest zu einer Verzögerung.

So wird die Frist für Vorgaben zu Hochrisiko-KI-Systemen - etwa ⁠im ⁠Bereich der Biometrie, bei kritischer Infrastruktur oder der Strafverfolgung - vom 2. August dieses Jahres auf den 2. Dezember 2027 verschoben. Zudem werden Maschinen aus dem sogenannten AI Act ausgenommen, da sie bereits anderen branchenspezifischen Vorschriften unterliegen.

Mit den Änderungen reagiert die EU auf Beschwerden aus der Wirtschaft über zu viel Bürokratie und Wettbewerbsnachteile gegenüber Rivalen aus den USA und Asien. Kritiker werfen der EU dagegen vor, vor den großen Technologiekonzernen eingeknickt zu sein.

Die Einigung unterstütze Unternehmen erheblich, indem sie wiederkehrende Verwaltungskosten senke, teilte die zyprische EU-Ratspräsidentschaft mit. Die Anpassungen sind Teil eines Vorstoßes der EU-Kommission, neue digitale Vorschriften zu vereinfachen.

Auch der deutsche Bundeskanzler Friedrich Merz hatte sich dafür ausgesprochen, die europäischen Regeln in diesem Bereich zu vereinfachen. Die jetzt geplanten Änderungen sollen dazu führen, dass sich etwa die Maschinenbaubranche beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss.

Nach der nächtlichen Einigung der Unterhändler müssen Mitgliedsstaaten und Europäisches Parlament den Kompromiss noch absegnen. Dies gilt nach Abschluss der Verhandlungen aber als Formalie.

AR/pgr (afp, rtr, dpa, epd)