Der Rat der 27 EU-Mitgliedstaaten hat in Brüssel das KI-Gesetz beschlossen, das die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten regelt. Das Gesetz greift allerdings erst ab Frühjahr 2026. Die Neuregelung, der das EU-Parlament bereits im März zugestimmt hat, zielt darauf ab, die Nutzung Künstlicher Intelligenz in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.

Vorgesehen ist etwa eine Kennzeichnungspflicht: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Experten halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen.

Kein "Social Scoring" wie in China

Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden in der Volksrepublik China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.

Auch die Gesichtserkennung im öffentlichen Raum - zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen, wenn eine richterliche Anordnung vorliegt: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen. Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure innerhalb wie außerhalb der EU.

Amnesty International hatte angesichts der jüngsten Reform des EU-Asylrechts gewarnt, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht streng genug geregelt, kritisierten auch Europaabgeordnete von SPD und Linken.

Die Bundesregierung hatte sich auf EU-Ebene nach eigenen Angaben dafür eingesetzt, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen. Durch ChatGPT hatte KI vor gut einem Jahr schlagartig große Aufmerksamkeit bekommen. Die Anwendung kann mit Nutzerinnen und Nutzern über Textnachrichten kommunizieren und in Sekundenschnelle ausführliche Antworten auf Fragen geben. Inzwischen kann sie auch Bilder erstellen, die täuschend echt aussehen. Alternative Programme sind etwa Picsart, DeepAI oder Bard von Microsoft.

Bei Verstößen drohen Geldstrafen

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre später, also im Frühjahr 2026, sollen sie greifen. Bis dahin setzt die EU-Kommission auf freiwillige Absprachen mit den Unternehmen. Kritiker befürchten, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.

Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße entdecken, können sich bei nationalen Behörden beschweren. Diese können Überwachungsverfahren einleiten und Strafen verhängen.

"Regulierungsarbeit beginnt jetzt erst"

Der Digitalverband Bitkom kritisierte, dass das KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und anderen EU-Ländern beginne die Regulierungsarbeit erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie der Rahmen ausgestaltet werde und die Regelungen in Deutschland angewendet würden.

Das KI-Gesetz müsse in Deutschland auf "innovationsfreundliche" Weise umgesetzt werden, betonte Bundesdigitalminister Volker Wissing in Brüssel. Es gelte, KI-Technologien "in den eigenen Händen" zu behalten. "Künstliche Intelligenz ist eine Schlüsseltechnologie, von der unsere Wettbewerbsfähigkeit abhängt", betonte der FDP-Politiker. Er räumte ein, dass der Gesetzgeber bei einer so sich schnell verändernden Technologie wie KI dauerhaft gefordert sei. "Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern."

kle/sti (afp, dpa)