Die EU-Kommission will Künstliche Intelligenz in Europa stärker regulieren, vertrauenswürdiger machen, aber auch ihre Anwendung breit fördern. Warum? Dazu muss man erst einmal wissen, was  Künstliche Intelligenz (KI)  ist. Darunter versteht man lernende Computerprogramme, die riesige Datenmengen auswerten und so beispielsweise die Reaktionen und das Verhalten von Nutzern analysieren können. Die Algorithmen in diesen Computerprogrammen reagieren auf ihre Nutzer und wandeln sich selbstständig. KI findet man heute in zahlreichen Anwendungen in der Medizintechnik, in selbstfahrenden Autos, in der Gesichtserkennung, aber auch in Spielzeug, das mit Kindern spricht und auf ihre Antworten reagiert.

"Wir wissen, dass KI in vielen Geschäftsbereichen, in Finanztransaktionen und Computerprogrammen eingesetzt wird, aber es kann noch viel mehr erreicht werden in Bereichen, die jetzt am Beginn ihrer Digitalisierung stehen", sagt Hans De Canck vom Zentrum für Künstliche Intelligenz an der Freien Universität Brüssel (VUB). In der Landwirtschaft oder der Medizin gebe es große Potenziale, meint der Forscher gegenüber der DW. "In der COVID-Krise haben wir gesehen, dass KI einen großen Einfluss hat, wenn es um die schnellere Entwicklung von Diagnose- und Medizinanwendungen geht."

KI erlebt einen Boom und wird im Laufe der kommenden Jahre mehr und mehr Lebensbereiche durchdringen. Davon ist nicht nur Hans de Canck überzeugt, sondern auch die Vizepräsidentin der EU-Kommission, Margrethe Vestager. Ihr Ressort trägt den programmatischen Namen "Europa fit für das digitale Zeitalter". 

"Vertrauen schaffen, Risiken managen"

Drei Jahre lang haben Vestagers Beamte an einer Marktordnung für KI gearbeitet. An diesem Mittwoch wurden die Vorschläge in Brüssel vorgestellt. "Wir müssen in der EU Weltklasse bei der Regulierung und Anwendung von Künstlicher Intelligenz sein", hat Margrethe Vestager als Ziel ausgegeben. Es gelte, sich die großen Vorteile und Chancen zu sichern, die die neue digitale Welt biete, so die dänische EU-Kommissarin. "Wir schaffen Vertrauen in KI. Das geht nur, wenn wir die Risiken managen können."

Die große Masse der KI-Anwendungen, wie zum Beispiel Spam-Filter oder Maschinensteuerungen in Fabriken, seien völlig unproblematisch, schreibt die EU-Kommission in ihren Regulierungsvorschlägen. Es gebe aber Anwendungen mit begrenzten Risiken, wie zum Bespiel Chat-Bots, die im Kundendienst großer Unternehmen eingesetzt werden. Hier müsse den Kunden vor allem klar mitgeteilt werden, dass sie mit einer lernfähigen Maschine, aber nicht mit Menschen kommunizieren. Als sehr risikoreich sieht EU-Kommissarin Vestager Applikationen, die Menschen beurteilen oder ihr Verhalten steuern sollen. Zu dieser Gruppe, die streng reguliert werden soll, gehören autonome Fahrzeuge oder Programme, die Job-Bewerber auswählen und Lebensläufe auswerten.

Menschliche Aufsicht

Bei diesem Beispiel stimmt der KI-Experte Hans De Canck von der Freien Universität in Brüssel zu. Computer, die Lebensläufe auswerten, könnten, so De Canck, schlimme Vorurteile haben und Fehlentscheidungen treffen. "Wenn man einem Algorithmus eine solche Auswahl treffen lässt, dann stützt er sich auf die Daten der besten Kandidaten aus den vergangenen 30 Jahren."  Dann werde der Algorithmus immer den 35 Jahre alten weißen Mann auswählen, weil das immer schon so gewesen sei, so De Canck. Deshalb müsse man ethische und menschliche Kriterien in die Programme einbauen. Die EU-Kommission fordert in solchen Fällen "menschliche Aufsicht" über die Algorithmen. Die dürften in kritischen Bereichen, wo es auch um Moral und Anstand gehe, nicht alleine entscheiden, fordert EU-Kommissarin Magrethe Vestager.

Völlig verbieten will die EU-Kommission eine massenhafte Gesichtserkennung auf öffentlichen Plätzen mit Hilfe von Künstlicher Intelligenz. Das laufe der europäischen Auffassung von Datenschutz und Grundrechten zuwider. Erlaubt bleiben soll jedoch die Gesichtserkennung für einzelne Personen bei Grenzkontrollen oder bei der Strafverfolgung durch die Polizei. Untersagen will die EU-Kommission "intelligente Spielzeuge", die Kinder zu gefährlichen Handlungen anleiten könnten. Lern-Software oder sogenannte Pflege-Roboter, die Menschen in Altenheimen assistieren, bleiben jedoch erlaubt.

KI-Unternehmen nach Europa holen

Die EU wolle Entwickler und Anbieter von KI nicht aus Europa vertreiben, sondern im Gegenteil fördern und zur Niederlassung in der EU bewegen, sagte der für Industriepolitik zuständige EU-Kommissar Thierry Breton. Die Firmen sollten durch finanzielle Förder- und Forschungsprogramme angelockt werden - und vor allem durch einen sicheren, transparenten Umgang mit KI. Produkte, die in der EU entwickelt und zugelassen würden, seien attraktiv für den gesamten Weltmarkt, so Breton. "Wir müssen sicherstellen, dass die EU dabei nicht von ausländischen oder einzelnen Providern abhängig ist", forderte Breton. Die industriellen Daten, die für KI nötig seien, sollten in der EU erhoben, gespeichert und verarbeitet werden. In den kommenden sieben Jahren will die EU 140 Milliarden Euro in KI und Digitalisierung investieren, versprach der französische EU-Kommissar.

Einen konkreten Zeitplan, wann die entsprechenden Gesetze und Regulierungen in der EU in Kraft treten sollen und es zum Beispiel eine europäische Daten-Cloud geben könnte, nannte Vizepräsidentin Margrethe Vestager auf Nachfrage nicht. Es sei aber sicher, dass es schnell gehen müsse, denn die Algorithmen und die Digitalisierung warteten nicht: "Die EU war in den vergangenen Jahren in diesem Bereich nicht führend, aber wir können die nächste Welle der Entwicklung anführen."

Der Bundesverband der deutschen Industrie (BDI) sieht die Vorschläge der EU-Kommission kritisch. Die als riskant eingestufte Gruppe von KI-Anwendungen sei zu weit gefasst. Es gebe Bedarf für Nachbesserung. "Industrielle Einsatzfelder von KI müssen vom Anwendungsbereich der Verordnung ausgenommen werden. Sonst besteht die große Gefahr, dass durch eine Überregulierung die Entwicklung innovativer Anwendungen der Schlüsseltechnologie KI bereits im Ansatz geschwächt wird", erklärte Iris Plöger vom BDI. Nur wenn der Rahmen stimme, könnten die Unternehmen mit den Herstellern in China, Israel oder den USA konkurrieren.