Künstliche Intelligenz (KI) verändert ganze Branchen. Doch die KI-Revolution unserer Tage hat auch Schattenseiten, so die Warnung von Digitalrechtlern und Aktivisten auf der diesjährigen Technologiekonferenz re:publica in Deutschlands Hauptstadt Berlin.

"Algorithmen und KI sind zu neuen Diskriminierungsmustern geworden", sagt Ferda Ataman, Leiterin der Antidiskriminierungsstelle des Bundes. Unkontrolliert reproduziere KI-Technologie oft Vorurteile aus der analogen Welt. "Die Digitalisierung macht unser Leben leichter, aber sie macht auch Diskriminierung leichter", so Ataman.

Ihr Weckruf kommt zu einer Zeit, in der rasante Fortschritte in der KI zu beeindruckenden Durchbrüchen geführt haben, von neuen Methoden zur Diagnose und Behandlung von Krebs bis hin zu KI-Systemen, mit denen auch Menschen ohne technische Vorkenntnisse Bilder und Videos scheinbar aus dem Nichts erschaffen können.

Gleichzeitig warnen Experten davor, die negativen Folgen der Technologie zu übersehen - während die schwächsten Mitglieder der Gesellschaft und Länder des globalen Südens deren Hauptlast tragen.

KI-Überwachung

Der Einsatz neuer KI-gestützter Überwachungstechnologien veranschauliche das, so die Digitalpolitik-Analystin Antonella Napolitano. In einem Bericht für die Menschenrechtsorganisation EuroMed Rights argumentiert sie, dass die Europäische Union im Rahmen eines "Outsourcing" ihrer Außengrenzkontrollen Unternehmen finanziere, die neue KI-gestützte Überwachungsinstrumente an Migranten in Nordafrika testen - also von Menschen, deren persönliche Daten nicht durch dieselben strengen Datenschutzbestimmungen geschützt sind wie die von EU-Bürgern.

"Für die Unternehmen ist es einfacher, ihre Technologien an diesen Menschen zu testen, ohne Konsequenzen fürchten zu müssen", sagte Napolitano der DW. "Dabei sind die Konsequenzen für die Menschen selbst sehr real." So sei zu beobachten, dass Migranten auf gefährlichere Routen ausweichen, um einer zunehmenden Hightech-Überwachung zu entgehen.

"Datenkolonialismus"

Vor diesem Hintergrund haben einige Digitalrechtler begonnen, Parallelen zur Geschichte des Kolonialismus seit dem 15. Jahrhundert zu ziehen, als europäische Kolonialmächte begannen, große Teile der Welt auszubeuten. Ein weiterer Aspekt dieses neuen "Datenkolonialismus" sei, dass viele westliche Unternehmen heute Daten im globalen Süden sammeln und verarbeiten, um damit ihre KI-Systeme zu füttern, so Mercy Mutemi, eine auf Digitalrecht spezialisierte Anwältin aus Kenia: "Hier wiederholt sich die Geschichte."

Die meisten heutigen KI-Systeme basieren auf der Analyse riesiger Datenmengen. Um diese Nachfrage zu befriedigen, sammeln westliche Unternehmen massenhaft Daten von Menschen in ganz Afrika, oft ohne deren Zustimmung oder eine Gegenleistung, so Mutemi. Als Anwältin ist sie an einem Dutzend Gerichtsverfahren gegen Technologieunternehmen in ihrem Heimatland beteiligt. Dieses Phänomen, so Mutemi im DW-Interview, werde sich in den kommenden Jahren mit der Nachfrage der KI-Industrie nach mehr und mehr Daten noch verstärken.

Klima-Schäden

Gleichzeitig warnen Experten vor den möglichen Auswirkungen der rasanten KI-Entwicklung auf die Umwelt. Für das Trainieren und Ausführen komplexer KI-Modelle braucht es enorme Rechenleistung. Die dafür benötigten Rechenzentren sind wegen ihres Wasserverbrauchs, Treibhausgasausstoßes und Energieverbrauchs in der Kritik: So sind sie nach Schätzungen der Internationalen Energieagentur schon heute für mehr als zwei Prozent des weltweiten Stromverbrauchs verantwortlich.

Das Aufkommen neuer, besonders energieintensiver KI-Tools werde diesen Energieverbrauch weiter in die Höhe treiben, sagt der kanadische Autor und Technologiekritiker Paris Marx. In den kommenden Jahren erwartet er einen "KI-getriebenen Rechenzentrumsboom", der von den kommerziellen Interessen einiger mächtiger Technologieunternehmen angetrieben würde. "Es werden gerade enorme Investitionen getätigt, um mehr Rechenzentren an vielen Orten der Welt zu bauen", so Marx.