Was macht es mit uns Menschen, wenn Künstliche Intelligenz (KI) Emotionen, Gefühle, Stimmungen bestimmt? Und so womöglich zu manipulierten Entscheidungen führt? Plötzlich ist diese Frage ganz konkret als der Sonnenuntergang an diesem Spätsommerabend den Festsaal der Berliner Humboldt-Universität nach einem Regenschauer in warmes Licht hüllt. Auf dem Podium spricht gerade die Philosophin Claudia Paganini und sie greift auf dem Podium dieses Naturereignis und seine Wirkung auf die Gäste auf. Auch KI könne problemlos ein Foto eines schönen Sonnenuntergangs erstellen, sagt Paganini. Und könne verbreitet in Sozialen Medien manipulativ Wirkung entfalten. Ähnlich verhalte es sich mit der gefälschten Politikerstimme in der Instagram-Timeline oder KI-gefälschten Fotos, die auch noch mit dem gefälschten Logo eines seriösen Medienhauses verbreitet werden.

Die Szene ereignet sich während einer Diskussion von Medien-Fachleuten, auch aus dem Deutschen Bundestag, über die "Macht der Fakten" und den "Journalismus in Zeiten von Desinformation und generativer KI".

Die Deutsche Welle hatte im Rahmen ihres Programms zum 70-jährigen Bestehen des deutschen Auslandsrundfunks Mitte September auf den Medizin-Campus der Humboldt-Universität eingeladen: Zu einem Gespräch über Segen und Gefahren von KI im Mediengeschäft. In der Onkologie des Humboldt-Klinikums Charité scheint der Segen zu überwiegen: Dort arbeiten Forscher an KI-gestützter Krebsfrüherkennung. In der Medienwelt dagegen erscheint KI gerade "für alle, die sich mit Desinformation beschäftigen, als Alptraum", so DW-Intendant Peter Limbourg. Sein Haus wolle helfen, die Entwicklungen einzuordnen.

Täuschung gab es schon vor KI

"Vielfältige Täuschungen gab es schon immer", sagt die Münchner Professorin Paganini und versucht, die hitzig geführte Debatte über die Gefahren von Manipulation durch künstliche Intelligenz zumindest etwas zu beruhigen. Und sie hat einen Vorschlag: Der Journalismus mit seinem Anspruch von "Wahrhaftigkeit", also der möglichst originalgetreuen Abbildung der Wirklichkeit, müsse mehr "Transparenz" entwickeln – und den Absender der Information, also die Journalistin oder den Journalisten und ihre Expertise genauso präsentieren. "Transparenz ist die neue Wahrhaftigkeit", formuliert die Philosophin.

Nötig sei eine "Fehlerkultur", die in den USA deutlich weiter verbreitet sei als in Deutschland, sagt die Bundestagsabgeordnete Tabea Rößner. Die Grünen-Abgeordnete war selbst einmal Journalistin. Jetzt sieht sie die Glaubwürdigkeit des Berufes in Gefahr: "Journalismus lebt von Authentizität und Wahrhaftigkeit." Vor dem Einsatz von KI insgesamt aber auch im Journalismus müsse eine "Technikfolgenabschätzung" stehen. In der Europäischen Union werde derzeit eine entsprechende Verordnung erarbeitet. Rößner hofft, dass die auch von den Tech-Firmen in den USA übernommen wird - ähnlich wie vor Jahren schon die EU-Regeln zum Datenschutz im Netz.

Rasante Entwicklung trifft auf Desinformation

Vor welche Herausforderungen Politikerinnen und Politikern der Umgang mit der immer schnelleren Entwicklung von neuen KI-Software-Produkten stellt, macht der SPD-Abgeordnete Helge Lindh deutlich: "Wir sind im Live-Labor und versuchen gleichzeitig Teilnehmende und Beobachter zu sein." Die Entwicklung von Produkten, die nahezu originalgetreu Menschen in Videos künstlich generierte Sätze jedweden Inhalts sagen lassen, verstärkt den Eindruck drohender Gefahren. Mit Blick auf russische Trollfabriken oder private Anbieter, die mit dem Geschäft der Desinformation in sozialen Netzwerken Geld verdienen, spricht der SPD-Parlamentarier von einer "großen Internationale der Desinformation".

Zumal die immer ausgereifteren KI-Anwendungen auch in Deutschland auf ein von Populisten aufgeheiztes gesellschaftliches Klima treffen. "Wir haben eine Empörungskultur entwickelt", konstatiert die CDU-Abgeordnete und Kulturpolitikerin Christiane Schenderlein. Neben Fakten und Analysen würden bewusst verbreitete Falschinformationen treten, um in der politischen Auseinandersetzung Emotionen zu instrumentalisieren – das beklagen alle drei Abgeordnete auf dem Podium der DW-Veranstaltung. 

KI - Hebel zur Wahrheitsfindung?

Doch "Technologie ist der beste Hebel, um unsere Demokratie zu schützen", ist wiederum Sven Weizenegger überzeugt. Er leitet den "Cyber Innovation Hub" des deutschen Militärs. Die Bundeswehr entwickelt Algorithmen, die falsche von richtigen Informationen unterscheiden - "das passiert schon jetzt", so Weizenegger. Mit weitreichenden Folgen in der analogen Welt: Etwa für strategische Einsatzentscheidungen, die im Zweifelsfall Menschenleben retten. Wie schnell die Entwicklung voranschreite, zeige der Blick auf Russlands Angriffskrieg gegen die Ukraine. Seit vergangenem Sommer habe die ukrainische Armee durch den Einsatz von KI-Programmen an der Front ihren "Munitionseinsatz um 80-90 Prozent verringern" können, so der IT-Fachmann. Russland hingegen bombardiere weiter flächendeckend.

Schließlich gibt sich auch die Medien-Philosophin Claudia Paganini überzeugt, dass der Mensch am Ende mehr Nutzen als Schaden haben werde durch die Anwendung künstlicher Intelligenz. Und zwar dann, wenn der Mensch sich auf das "zutiefst Menschliche" besinnt im Umgang mit der Technologie. Sie setzt darauf, dass bei wachsendem Bewusstsein der Gefahren der Druck wachse, Lösungen zu suchen - und zu finden. Die Wissenschaftlerin packt ihren Optimismus in ein Bild: "Wenn der Schulweg der eigenen Kinder zur Gefahr wird", egal aus welchem Grund, werde die demokratische Gesellschaft alles tun, um diese Gefahr abzustellen. Sie erwarte flexible Antworten auf die rasante Entwicklung von KI-Anwendungen.

Kurz nach Ende der Veranstaltung quellen Berliner Instagram-Konten über mit Fotos von Stadtansichten: Regenbogen über der Hauptstadt nach dem Schauer zum Sonnenuntergang, der zuvor den Festsaal der Humboldt-Universität in warmes Licht getaucht hatte. Die meisten ohne Filter – ganz ohne künstliche Intelligenz.