¿Cómo nos afecta a los humanos el hecho que la inteligencia artificial (IA) determine emociones, sentimientos y estados de ánimo? ¿Nos puede llevar a tomar decisiones manipuladas?

Mientras la filósofa Claudia Paganini habla en el aula principal de la Univesidad Humboldt de Berlín, cae una tormenta que oscurece la tarde. Pero "la IA bien puede crear fácilmente una foto  de una hermosa puesta de sol”, dice Paganini, ya que puede tener un efecto manipulador en las redes sociales. Algo parecido ocurre con la voz falsa de un político en la cronología de Instagram, o con las fotos falsificadas por IA que se distribuyen también con el logotipo falso de un medio un reputado medio de comunicación.

La escena se produce durante un debate de profesionales de los medios de comunicación, entre ellos, también del Bundestag alemán, sobre el "poder de los hechos" y el "periodismo en tiempos de desinformación e IA generativa".

DW había invitado al campus de la Facultad de Medicina de la Universidad Humboldt a mediados de septiembre, como parte de su programa para conmemorar el 70 aniversario del medio público alemán para el exterior. El debate trataba las bondades y los peligros de la IA en los medios de comunicación. En el mundo de los medios, la IA parece ser "una pesadilla para todos los que se ocupan de la desinformación", dice el director general de DW, Peter Limbourg.

Los engaños siempre han existido

"Los engaños múltiples siempre han existido", dice la profesora Paganini, tratando de aplacar los temores. Y trae una sugerencia: el periodismo, con su pretensión de "veracidad", es decir, de representación lo más fiel posible de la realidad, debe desarrollar más "transparencia", y presentar del mismo modo al emisor de la información, es decir, a cada periodista y su experiencia. "La transparencia es la nueva veracidad", formula la filósofa.

Lo que hace falta es una "cultura del error", mucho más extendida en Estados Unidos que en Alemania, opina Tabea Rößner, diputada del Parlamento alemán por el partido Los Verdes. Rößner fue periodista, y ahora ve en peligro la credibilidad de la profesión: "El periodismo se nutre de la autenticidad y la veracidad". Antes de utilizar la IA en general, pero también en el periodismo, debe realizarse una "evaluación tecnológica". En la Unión Europea se está redactando actualmente la normativa correspondiente. Rößner espera que esta también sea adoptada por las empresas tecnológicas en Estados Unidos, de forma similar a las normas de la UE sobre protección de datos en internet hace años.

El rápido desarrollo se une a la desinformación

El desarrollo de productos que permiten decir frases generadas artificialmente a partir de cualquier contenido en videos, casi fieles al original, refuerza la impresión de peligros inminentes. En referencia a las fábricas de troles rusos, o a los proveedores privados que ganan dinero con el negocio de la desinformación en las redes sociales, el parlamentario socialdemócrata (SPD) Helge Lindh habla de una "gran internacional de la desinformación". Sobre todo, porque las cada vez más sofisticadas aplicaciones de IA en Alemania también se enfrentan a un clima social atizado por los populistas.

"Hemos desarrollado una cultura de la indignación", afirma Christiane Schenderlein, diputada cristianodemócrata (CDU) y experta en Cultura. Además, critican los diputados presentes, junto a hechos y análisis, se difunde deliberadamente informaciones falsas para instrumentalizar las emociones en el debate político.

Inteligencia artificial, ¿una clave para encontrar la verdad?

Pero "la tecnología es la mejor palanca para proteger nuestra democracia", está convencido Sven Weizenegger, que dirige el Centro de Ciberinnovación del Ejército alemán. La Bundeswehr está desarrollando algoritmos que distinguen la información falsa de la correcta con consecuencias de gran alcance en el mundo análogo: para decisiones de despliegue estratégico que salvan vidas humanas en caso de duda, por ejemplo.

Un vistazo a la guerra de agresión de Rusia contra Ucrania muestra lo rápido que avanza el desarrollo. Desde el verano pasado, el Ejército ucraniano ha podido "reducir su uso de munición entre un 80 y un 90 por ciento" gracias al uso de programas de IA en el frente, según el experto en TI. Rusia, en cambio, sigue bombardeando ampliamente Ucrania.

Por último, la filósofa de los medios de comunicación Claudia Paganini está convencida de que, en última instancia, los seres humanos saldrán más beneficiados que perjudicados del uso de la inteligencia artificial.

Ella cree que, con la creciente concientización sobre los peligros, aumenta la presión para buscar soluciones, y encontrarlas. La científica plasma su optimismo en una imagen: "Si el viaje a la escuela de los propios hijos se convierte en un peligro", sea cual fuere el motivo, la sociedad democrática hará todo lo posible por eliminar ese peligro”. Y asegura que espera respuestas flexibles al rápido desarrollo de las aplicaciones de IA.

(jov/cp)