“Deepfakers”, los caciques del siglo XXI

Los deepfakes, también conocidos como “medios sintéticos”, son vídeos, imágenes o audios generados que imitan la apariencia y el sonido de una persona. Esta tecnología tan convincente en su simulación de la realidad puede engañar tanto a personas como a los propios algoritmos. Son aplicados comúnmente en vídeos o elementos como filtros de realidad aumentada.

El término deepfake surge de la combinación de “deep learning” y “fake”, reflejando que se refiere a algo falso producido por la tecnología de aprendizaje profundo. Existen aplicaciones de consumo que emplean esta tecnología para el entretenimiento, como FaceSwap, pero su creciente disponibilidad, popularidad y cada vez mayor precisión y recursos, plantea preocupaciones sobre su potencial uso malicioso.

Manipular a los candidatos, manipular a la población

Estados Unidos, 2024. Los postulantes a candidatos van tomando posiciones. Entre ellos, la sombra de Trump asoma apoyado por sus clásicos seguidores creyentes de la conspiración. En esta ocasión su objetivo ha vuelto a ser la demócrata Hillary Clinton: los trumpistas viralizan y dan credibilidad a un deepfake dónde se ve a Clinton apoyar al republicano Ron DeSantis. “Los partidarios de Donald Trump se han atribuido el mérito de producir un video falso que muestra a Hillary Clinton respaldando a Ron DeSantis para la presidencia”, se ha pronunciado la OECD.AI Policy Observatory catalogando el vídeo como bulo.

El deepfake en contexto electoral político se ha convertido en uno de esos principales usos maliciosos que la herramienta puede tener. No es la primera vez que se ve un fenómeno así, la desinformación a través de este método es cada vez más habitual, mermando así la confianza de las personas en las instituciones además de ser un recurso amplio de manipulación. Mario García, director general para España y Portugal de la tecnológica de seguridad informática Check Point Software añade como precedentes el ejemplo de que en las elecciones en Eslovaquia, circularon en redes sociales grabaciones deepfake del líder de un partido haciéndose pasar por un candidato liberal y hablando de manipular elecciones, lo que influía potencialmente en los resultados. Mediante esta misma técnica, en enero de 2024, se distribuyó una llamada automática en la que se escuchaba la voz falsa de Joe Biden, el actual presidente de EE. UU. y candidato de nuevo a las elecciones, en la que incitaba a los habitantes de New Hampshire a no votar.

El escenario favorito de la desinformación

Los procesos electorales son el peak del deepfake: en épocas de elecciones hay un notable incremento en la utilización de cuentas falsas para difundir desinformación o noticias falsas, llegando a representar hasta el 80% de aumento según contabilizó Meta (Facebook, Instagram y WhatsApp). Estas cuentas fraudulentas se vuelven cada vez más difíciles de identificar tanto para las plataformas como para los usuarios, en gran medida debido al empleo de la Inteligencia Artificial. Así puntualiza Mario García, que explica que desde la tecnológica de seguridad informática han analizado más de 36 campañas electorales a nivel mundial y han descubierto que una tercera parte de ellas incluye material de audio y video generado por IA: “esto destaca una evolución hacia la desinformación y manipulación de los procesos democráticos. La sofisticación y accesibilidad de las tecnologías de IA han llegado a un punto en el que pueden usarse fácilmente para influir en el proceso democrático”.

Citando un informe de Check Point Research, incide en el hecho de que en los mercados criminales de Internet se está viendo un aumento en el uso de herramientas sofisticadas que incorporan funcionalidades de IA para crear deepfakes y administrar cuentas de redes sociales. Un caso paradigmático es el de una plataforma que se ofrece en un foro clandestino ruso y que utiliza IA para automatizar la distribución de contenidos a través de perfiles falsos en Instagram y Facebook. Esta plataforma puede manejar cientos de cuentas, realizar publicaciones diarias y es especialmente hábil en campañas de influencia electoral a gran escala.

Google, Microsoft y Meta han acordado recientemente limitar los deepfakes electorales, pero no los prohibirán. Además de la creación de contenido falseado, la IA actúa como coordinadora de lanzamientos masivos de desinformación, como apunta Mario Garcia, “las redes sociales desempeñan un papel crucial en la amplificación de contenido falso y manipulado debido a su capacidad para distribuir información rápidamente a una gran audiencia”.

El yin y el yang de la IA

Aquello de que un gran poder conlleva una gran responsabilidad es aplicable en esta situación. La Inteligencia Artificial es un recurso de gran potencia que tiene un fuerte impacto y una capacidad real de influencia. Entre el yin y el yang, el mal uso de la IA en caso de deepfake electoral, se puede contrarrestar con el buen uso de la IA para el fact checking. “Es posible el empleo de modelos avanzados de IA para construir herramientas encaminadas a detectar información falsa. Gracias a las características de estos modelos, como la multilingualidad o su capacidad para considerar el contexto y la semántica del lenguaje, permiten ofrecer soluciones donde algunas barreras, como la del idioma, se diluyen”, apunta el informe “Luchando contra la desinformación mediante la inteligencia artificial” del Proyecto CIVIC. Sobre el aumento exponencial de calidad y eficiencia que la IA aporta al fact checking, el informe añade que “este tipo de herramientas suponen y supondrán una ayuda fundamental para organizaciones de fact checking, ampliando su rango de acción y cobertura, pudiendo analizar una mayor cantidad de desinformación que circula por redes sociales y otros medios de comunicación”.