amenazas híbridas comunicación deception deepfakes desinformación disinformation information influencing inteligencia intelligence
Rubén Arcos, transcripción (y traducción) adaptada de la video-presentación realizada para Friends of Europe Debating Security Plus – Próximo nivel de desinformación: Deepfakes, 8 Abril 2019
«Cualquier canal de comunicación que transmita información relevante y verdadera («señales») también puede transmitir tanto información irrelevante («ruido») como información relevante pero falsa (tanto «desinformación» deliberada [disinformation] como involuntaria [misinformation])»
Barton Whaley, Stratagem: deception and surprise in war, 2007 (1969): 9
La denegación y la decepción tienen un importante papel en las operaciones militares para manipular los procesos de decisión de los adversarios, y el análisis en contradecepción es de gran importancia para evitar ser manipulados por adversarios hostiles.
“Un canal [en el proceso de decepción] podría ser un periódico extranjero monitorizado por el objetivo, sus satélites de reconocimiento, sistemas electrónicos de intercepción, diplomáticos o espías. A través de estos canales, el perpetrador del engaño transmite señales, pistas plantadas o piezas de evidencia, esperando que el objetivo los convertirá en indicadores de la intención o las capacidades del engañador”
Donald C. Daniel y Katherine L Herbing, Propositions on Military Deception, 1980: 14
Las actividades de desinformación, las maquinarias de propaganda y el uso de falsificaciones ciertamente no son nuevos, pero han adquirido una dimensión sin precedentes debido a la revolución digital, las nuevas tecnologías y los desarrollos en Inteligencia Artificial.
En nuestra cultura audiovisual las imágenes estáticas y en movimiento son ampliamente consideradas como evidencias que capturan cómo sucedió algo; como huellas de eso que llamamos la realidad. Los videos, los sonidos grabados y las imágenes, además de transmitir mensajes, tienen el potencial de afectar a nuestras emociones, como podemos experimentar cuando vemos una película o una serie. Sin embargo, cuando consumimos relatos de ficción en las pantallas, la mayoría de las veces somos conscientes de la naturaleza del discurso que se nos presenta (aunque disfrutemos la experiencia de sumergirnos en la ficción).
A diferencia de estos contenidos legítimos, los contenidos falsos que se nos presentan como hechos pueden formar parte de campañas de desinformación e influencia hostil y plantean un gran desafío a los procesos democráticos básicos de nuestras democracias liberales.
Las deepfakes o ultrafalsificaciones emergen en el horizonte de seguridad como una amenaza insidiosa y requerirán un enfoque estratégico holístico, que incluya la participación de la sociedad civil, para poder enfrentarla de manera efectiva.
Las deepfakes son una suerte de “falsificaciones con esteroides” que podrían emplearse como instrumentos de guerra política o en campañas híbridas. La perspectiva misma de que la tecnología deepfake se democratice, puede dar lugar a un escenario de pesadilla o distopía.
Gobiernos, servicios de inteligencia hostiles y actores no-estatales podrían usar estas ultrafalsificaciones para desacreditar, denigrar, burlarse de los partidos y líderes de la oposición o crear una realidad alternativa en la mente de los ciudadanos con diferentes objetivos. Podrían emplearse para infundir confusión, establecer la agenda política y erosionar aún más la confianza en nuestras instituciones.
Su aplicación en operaciones militares podría resultar en operaciones de engaño masivo dirigidas a los procesos de toma de decisiones de los comandantes. Podrían usarse para señalar intenciones falsas y manipular respuestas.
Decepción: «medidas diseñadas para engañar al enemigo mediante la manipulación, distorsión o falsificación de evidencia para inducirlo a reaccionar de manera perjudicial a sus intereses.»
Base de Datos de Terminología Oficial de la OTAN, AAP-06(2019)
Estas falsificaciones de alta tecnología podrían usarse como evidencias falsas de agresiones y desatar disturbios civiles si nuestras sociedades no se preparan para la desinformación masiva.
La desinformación masiva a través de las deepfakes podría emplearse para propagar el pánico en torno a una serie de cuestiones, incluidas la salud y la seguridad alimentaria.
Los perpetradores híbridos podrían hacer prácticamente imposible discernir lo que realmente está sucediendo, produciendo una sensación omnipresente de desconfianza. Las ultrafalsificaciones son para la seguridad lo que la hipótesis del genio maligno es para el conocimiento en las Meditaciones Cartesianas.