Los deepfakes o “falsedades profundas” son propias de la época que vivimos, producto de un sistema de engaño, manipulación y control de personas -concebidas principalmente como consumidores-, que las grandes corporaciones económicas mundiales y a veces públicas, y delincuentes de distinto tipo, llevan adelante, valiéndose de las redes sociales como mecanismos constantes de persuación y homogeneización de criterios, con objetivos claves.
Estas falsedades profundas son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales.
Los deepfakes utilizan el aprendizaje de la inteligencia artificial, por lo que los archivos consiguen engañar fácilmente a quienes los ven. Se utilizan principalmente para inducir a error a las personas receptoras, por lo que suponen una gran amenaza para la sociedad actual. De esta manera facilitan la desinformación y que la ciudadanía pase a desconfiar de cualquier fuente de información.
El término deepfakes combina la palabra “fake” (falso, ya que este tipo de archivos siempre son falsos, aunque se haga todo lo posible porque parezcan reales) y la palabra “deep”, proveniente de “deep learning” (aprendizaje profundo, que es una clase de aprendizaje automático de la inteligencia artificial).
Los materiales deepfakes pueden modificar los rasgos del rostro de una persona (o su voz) y hacerla pasar por otra, generando otro archivo muy similar al verdadero. Por ello, “algunos expertos consideran que los deepfakes son una evolución de las fake news intencionada y que buscan, claramente, la manipulación de las masas gracias a la difusión de estos archivos en Internet y en las redes sociales”.
Para qué los crean
Si bien un principio se usaron para introducir a personas públicas como actrices o actores, a material pornográfico, ahora se las usa con mayor frecuencia para propagar noticias falsas, generar desinformación, desacreditar a alguien con fines específicos y cometer delitos relacionados con el honor, la imagen o el fraude.
Pero fundamentalmente, se usa esta tecnología también para influir en las votaciones, toma de decisiones y procesos de pensamiento grupal. Para llevar a cabo venganzas, manipular los mercados financieros y desestabilizar las relaciones internacionales.
Casos concretos
Para conocer ejemplos concretos de deepfakes, cabe mencionar cuando se los utilizan para inducir a error a las personas receptoras de los archivos, ya sea haciendo que un político diga algo en un video que realmente nunca dijo con el fin de afectarlo en una campaña cerca de unas elecciones, o incluyendo la imagen de un famoso (o de cualquier persona) en un material pornográfico con el objetivo de perjudicarlo o chantajearlo. Pero hay algunas historias dignas de película que sucedieron recientemente y vale la pena mencionar.
Canditato virtual “cool”
En el terreno de la política, en la segunda quincena de febrero de este año, el mundo se enteró cómo un político tradicional de mediana edad de Corea, se había transformado en un candidato presidencial “cool”, gracias a la tecnología de los deepfakes.
En una oficina en Seúl, decenas de trabajadores jóvenes y modernos usaron esta tecnología para lograr que un candidato surcoreado lograra millones de seguidores que se transformarían en votos con su presencia virtual.
Armados con horas de imágenes especialmente grabadas del candidato Yoon Suk-yeol, del opositor Partido Poder Popular, el equipo creó un avatar digital y dejó a “IA Yoon” correr suelto en la campaña para las elecciones del 9 de marzo, según informó el portal France24.com.
Cómo se produjo el engaño del candidato
El verdadero IA Yoon grabó más de 3 mil frases, en 20 horas de audio y video que proporcionan suficientes datos para que la empresa local de deepfake pudiera crear el avatar. “Palabras que suelen ser dichas por Yoon se reflejan mejor en IA Yoon”, indicó Baik Kyeong-hoon, director del equipo de comunciación IA Yoon.
Lo que el avatar dice es escrito por su equipo de campaña, no por el candidato.
“Intentamos crear respuestas humorísticas y satíricas”, dijo Baik a AFP.
El esfuerzo dio resultado. Los pronunciamientos de IA Yoon fueron titulares en la prensa coreana, y siete millones de personas visitaron el sitio “Wiki Yoon” para hacerle consultas al avatar.
“Si hubiéramos producido solo respuestas políticamente correctas, no hubiéramos tenido esta reacción”, aseguró Baik.
Por su parte, Ko Sam-seog, del equipo de campaña del candidato opositor Lee, acusa al cibercandidato de “degradar el decoro político”. Y aunque las encuestas para las elecciones del 9 de marzo señalan que los candidatos están codo a codo, Yoon tomó ventaja sobre Lee Jae-myung entre los votantes de alrededor de 20 años, según destacó France 24.
La tecnología de inteligencia artificial (IA) ya había sido utilizada antes en campañas electorales, desde un video deepfake de Barack Obama insultando a Donald Trump hasta la fallida campaña del empresario Andrew Yang a la alcaldía de Nueva York, recordó el mismo medio.
El amor frustrado de una cineasta francesa
Otro de los casos que tomó repercusión internacional, fue la de la cineasta francesa Yzabel Dzisky, quien se dejó seducir por el mundo de las citas en línea y acabó cayendo en un espejismo del deepfake.
La mujer contó a la BBC cómo se enamoró de un hombre suplantado, lo cual la dejó devastada y la llevó a seguir adelante para encontrar una verdad que pudiera curar su corazón e ilusiones rotas.
Todo comenzó en 2017, cuando Dzisky tenía 46 años, era soltera y buscaba hacer un documental sobre aplicaciones de citas. El plan era entrevistar a personas al azar y buscar colaboradores potenciales. Pero esta idea documental también parecía una oportunidad para encontrar el amor para ella misma.
Encontró el perfil de un hombre atractivo. Era “Tony”, o al menos ese era su nombre al principio, un cirujano de Los Ángeles, California, que planeaba mudarse a Francia pronto. La cuestión es que comenzaron las comunicaciones virtuales por texto, voz y videollamada. La relación fue creciendo en el tiempo y la distancia, pero al momento de resolver las sospechas y enigmas que este nombre le generaba, finalmente Dzisky pudo comprobar que Tony, a quien le había enviado en una oportunidad una suma importante de dinero real, no era quien decía, sino David, un hacker de 20 años de Nigeria.
Devastada, la cineasta buscó cómo cerrar este capítulo de su vida y se dispuso a encontrar al verdadero hombre, Tony o Murat, cuya identidad había sido robada. Encontró un número de teléfono en una de sus cuentas de redes sociales y llamó al cirujano para contarle lo que había sucedido. No fue fácil pero logró acceder a él, y al parecer, por la respuesta del hombre, no era la primera vez que lograban falsear su identidad. Créase o no, esta historia sucedió en la vida real y dejó huellas profundas en esta mujer.
Cómo surgieron los deepkakes y su alcance
Los deepfakes existen desde finales de 1990 pero cobraron mayor interés en 2017, cuando un usuario de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas.
La capacidad de las imágenes de parecer tan reales viene dada por la capacidad de modelado que tienen los programas informáticos dedicados a realizar los deepfakes, que tratan de asemejarse lo más posible al funcionamiento de las redes neuronales y del cerebro humano, facilitando que nuestros sesgos cognitivos y esquemas mentales nos traicionen.
Los deepfakes utilizan el aprendizaje automático de la inteligencia artificial. Esta tecnología se basa en sofisticados algoritmos que son capaces de analizar si un archivo es real o si está alterado y, de esta forma, la inteligencia artificial puede ir mejorando cada vez más en la labor de falsificar de manera más fidedigna.
Estos pueden ser generados directamente por softwares u ordenadores especializados en este aprendizaje automático, sin necesidad de intervención humana.
Los hay de distintos y niveles de sofisticación, por lo cual suponen cada vez una mayor preocupación para las empresas e instituciones públicas por el enorme potencial que tienen para facilitar fake news, generar ataques de desinformación, de fraudes de todo tipo e, incluso, de manipulación de procesos electorales como se comentó en el caso de Corea y otros de Estados Unidos.
En enero de 2020, Facebook prohibió los deepfakes (excepto los que son claramente parodias), es decir, todo aquel contenido que había sido alterado con intenciones maliciosas.
Con información de Lisa Institute, BBC Mundo, France24.com.
