Un par de meses atrás, me encontré con un video en redes sociales que me dejó de piedra: era mi actor de culto, Tom Hanks, anunciando un producto que no había tenido la oportunidad de conocer nunca. Lo primero que pensé es que estaba ante un anuncio real, pero la realidad es que resultó ser un deepfake. Y a partir de ahí, empecé a preguntarme: ¿estamos listos para un mundo donde aquello que vemos y escuchamos ya no nos resulta fiable?
Los deepfakes, generados por medio de inteligencia artificial, están cambiando la cultura digital global, pero también nos están presentando desafíos éticos y sociales sin precedentes.
¿Qué son los deepfakes y por qué deberíamos preocuparnos?
Se entiende por deepfakes la utilización de vídeos, de audios o de imágenes manipuladas mediante artificios informáticos para hacer creer que alguien ha dicho o ha hecho un algo que nunca ha ocurrido. La técnica a la que llamamos deepfake se basa en una tecnología conocida como deep learning, y hace que, mediante un tratamiento automático de horas de imágenes de una persona concreta, se reproduzca su voz, sus expresiones, sus gestos, etc., con una precisión que resulta difícil de creer.
No hace mucho, me envió un amigo un deepfake de un político local en el que se anunciaba una medida que no gustaba nada. Sabía perfectamente que, efectivamente, aquello era un deepfake, pero no dejé de asombrarme de lo convincente que resultaba. Herramientas como DeepFaceLab y D-ID han propiciado que sea mucho más sencillo poder realizar un deepfake, incluso desde el punto de vista de no necesitar tener conocimientos en profundidad sobre el medio.
El lado positivo: deepfakes en el entretenimiento y en la educación
Los deepfakes suelen ir asociados a la falsa noticia, pero, por el contrario, también tienen posibilidades de contar con aspectos positivos. En el mundo del entretenimiento, por ejemplo, han dado lugar a que, entre otras cosas, se «resucite» a actores que han fallecido. En la película Rogue One: Una historia de Star Wars, la técnica deepfake hizo posible recrear al actor Peter Cushing que había muerto en 1994 para una escena que resulta esencial.
En el mundo de la educación, en cambio, los deepfakes empiezan a dar nuevas posibilidades. Imagina aprender historia con vídeos interactivos donde las figuras históricas «cobran vida» y explican e ilustran hechos históricos importantes. Pequeñas empresas como Synthesia ya están realizando este tipo de aplicaciones para ofrecer una experiencia educativa más inmersiva e interesante.
La Tercera Cara: Manipulación y Desinformación
Pero, tampoco todo tiene un lado bueno. Los deepfakes son también un gran peligro. La actriz Emma Watson fue utilizada, sin su conocimiento, en un deepfake promoviendo algún producto ya en el 2023, lo cual despertó el debate sobre el uso de la imagen en estos tiempos.
Los deepfakes pueden utilizarse para manipular elecciones, para desprestigiar a un político o a una persona pública. En un artículo de Reuters contaron que, durante las elecciones de la India, empezaron a difundir deepfakes de candidatos haciendo declaraciones problemáticas que condicionarían la opinión pública.
Pero es que los deepfakes también dan lugar a un problema mayor, la desconfianza en lo que vemos y en lo que oímos. ¿Podemos saber distinguir entre lo verdadero y lo falso donde la tecnología es capaz incluso de engañar a los ojos más avisados?
Combatir los deepfakes: Educación y tecnología
Se están haciendo herramientas de detección de deepfakes. Empresas como Microsoft o como Adobe proponen proyectos para encontrar contenido manipulado. Por ejemplo, y solo como ejemplo, Microsoft Video Authenticator analiza vídeos, en tiempo real, para determinar si, efectivamente, ha habido algún tipo de alteración.
Pero la tecnología por sí sola no es suficiente. La educación hace un camino muy importante. Por ejemplo, existen organizaciones como NewsGuard que trabajan para enseñar a la gente a saber detectar noticias, o contenido manipulado. Después de todo, vivimos en una cultura digital global donde la desinformación es tan peligrosa como la tecnología que da lugar.
El Futuro de los Deepfakes: ¿Hacia Dónde Vamos?
El futuro de los deepfakes es incierto, pero una cosa es clara, su contemporaneidad con la cultura digital global será total; por un lado podrían afectar a un giro considerable en industrias como el cine, la publicidad o la educación, o bien contribuir a que se conviertan en instrumentos de manipulación masiva, en el caso de no regularse adecuadamente. Algunos referentes, como Hany Farid, profesor de la Universidad de California, suponen que la solución no radica tanto en prohibir su uso sino en la creación de un marco que lo regule y garantice la transparencia.
Después de todo, la tecnología no es ni buena ni mala: todo depende de lo qué hagamos con ella. Tenemos que comenzar a pensar que los deepfakes son una especie de recordatorio de que aquél escenario en el cual, en la cultura digital global, la línea entre la realidad y la ficción se empiezan se desdibujan; a pesar de que la tecnología siga ofreciendo oportunidades emocionantes, nos llevan a ser más críticos y conscientes mas allá de lo que leemos en la red. La educación y la tecnología pueden convertirse en nuestras mejores armas para crecer en tiempos difíciles donde la verdad podría estar manipulada.
Hasta un proximo post…
