Deepfakes: la pesadilla de no saber qué es real

Los deepfakes, videos y audios falsos que se crean con inteligencia artificial (IA) para suplantar rostros y voces, llevan un tiempo haciéndonos reír. Uno va a un sitio como GoodTrust, sube una foto de alguien y puede ver como ese rostro cobra vida y se convierte en un video de la persona cantando La Traviata o el Happy Birthday. Pero los deepfakes, que pueden ser mucho más elaborados y creíbles que los de este sitio, no les producen tanta gracia a los expertos en seguridad, a los analistas políticos y a algunos gobiernos.

Los deepfakes se han usado para cometer robos en compañías (mediante voces clonadas) y para crear videos pornográficos de mujeres a las que se quiere hacer daño. Pero el mayor temor es que estos contenidos –creados mediante software de IA cada vez más poderoso– se usen para poner en boca de políticos o figuras públicas cosas que no han dicho, y así manipular campañas o generar violencia. El FBI alertó el año pasado sobre la amenaza que los deepfakes representan para la seguridad de los países y las empresas.

Lo que más preocupa de esa tecnología es la velocidad a la que está avanzando. De los videos primitivos de hace dos o tres años se está pasando a unos en donde es muy difícil reconocer los montajes. Un buen ejemplo son unos videos de Tom Cruise que el año pasado se volvieron virales en TikTok. En ellos se ve al actor contando chistes, jugando golf y haciendo trucos de magia en varios videos que difícilmente se reconocerían a simple vista como falsos.

Para educar al público sobre los engaños que pueden ocurrir, el Instituto Tecnológico de Massachusetts (MIT) creó un video en el que ex presidente estadounidense Richard Nixon da un discurso para televisión en el cual lamenta la muerte en la Luna de los astronautas Neil Armstrong y Edwin Aldrin, en julio de 1969. Ese discurso sí se escribió –en caso de que fracasara la misión Apolo 11–, pero nunca se grabó, y ahora se hizo ‘real’ en este deepfake. Ahora bien, si hoy es difícil desarmar teorías de conspiración absurdas que solo se distribuyen en texto o fotos por redes sociales (hay gente que cree que nunca llegamos a la Luna, que todo es un montaje), ¿qué pasará cuando estas incluyan videos y audios que parecen reales como este?

Por eso, los más pesimistas creen que los deepfakes se van a usar incluso para reescribir la historia. En una era en la que las personas no cuestionan lo que leen o ven, en la que toman las ‘noticias’ de redes sociales y no de los medios serios, en la que tragan entero y a veces comparten por redes contenidos de los que no han visto más que el titular o una foto, ese es un escenario de pesadilla para un mundo ya desinformado y lleno de noticias falsas.

Un análisis de la revista Fast Company lo plantea así: “Pronto, los medios sintéticos generados por IA pueden alcanzar el pasado y sembrar dudas sobre la autenticidad de eventos históricos, lo que podría destruir la credibilidad de los registros que quedan en nuestra era digital actual. En una época de muy poca confianza institucional, y sin un contexto histórico firme en el que los futuros historiadores y el público puedan confiar para autenticar los eventos de los medios digitales del pasado, podemos estar ante el amanecer de una nueva era para la civilización: la poshistoria. Necesitamos actuar ahora para garantizar la continuidad de la historia sin sofocar el potencial creativo de estas nuevas herramientas de IA”.

Fast Company imagina varios ejemplos, como una entrevista de los años 70 en donde Neil Armstrong reconoce que nunca llegaron a la Luna, pues tuvieron que abortar la misión por el exceso de radiación; o una nueva versión del video de George Floyd en el cual el policía quita la rodilla de su cuello y Floyd se levanta ileso.

La edición 269 de la revista ENTER le explica, en detalle, cuál es el lado oscuro de estos medios sintéticos, cómo se crean, qué tecnologías de inteligencia artificial (IA) los hacen cada vez más realistas, cómo se han empleado ya para cometer robos en empresas y destruir reputaciones de mujeres, y cómo se teme que podrían utilizarse para manipular elecciones y generar caos y violencia.

En otros artículos de esta edición encontrará una descripción de los mejores servicios de Internet para conseguir imágenes gratuitas; le explicamos por qué las redes 5G pueden poner en peligro los vuelos; le ofrecemos una lista de buenas prácticas contra ataques de ransomware; y analizamos los primeros 5 años de la consola Nintendo Switch en el mercado, entre otros temas.

* Si quiere suscribirse a ENTER, escríbanos a [email protected], con su nombre y número de cédula. En pocos minutos le enviaremos un correo con un enlace de pago. La suscripción a ENTER cuesta 39 mil pesos al año (12 ediciones en PDF) para personas naturales. Más información: revista-enter.co.

Imagen: iStock

Javier Méndez

Javier Méndez

A mediados de los años 80 tuve un paso fugaz por la facultad de ingeniería de sistemas de la Universidad de los Andes, pero me tomó pocos meses descubrir que escribir código era mucho menos apasionante que escribir artículos. Desde entonces pienso que la tecnología es más divertida cuando se la disfruta desde afuera que cuando se la sufre desde adentro. Y aunque mis primeros pasos en el periodismo los di en la sección deportiva de El Tiempo, era cuestión de tiempo para que aterrizara en el mundo de la tecnología. Llevo 30 años escribiendo sobre tecnología, primero en El Tiempo, y ahora en la revista ENTER y EmpresarioTek.co. Puede seguirme en Twitter en @javiermendezz

View all posts

Archivos