¿Qué son los deepfakes? ¿Por qué nos pueden afectar?

deepfakes opinión

*Por: Santiago Restrepo Escalante

Los ‘deepfakes’ son vídeos que han sido manipulados por algoritmos de inteligencia artificial que logran producir imágenes y sonidos que parecen reales cuando no lo son. Esta tecnología tiene la capacidad de hacernos creer que un personaje tan respetable y diplomático como el expresidente Barack Obama ha llamado idiota al presidente Donald Trump en una importante conferencia de prensa. Alterar el contenido multimedia con tal exactitud pone en riesgo nuestra capacidad de distinguir lo real de lo falso, por lo tanto, muchos terminan desarrollando posturas o ideas erróneas sobre personas u organizaciones que nunca pensaron ser vistas de esa manera. Esto lo hace a usted y a la institución para la que trabaja completamente vulnerable, y mucho más en un mundo donde las plataformas de código abierto le han dado acceso a cualquier persona a este tipo de tecnología.

Hoy, la tecnología deepfake está siendo utilizada en gran parte contra la intimidad de las mujeres. En un artículo del diario inglés The Guardian, se expone que una compañía llamada Deeptrance encontró 15.000 videos con esta tecnología en septiembre de 2019, de los cuales un 96 % de estos correspondían a material pornográfico donde en su mayoría se asignaba rostros de celebridades femeninas a cuerpos de estrellas porno.

Este no es el único caso de uso que podría afectar a nuestra sociedad, ya que hemos visto cómo esta técnica ha sido utilizada para fragmentar la opinión pública; donde la democracia que conocemos podría desmoronarse si no contenemos la propagación de este tipo de videos falsos en las redes sociales. Por ejemplo, el senador republicano Marco Rubio dijo que los deepfakes se convertirán en la próxima ola de ataque contra Estados Unidos y las democracias occidentales.

Se dice que con el uso de simples memes la interferencia rusa logró deteriorar el resultado de las elecciones presidenciales de 2016, imaginemos lo que podría hacerse con los deepfakes en futuros años.

Lo más preocupante es que este tipo de tecnologías está al alcance de cualquier persona, a tal punto de que con una sencilla capacitación en línea se podría llegar a destrozar la reputación que se ha construido durante años y esto podría afectar a una persona o compañías enteras. Las consecuencias éticas que tiene esta tecnología son inmensas, algunas van desde perder nuestro siguiente empleo, a causa de algo que no dijimos ni hicimos, hasta llegar a deteriorar las democracias más fuertes del mundo.

El hecho de que esta tecnología pueda denigrar injustamente la imagen de un individuo o de una organización, sin ser fácilmente detectada, la convierte en uno de los retos más importantes del siglo XXI.

Si queremos seguir protegiendo el derecho al buen nombre, será mejor que las grandes corporaciones desarrollen algoritmos proactivos que detecten estos videos falsos para que puedan ser eliminados antes de que ocasionen una injusticia. Ahora bien, muchas de estas organizaciones ya comprenden la inmensidad del problema y vienen trabajando en soluciones que puedan mitigarlo. Por ejemplo, grandes corporaciones como Facebook y Microsoft ya han tomado iniciativas para detectar y eliminar videos deepfake. Pero mientras eso ocurre, yo recomiendo siempre verificar la fuente del contenido que vemos, no podemos dejar toda la responsabilidad en manos de las grandes corporaciones, también está en nosotros luchar por la verdad digital.

Imagen: Pikisuperstar (Vía Freepik).

Colaboradores ENTER.CO

Colaboradores ENTER.CO

Muchos periodistas y blogueros de Colombia, Latinoamérica y España colaboran esporádicamente con ENTER.CO, aportando su conocimiento y puntos de vista frente al acontecer tecnológico y de Internet.

Ver todos los posts

Agregar comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Archivos