Por si no lo sabes, el deepfake es contenido audiovisual que parece real pero que no lo es, el cual es creado con ayuda de la inteligencia artificial (IA). En este caso, el contenido es pornográfico, donde usan la cara (y en algunas ocasiones el cuerpo) de mujeres para recrear escenas sexuales. Desde el pasado miércoles, videos de este tipo con la cara de Taylor Swift comenzaron a rodar por la web, en plataformas como X. 

Es por esto que desde la red social de Elon Musk bloquearon el término ‘Taylor Swift’, de manera que todo el contenido deepfake de la cantante perdiera visibilidad. En cambio, los usuarios que buscaron a la artista, se encontraron con un mensaje de error. Joe Benarroch, jefe de operaciones comerciales de X declaró para Wall Street Journal que “Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema”. 

Te puede interesar: El deepfake crece a un ritmo de 900% anualmente, así puedes prevenir esta ciberamenaza

Pero, aunque Benarroch asegura que la compañía tomó el tema “con preocupación” y lo “priorizaron”, la red social ha sido foco de críticas por tardar tanto tiempo en bloquear su nombre. Muchas de las cuentas que publicaron el contenido sexual, explícito y no consensuado de la cantante, fueron bloqueadas. Sin embargo, cuando se produjo el bloqueo, ya los videos habían alcanzado hasta los 45 millones de visualizaciones. 

Cuando las imágenes empezaron a tomar fuerza, desde el pasado miércoles, los fanáticos de Swift se pusieron al frente de la situación. Con el fin de limitar la visibilidad del contenido, inundaron de hashtags a la red social con publicaciones positivas de la cantante. Adicionalmente, reportaron cientos de veces el contenido y a los usuarios que lo compartían para que X eliminara, tanto los videos e imágenes, como las cuentas. 

De acuerdo con nuestros colegas de 404Media, luego de rastrear el contenido deepfake, se encontraron con que, presuntamente, un grupo de Telegram, conocido por crear imágenes de mujeres sin su consentimiento, sería el responsable de las imágenes de Taylor Swift.

Imagen: Taylor Swift

La idea de utilizar chatbots para imitar la personalidad de creadores no es nueva. Hace solo unos meses reportamos como Amouranth (una de las streamers más populares del mundo) había lanzado su propio avatar virtual utilizando IA para ‘conversar’ con sus seguidores. El límite hasta el momento estaba en que la mayoría de estas plataformas prohibían y entrenaban a sus modelos para que ninguna de las repuestas pudiera convertirse en sexting.

Pero Reid vio el potencial de este tipo de plataformas para los creadores de la industria pornográfica o de contenido para adultos, que no tienen problemas en ver a sus ‘avatares’ tener este tipo de conversaciones subidas de tono. El modelo de Clona.Ia está construido utilizando el modelo de lenguaje de LLaMa, que es el sistema abierto de Meta, modificado para ajustarse a las necesidades ‘particulares’ del servicio que ofrece y para poder responder de la manera más cercana posible a cómo la haría las actrices porno que imita.

Por un valor de $30 dólares al mes la promesa del modelo es que los suscriptores pueden tener conversaciones ‘íntimas’ con las versiones digitales de sus creadoras de contenido para adultos favoritas. Por ahora la plataforma solo cuenta con una chatbot para Reid y Lena the Plug, pero sus creadores esperan que el concepto pueda atraer a más personas interesadas en explorar la idea.

Te puede interesar: La historia de Pornhub, el documental del sitio porno número 1, llega a Netflix

En una entrevista con el portal 404media, Riley Reid entró en detalles sobre cómo se creó el modelo para que pudiera construir a su versión virtual. Al igual que otros chatbots IA se alimentó utilizando una compilación de contenido de videos, podcast y entrevistas. Luego se entrenó con el objetivo de que pudiera responder de la manera más cercana a como lo haría ella, pero sin entregar información personal.

Durante la entrevista, Riley Reid también habló del rol que cree que tendrá la IA en la industria pornográfica. Para ella una de sus ventajas es la capacidad de poder seguir ofreciendo ingresos en un mercado en el que sus actrices suelen ‘retirarse’ por cosas como querer ampliarse a otras industrias o simplemente no tener la edad adecuada para seguir apelando a las mismas audiencias.

“Me estoy haciendo mayor, mi vida familiar viene por mí. Poco a poco me estoy saliendo de la industria, pero me gustaría poder seguir siendo parte de ella, por lo que siento que esta también es una gran oportunidad para expandirme. Muy pronto llegará un día en el que la gente dirá: ‘Oh, Riley dejó la pornografía’… Así que me siento afortunada de que la IA pueda brindarme longevidad en mi carrera adulta, mientras que alguien 10 años atrás no tenía la misma oportunidad de potencialmente seguir teniendo una carrera… Puede que no me extinga gracias a la IA”.

El uso de IA en la industria porno es otro de los temas que en estos momentos se está debatiendo, especialmente cuando se trata del uso no autorizado para recrear imágenes de actores, celebridades o figuras políticas en actos sexuales (a través del Deep Fake o modelos que recrean la voz)

Imágenes: Montaje ENTER.CO

Lamentablemente, algunos han optado por crear videos pornográficos con la cara de otras personas, especialmente, mujeres. Lo más problemático de la situación es que las redes sociales están funcionando como una ventana para darle más visibilidad a este tipo de contenido. Recientemente, apareció en Facebook un anucio de una aplicación donde se pueden realizar este tipo de ediciones.

“Me encontré con este anuncio ayer y wow, ¿en serio?, se lee en el tuit publicado por la periodista Lauren Barton el lunes 6 de marzo. En él, se muestra un pantallazo de un anuncio en Facebook donde se ve un video con la actriz Emma Watson. La actriz se inclina mientras mira a la persona que la filma, luego la cámara se corta antes de que las cosas vayan más lejos. Aunque el contenido no muestra ninguna imagen explícita, no hay duda de que se trata de un montaje pornográfico.

i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb

— lauren (@laurenbarton03) March 6, 2023

Te puede interesar: ¿Zelenski se rindió en video? El deepfake que Meta tuvo que eliminar de sus redes

El anuncio, que también cuenta con una foto de la actriz cuando aún era menor de edad, estuvo visible durante varios días en Facebook e Instagram. El anuncio promociona FaceMega, una aplicación que te permite importar la cara de cualquier persona y aplicarla a diferentes plantillas de video. Según una  reciente investigación de NBC, durante el fin de semana se emitieron nada menos que 230 anuncios de este tipo en las redes sociales de Meta.

De hecho, en las últimas semanas, los analistas han notado un importante incremento en el tráfico a los sitios que alojan este tipo de videos, los cuales han sido realizados sin el consentimiento de las personas cuyos rostros son usados allí. Aunque la mayoría de contenido de “deepfake” pornográfico se realiza con celebridades, hay algunas personas de a pie que han informado haber visto su cara en estos sitios.

En todo caso, aunque aplicaciones como FaceMega, que están dedicadas a brindar servicios de deepfake, no promocionan precisamente los videos pornográficos, hacen una clara alusión que carecen de sutiliza, como el de Emma Watson. De hecho, un informe de 2019 estimó la proporción de montajes pornográficos en el mundo del deepfake en un 96%.

Imagen: Unsplash