La demanda fue presentada en Nueva York y, de acuerdo con los documentos obtenidos, asegura que Grok creó imágenes explicitas de St Clair. En respuesta xAI ha presentado una contra demanda asegurando que la mujer había violado los términos de servicio de la herramienta IA. “Los usuarios de X encontraron fotos de St Clair completamente vestida a los 14 años y luego le pidieron a Grok que la desvistiera y le pusiera bikini”, lee el documento. “Los usuarios incluso  le dieron un bikini lleno de esvásticas” – St Clair es judía.

“Pretendemos exigir responsabilidades a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público, a fin de evitar que la IA se utilice como arma para el abuso“, declaró a BBC News Carrie Goldberg, abogada de St Clair. “Al crear imágenes sexualmente explícitas no consentidas de niñas y mujeres, xAI es una molestia pública y un producto poco seguro“, añadió Goldberg.

Ashley St Clair el año pasado reveló, a través de una publicación en X/Twitter que había dado luz a un hijo del multimillonario – uno de los 13 hijos que se cree que Musk ha reconocido. Documentos legales aseguran que actualmente hay una batalla legal por la custodia de este hijo.

Ashley St Clair, la madre del hijo de Elon Musk, que ha presentado la demanda contra Grok.

Deepfakes y desnudos: el dolor de cabeza de Grok

La IA de Elon Musk ha tenido una semana complicada después de que decenas de reportes fuera publicados, asegurando que los usuarios de X estaban utilizando el modelo de inteligencia artificial para crear deepfakes de mujeres desnudas o en ropa interior. Las acusaciones aseguraban que la falta de moderación dentro del modelo no solo permitía a las personas el solicitar a la IA imágenes realistas de desnudos, sino que Grok incluso modificaba estas imágenes cuando se trataba de menores de edad.

Como resultado X y Musk fueron objetivo de fuertes críticas por parte de entes regulatorios, grupos defensores de los derechos de las mujeres e incluso figuras políticas que exigían respuestas por parte de la compañía.

Pero la respuesta de la compañía no fue la esperada. La empresa cambió las reglas de la IA para que solo los usuarios pagos pudieran solicitar a la IA el realizar estos deepfakes – porque nada habla de tu compromiso con los derechos de las mujeres como monetizar desnudos no solicitados. La reacción fue inmediata en ciertos sectores, incluso llegando a contemplar la posibilidad de prohibir la red social en ciertos territorios como el Reino Unido.

El pasado miércoles 14 de enero X finalmente cedió y aseguró que todos los usuarios en adelante no podrían crear desnudos utilizando su IA… con el pequeño añadido de que la restricción solo aplicaría para aquellos territorios en el que fuera ilegal crear estas imágenes. Un sablazo legal impresionante considerando que son muchos los países y territorios sin normas claras sobre la creación de deepfakes con connotación sexual.

Pero ni siquiera este parche legal funcionó, pues diferentes usuarios han reportado que incluso en los territorios en los que debería estar prohibido todavía se pueden crear estas imágenes de desnudos.

X no parece estar muy preocupado por la ola de críticas o las posibles demandas. La era de Musk en la plataforma se ha caracterizado por una falta de moderación y una inclinación a monetizar algunos de los aspectos más problemáticos de su tecnología – por ejemplo, el incremento de estafas y spam en anuncios -. Como olvidar cuándo una de las primeras promesas de Grok fue la posibilidad de tener conversaciones picantes con una chica anime creada con IA. Con estos precedentes la situación actual de xAI debería set todo, menos inesperada.

Imágenes: Montaje ENTER.CO y BBC

El principal problema para muchos está en que Musk compartió el video sin agregar algún tipo de anotación que indique que es falso. La publicación solo tiene el texto de “esto es divertidísimo” y un emoji de una carita llorando de la risa. Al momento de publicación de este artículo el post en X/Twitter ya supera los más 119 millones de vistas.

This is amazing 😂
pic.twitter.com/KpnBKGUUwn

— Elon Musk (@elonmusk) July 26, 2024

De hecho, la publicación ni siquiera cuenta con algún tipo de etiqueta que señale que se trata de un video falso, incluso haciendo uso de las notas de la comunidad (después de que Elon Musk despidió a todo su personal encargado de moderar las publicaciones en la red social creó un nuevo sistema llamado ‘notas de la comunidad’ que les permiten a ciertos usuarios el agregar anotaciones a publicaciones para ofrecer el contexto adecuado cuando se necesita).

La respuesta en redes sociales por parte de los seguidores de Musk y los detractores de Harris es que es obvio que se trata de un video falso. Hay algo de razón en este punto, pues el montaje tiene algunos de los indicios claros de un montaje con IA (por ejemplo, ciertos tonos). Sin embargo, lo que la historia nos ha indicado es que los videos que modifican o alteran la voz de candidatos políticos (en especial durante periodo de elecciones) son particularmente peligrosos pues no todas las personas entienden el contexto en el que fueron creados.

¿Deberían todas las redes sociales etiquetar sus videos creados o modificados con IA?

Desde que la inteligencia artificial se convirtió en el nuevo santo grial de la tecnología uno de los principales temas de conversación es cómo se debe moderar su uso al momento de recrear o imitar las voces de personalidades. El video compartido por Kamala Harris no es el primer caso en el que se viraliza un video de alguna figura pública.

El problema para muchos está en dos partes: que sea el líder de una de las redes sociales más importantes el que haya compartido este contenido sin etiquetarlo como falso. Más importante, X/Twitter se ha rehusado a implementar políticas para que los contenidos creados con inteligencia artificial sean etiquetados e identificados.

Esto es importante, porque a estas alturas plataformas como YouTube han implementado reglas dentro de sus términos y servicios con el objetivo de que estos videos creados con IA. En caso de que un video sea subido y no respete estas reglas para que sea identificado estarán expuestos a que se eliminen, a una posible suspensión del programa de socios de YouTube u otras sanciones.

Imágenes: Wikicommons a través de Gage Skidmore

La compañía analizo las opiniones de más de 8.000 consumidores adultos, repartidos por igual entre el Reino Unido, Estados Unidos, Singapur y México. Los resultados sugieren que casi tres cuartas partes de los consumidores (72%) se preocupan diariamente por la posibilidad de ser engañados por una deepfake para entregar información sensible o dinero.

Y tan solo el 15% de los consumidores afirma que nunca se ha encontrado con un vídeo, audio o imagen falsificada, mientras que el 60% ha estado expuesto a una deepfake en el último año.

A pesar de la gran ansiedad que genera esta tecnología cada vez más prevalente y en constante evolución, los consumidores siguen sobrevalorando su propia capacidad para detectar deepfakes: el 60% cree que podría detectar una deepfake, frente al 52% en 2023.

Te puede interesar: Denuncias de consumidores ante la Unión Europea alegan problemas de seguridad de productos de Temu

Los hombres se muestran más confiados en su capacidad para detectar una deepfake (66% de hombres frente al 55% de mujeres), siendo los hombres de entre 18 y 34 años los que muestran más confianza (75%), mientras que las mujeres de entre 35 y 54 años son las menos seguras (52%).

“A medida que avanza la IA generativa, la incidencia de deepfakes sigue aumentando, lo que revela una brecha significativa en nuestra capacidad colectiva para detectar estos engaños”, dijo Stuart Wells, director de tecnología de Jumio. “Este continuo exceso de confianza subraya la necesidad crítica de una educación pública más fuerte y soluciones tecnológicas más efectivas. Es esencial que las empresas y los consumidores colaboren para mejorar las medidas de seguridad digital con el fin de prevenir eficazmente el fraude de identidad”.

Una mayoría significativa (60%) de los consumidores pide una mayor regulación gubernamental de la IA para abordar estos problemas. Sin embargo, la confianza en la regulación varía de un país a otro: el 69% de los consumidores de Singapur confía en la capacidad de su gobierno para regular la IA, frente al 26% del Reino Unido, el 31% de Estados Unidos y el 44% de México.

El costo real del fraude en línea

El fraude es un problema demasiado conocido para muchos consumidores de todo el mundo, ya que el 68% de los encuestados afirma saber o sospechar que ha sido víctima de fraude en línea o usurpación de identidad, o que conoce a alguien que lo ha sido. Los consumidores estadounidenses son los más propensos a ser víctimas directas del fraude (39%), ya sea por conocimiento o por sospecha, y Singapur es el país que más afirma conocer a una víctima (51%).

Mientras que casi la mitad (46%) de los consumidores que fueron o sospechaban haber sido víctimas de un fraude en línea o de un robo de identidad declararon que la experiencia había sido un inconveniente menor, el 32% dijo que había causado problemas importantes y varias horas de trabajo administrativo para resolverlos, y el 14% llegó a calificarla de experiencia traumática.

Te puede interesar: ¡Atención emprendedores! Los miércoles de Ciberseguridad regresan con más cursos y consejos

Independientemente de si han sido víctimas de un fraude o de un robo de identidad, la mayoría de los consumidores se preocupan diariamente por ser víctimas de filtraciones de datos (79%) y de ataques de robos de cuentas (77%).

Equilibrio entre seguridad y experiencia de usuario en la verificación de identidad
La verificación de la identidad es una parte clave de la solución para las empresas que buscan protegerse y garantizar que sus usuarios son auténticos. Más del 70% de los consumidores afirmó que dedicaría más tiempo a la verificación de la identidad si estas medidas mejoraran la seguridad en sectores como: servicios financieros (77%), salud(74%), administración pública (72 %), e-commerce y retail (72%), redes sociales (71%), economía colaborativa (71%) y viajes y hostelería (71%).

A la hora de crear una nueva cuenta en internet, los consumidores de todo el mundo afirmaron que tomar una foto de su DNI y una selfie en el momento sería la forma más precisa de verificar la identidad (21%), mientras que la creación de una contraseña segura se sitúa en segundo lugar (19%).

Te puede interesar: ¡Ojo! El software de la popular app china Temu es “espía y es una amenaza de seguridad” ¿Por qué?

“A medida que navegamos por las complejidades introducidas por la IA generativa, el papel de los sistemas de seguridad sofisticados se vuelve crucial,” dijo Philipp Pointner, jefe de identidad digital de Jumio.

“Para contrarrestar el aumento de las deepfakes y el engaño cibernético, es imperativo incorporar sistemas de verificación multimodales y basados en la biometría. Estas tecnologías son clave para garantizar que las empresas puedan proteger sus plataformas y a sus clientes de las amenazas online emergentes, y son significativamente más fuertes que las contraseñas y otros métodos tradicionales y obsoletos de identificación y autenticación”.

Imagen: Userba011d64_201

La función fue descubierta por el analista AssembleDebug, quien estuvo revisando las líneas de código de las últimas actualizaciones en la versión beta de la red social para Android. Allí encontró un nuevo elemento bajo el nombre ‘Biblioteca de voz de TikTok’. Dentro de esta nueva sección, el analista encontró una herramienta denominada ‘Clonar tu voz con IA’. 

En las capturas de pantalla se observa una primera ventana emergente que aparece al intentar usar la  nueva herramienta. En ella, la red social explica que solo se necesitan 10 segundos para clonar tu voz. También explican el proceso al usuario: deberá grabarse hablando, TikTok procesa la voz y genera una nueva, idéntica a la tuya (se supone), que podrás usar para videos. 

Te puede interesar: ¡Aterradora! Así es la nueva IA de OpenAI, clona tu voz escuchándote 15 segundos

Para ello, la red social entrega un corto texto que el usuario deberá leer mientras graba su voz. Sin embargo, la función se encuentra aún muy limitada, pues aún se encuentra en construcción. Por otro lado, la plataforma de ByteDance asegura que la información de tu voz permanecerá privada y podrás eliminarla en cuanto desees del almacenamiento. 

Aún no hay claridad de cuándo llegará esta función a los usuarios, ni siquiera tenemos certeza de que esto sucederá. Por ahora solo nos queda esperar a las próximos anuncios de la compañía y confiar en sus métodos de privacidad y seguridad para que solo tú puedas usar tu voz clonada dentro de la app.

Imagen: Soundtrap

Desde Incode explicaron, a través de un comunicado, que “Colombia es un mercado estratégico para la empresa”. Sus objetivos en el país son robustecer sus operaciones a través de servicios como el Digital Onboarding, integrado con la validación del Gobierno (RNEC), autenticaciones para transacciones de alto riesgo y múltiples puntos.

De acuerdo con el informe X-Force Threat Intelligence Index 2024 de IBM, Colombia fue el segundo país de la región con más ciberataques recibidos con un 17 %, apenas superado por Brasil. Para los próximos años se espera que este porcentaje aumente debido a la inteligencia artificial. Sin embargo, muchas de las compañías pueden proteger sus datos y los de sus usuarios con una autenticación digital segura. 

Te puede interesar:  La startup colombiana Habi acaba de recibir $30 millones de dólares para continuar expandiéndose

Las principales modalidades de ciberataques son el fraude, la suplantación y el robo de identidad, donde los delincuentes informáticos se hacen pasar por otras personas o empresas para obtener sus recursos financieros. Algunas organizaciones no cuentan con una estrategia de ciberseguridad y no están preparadas frente a vulneraciones de este tipo

Ricardo Amper, fundador de Incode Technologies, destacó la importancia de desarrollar una conciencia sobre los riesgos en ciberseguridad en Colombia. Según Amper, adoptar una cultura reactiva y utilizar tecnología avanzada no solo optimiza procesos y reduce costos, sino que también mitiga riesgos y facilita la vida de los usuarios. 

La compañía ha logrado una expansión significativa en América Latina, especialmente en Colombia, donde ha establecido alianzas con grandes instituciones financieras y empresas tecnológicas como Rappi Pay. Estas colaboraciones están enfocadas en mejorar los procesos de onboarding digital y autenticación biométrica.

La región sigue siendo altamente vulnerable a ataques que comprometen la seguridad de importantes entidades estatales y empresas privadas, destacando la necesidad urgente de estrategias robustas de ciberseguridad para contrarrestar estas amenazas.

Imagen:

El video, que ha circulado a través de anuncios en Instagram, modifica una entrevista real de Messi, manipulando las voces para promover la aplicación como legítima. Sin embargo, esta promoción es completamente falsa, y detrás de ella se esconde una estrategia de estafa.

La aplicación “Wildcat Dive”, solo disponible para dispositivos iPhone, se presenta en la App Store como un simple juego de rompecabezas, sin mencionar las supuestas ganancias monetarias que el video fraudulento promete. Las reseñas en la tienda de aplicaciones sugieren funciones de apuestas dentro del juego, aunque muchos usuarios han denunciado que la aplicación es fraudulenta y no permite el retiro del dinero invertido.

@miguegranados totalmente denunciable pic.twitter.com/MpsF03Shbp

— tanogue (@TanoGuerrero1) March 16, 2024

Este incidente no solo se está realizando con la imagen de Messi sino que, según investigaciones, también se ha utilizado indebidamente la cara de David Beckham en una maniobra similar. La rápida difusión de esta estafa subraya la importancia de ejercer cautela en el mundo digital.

Te puede interesar: El deepfake crece a un ritmo de 900% anualmente, así puedes prevenir esta ciberamenaza

Ante este tipo de contenido manipulado, ESET, compañía dedicada a la detección de amenazas, recomienda verificar siempre la fuente del contenido, analizar el contexto, comparar con fuentes confiables, estar atento a las inconsistencias y mantenerse informado sobre las tecnologías de manipulación de medios. Estos pasos son cruciales para protegerse contra la desinformación y los intentos de fraude en línea.

La rápida evolución de la tecnología deepfake presenta un desafío significativo en la lucha contra la desinformación y el fraude en línea. A medida que estos métodos se vuelven más sofisticados, es imperativo que los usuarios estén equipados con el conocimiento y las herramientas necesarias para discernir entre lo real y lo manipulado. La estafa que involucra a figuras públicas como Lionel Messi subraya la necesidad de una mayor conciencia y educación digital entre el público para prevenir la propagación de información falsa y proteger la integridad personal y financiera en el vasto mundo digital.

Imagen: Кирил Венедиктов

Por si no lo sabes, el deepfake es contenido audiovisual que parece real pero que no lo es, el cual es creado con ayuda de la inteligencia artificial (IA). En este caso, el contenido es pornográfico, donde usan la cara (y en algunas ocasiones el cuerpo) de mujeres para recrear escenas sexuales. Desde el pasado miércoles, videos de este tipo con la cara de Taylor Swift comenzaron a rodar por la web, en plataformas como X. 

Es por esto que desde la red social de Elon Musk bloquearon el término ‘Taylor Swift’, de manera que todo el contenido deepfake de la cantante perdiera visibilidad. En cambio, los usuarios que buscaron a la artista, se encontraron con un mensaje de error. Joe Benarroch, jefe de operaciones comerciales de X declaró para Wall Street Journal que “Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema”. 

Te puede interesar: El deepfake crece a un ritmo de 900% anualmente, así puedes prevenir esta ciberamenaza

Pero, aunque Benarroch asegura que la compañía tomó el tema “con preocupación” y lo “priorizaron”, la red social ha sido foco de críticas por tardar tanto tiempo en bloquear su nombre. Muchas de las cuentas que publicaron el contenido sexual, explícito y no consensuado de la cantante, fueron bloqueadas. Sin embargo, cuando se produjo el bloqueo, ya los videos habían alcanzado hasta los 45 millones de visualizaciones. 

Cuando las imágenes empezaron a tomar fuerza, desde el pasado miércoles, los fanáticos de Swift se pusieron al frente de la situación. Con el fin de limitar la visibilidad del contenido, inundaron de hashtags a la red social con publicaciones positivas de la cantante. Adicionalmente, reportaron cientos de veces el contenido y a los usuarios que lo compartían para que X eliminara, tanto los videos e imágenes, como las cuentas. 

De acuerdo con nuestros colegas de 404Media, luego de rastrear el contenido deepfake, se encontraron con que, presuntamente, un grupo de Telegram, conocido por crear imágenes de mujeres sin su consentimiento, sería el responsable de las imágenes de Taylor Swift.

Imagen: Taylor Swift

Esta perturbadora técnica, respaldada por algoritmos conocidos como GAN (Generative Adversarial Networks) o RGA (Redes Generativas Antagónicas), permite la creación de imágenes falsas. Algunos crean fotografías, vídeos o audios, que resultan increíblemente realistas, con el fin de cometer estafas virtuales o engaños en línea.

Según datos del Foro Económico Mundial el deepfake crece a un ritmo anual del 900%. Estas cifras son una muestra de cómo ha escalado este ciberdelito en todo el mundo, con el fin no solo de cometer fraudes, chantajes, manipulación o afectar la reputación de un individuo o empresas, sino también fomentar la desinformación a través de “fake news”.

“La continua evolución de esta tecnología basada en IA, plantea una amenaza creciente que puede tener un impacto significativo en la vida personal de las personas y en la reputación de las marcas. La sofisticación en la creación de imágenes y videos falsos exige una mayor atención para identificar posibles vulnerabilidades y proteger nuestra sociedad en constante cambio”, expresó José Castro, gerente general de Noventiq Colombia.

Te puede interesar: Colombia dentro de los 5 países latinos con más amenazas cibernéticas

 Cómo combatir el deepfake

La capacidad de manipular rostros, voces y expresiones con una precisión sorprendente plantea serios desafíos a la hora de discernir entre lo auténtico y lo falso. En este sentido, desde la empresa especialista comparten algunas estrategias para contrarrestar el deepfake.

1. Concientización y educación: La batalla contra el deepfake comienza con la concientización y la educación. Es fundamental que todos, desde el público en general hasta los profesionales y empresas, comprendan qué es el deepfake, cómo funciona y cómo se puede reconocer en algunos casos.
2. Fortalecimiento de la autenticidad digital: las plataformas tecnológicas deben invertir en tecnologías de autenticación robustas que permitan verificar la legitimidad de los contenidos compartidos en línea. Algoritmos de reconocimiento facial y de voz, así como marcas de agua digitales, pueden desempeñar un papel crucial en la protección de la integridad de los archivos multimedia.
3. Colaboración y cooperación: la lucha contra el deepfake requiere un esfuerzo conjunto de gobiernos, empresas tecnológicas, instituciones académicas y sociedad civil. Se deben establecer alianzas sólidas para compartir conocimientos, recursos y mejores prácticas en la detección y mitigación de deepfakes. Además, la colaboración internacional es fundamental para abordar este desafío global y establecer estándares comunes que promuevan la integridad y la autenticidad en los medios digitales.
4. Legislación y regulación: en ciudades como California ya se han impuesto leyes contra el uso del deepfake en aspectos pornográficos y políticos. Esto demuestra que los gobiernos deben trabajar en conjunto para establecer marcos legales que penalicen la producción y difusión de deepfakes con intención maliciosa.

“Aunque existen ciertos indicios que pueden ayudar a detectar deepfakes, como movimientos bruscos o inconsistencias en la iluminación, no debemos subestimar la sofisticación de esta amenaza. Por lo que se requiere un enfoque holístico que combine la educación y capacitación respecto a la ciberseguridad, desarrollo de tecnologías avanzadas, la implementación de legislaciones adecuadas y una colaboración estrecha entre diversos actores. Solo así podremos contrarrestar el avance del deepfake y preservar la autenticidad de la información en la era digital”. Concluyeron desde Noventiq.

Imagen: Frrepik

El deepfake es una practica utilizada por delincuentes cibernéticos, quienes utilizan fotos de personas reales para hacer montajes. Principalmente, este tipo de montajes están relacionados con contenido pornográfico y sexual con diferentes fines. Ahora, el Buró Federal de Investigaciones (FBI) alertó sobre el aumento de este contenido.

Gracias al gran crecimiento que ha tenido la inteligencia artificial (IA) en los últimos meses, los delincuentes cibernéticos han logrado generar más videos falsos y con mayor facilidad. Dichos videos son utilizados en esquemas de ‘sextorsión’ o extorsión sexual, con el fin de acosar a menores y adultos con el contenido. Los delincuentes piden altas sumas de dinero a cambio del rescate del material en el que las victimas son protagonistas.

Tal y como lo explica el FBI, los delincuentes estarían aprovechándose del contenido que cuelgan los usuarios en redes sociales e internet. Posteriormente, cuando los malhechores tienen las imágenes con la cara o cuerpo de sus víctimas, recurren a la inteligencia artificial con la que logran realizar videos e imágenes sexuales. Entonces, las victimas aparecen en el contenido pornográfico como si fueran ellos los protagonistas de las escenas.

Te puede interesar: Abren convocatoria para financiar investigaciones en ciberseguridad ¿Cómo participar?

En algunos casos, el material en posesión de los estafadores es real, el cual consiguen mediante algún conocido de la víctima, quien entrega el contenido a cambio de dinero. Por otro lado, los delincuentes pueden obtener el material al hackear la cuenta de la víctima. En todo caso, con el contenido sexual en sus manos realizado mediante deepfake o contenido real, sobornan a las personas: entregan el material a cambio de dinero. En caso de que las víctimas no quieran entregar el dinero que los estafadores exigen, los timadores proceden a subir las imágenes a internet.

“El FBI continúa recibiendo informes de víctimas, incluidos menores y adultos que no lo consintieron, cuyas fotos o videos fueron alterados en contenido explícito”, escribieron los agentes. “Después, se difunden públicamente los materiales en las redes sociales o sitios web pornográficos con el propósito de acosar a las víctimas o como parte de esquemas de extorsión sexual”.

“Aunque aparentemente inofensivas cuando se publican o comparten las imágenes y los videos pueden proporcionar a los actores maliciosos una abundante fuente de contenidos para explotar con fines delictivos”, según declararon las autoridades. “Los avances en la tecnología de creación de contenidos y las imágenes personales accesibles online ofrecen nuevas oportunidades a los agresores para encontrar y atacar a las víctimas. Esto les hace vulnerables a la vergüenza, el acoso, la extorsión, la pérdida financiera o la revictimización continua a largo plazo”.

Imagen: imustbedead vía Pixabay

La imagen muestra al Papa Francisco usando un abrigo de marca. Inicialmente la ‘foto’ se difundió como un meme, pero solo tomó un poco de tiempo antes de que algunas personas creyeran que se trataba de una verdadera fotografía y comenzaran a abrir un debate sobre las prioridades de la iglesia. De hecho, Twitter tuvo que agregar para antes del fin de semana una etiqueta indicando que se trataba de una fotografía falsa creada con Midjourney.

Por supuesto, los más detallistas encontrarán que hay muchos signos en Papa Swagged que indican que se trata de una imagen creada por AI. Por ejemplo, el crucifijo tiene ángulos extraños y se posiciona de manera rara encima del abrigo. El Jesús tampoco tiene buenos detalles y ni siquiera tiene brazos que se extiendan de manera correcta. La mano (que suele ser el talón de Aquiles de la AI) no tiene forma y tampoco podría sujetar el vaso de café con sus dedos inexistentes.

Y, sin embargo, como muchos han señalado es realista en el sentido de que a primera vista parece real. Algo importante, pues la experiencia con la información falsa nos ha demostrado que son pocas las personas que se toman el tiempo para analizar de manera crítica la información o piezas que encuentran en Internet. ¿Cuántos de ustedes verían una de estas fotos en una línea de tiempo en Twitter y la terminarían por confundir con algo que pudo haber pasado? ¿Cuántos se tomarían el tiempo de buscar las señales que indiquen que fue creada con AI?

Te puede interesar: Deepfake pornográfico: una (horrible) práctica que Facebook está impulsando

Para aquellos que llevamos un tiempo en el ‘rodeo’ de las redes sociales y la Internet el problema no es nuevo. Cuando comenzaron a popularizarse los deepfake (videos en los que gracias a software era posible ‘reemplazar’ el rostro de una persona en un video) las mismas inquietudes surgieron. ¿Están preparadas las redes sociales y las personas para aprender a diferenciar estas imágenes en los momentos más críticos?

Y la respuesta, por desgracia es que no: no lo estamos. Las elecciones más recientes comprobaron que las redes sociales no tienen los mecanismos para controlar estas piezas antes de que se hagan virales. Lo que se entiende. ¿Está la solución en prohibir las imágenes construidas en deepfake? Por supuesto que no. Otra solución asegura que este tipo de piezas deberían incluir algún tipo de ‘huella’ digital que las diferencie de las imágenes tradicionales, pero esta alternativa olvida la facilidad con la que se duplica el contenido en la Internet…

Por desgracia no parece haber una solución para este problema y, más importante, tampoco la intención por parte de los responsables por crear un sistema lo suficientemente robusto para evitar que las imágenes súper realistas creadas por AI terminen por pasar de los memes a una herramienta de información falsa que no podamos controlar.

Imagen: Midjourney

Lamentablemente, algunos han optado por crear videos pornográficos con la cara de otras personas, especialmente, mujeres. Lo más problemático de la situación es que las redes sociales están funcionando como una ventana para darle más visibilidad a este tipo de contenido. Recientemente, apareció en Facebook un anucio de una aplicación donde se pueden realizar este tipo de ediciones.

“Me encontré con este anuncio ayer y wow, ¿en serio?, se lee en el tuit publicado por la periodista Lauren Barton el lunes 6 de marzo. En él, se muestra un pantallazo de un anuncio en Facebook donde se ve un video con la actriz Emma Watson. La actriz se inclina mientras mira a la persona que la filma, luego la cámara se corta antes de que las cosas vayan más lejos. Aunque el contenido no muestra ninguna imagen explícita, no hay duda de que se trata de un montaje pornográfico.

i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb

— lauren (@laurenbarton03) March 6, 2023

Te puede interesar: ¿Zelenski se rindió en video? El deepfake que Meta tuvo que eliminar de sus redes

El anuncio, que también cuenta con una foto de la actriz cuando aún era menor de edad, estuvo visible durante varios días en Facebook e Instagram. El anuncio promociona FaceMega, una aplicación que te permite importar la cara de cualquier persona y aplicarla a diferentes plantillas de video. Según una  reciente investigación de NBC, durante el fin de semana se emitieron nada menos que 230 anuncios de este tipo en las redes sociales de Meta.

De hecho, en las últimas semanas, los analistas han notado un importante incremento en el tráfico a los sitios que alojan este tipo de videos, los cuales han sido realizados sin el consentimiento de las personas cuyos rostros son usados allí. Aunque la mayoría de contenido de “deepfake” pornográfico se realiza con celebridades, hay algunas personas de a pie que han informado haber visto su cara en estos sitios.

En todo caso, aunque aplicaciones como FaceMega, que están dedicadas a brindar servicios de deepfake, no promocionan precisamente los videos pornográficos, hacen una clara alusión que carecen de sutiliza, como el de Emma Watson. De hecho, un informe de 2019 estimó la proporción de montajes pornográficos en el mundo del deepfake en un 96%.

Imagen: Unsplash

La nueva moda de TikTok es bastante sencilla. Personas con acceso a herramientas de inteligencia artificial alimentan una AI con las voces de figuras públicas como Trump y Obama, para luego ponerlas a leer un guion que los hace sonar como si fueran adolescentes de 13 años tóxicos jugando videojuegos.

@deepfakenews Episode 2: Trump Finds Biden’s House #trump #biden #obama #deepfake #meme #minecraft ♬ Sweden – C418

Y aunque el concepto es sencillo, es muy fácil entender por qué razón estos videos se están convirtiendo en una de las tenencias de TikTok imposibles de escapar. La parodia de rivalidad entre Trump y Obama traducida a una partida de videojuegos nos hace entender que entre las discusiones en Twitter y los insultos tóxicos de una partida en línea solo hay un control de por medio. También resulta divertido escuchar a Obama regodearse por su ‘habilidad’ para lanzar bombas.

@ripherkz Joe Biden, Donald Trump and Obama argue over rust. #joebiden #trump #obama #funny #fyp #rust ♬ joe loses trumps and bidens ak in rust – Ripherkz

Por supuesto, por más que la AI pueda imitar las voces es en el tono y la potencia donde falla y claramente vemos al robot. Cualquiera que haya estado en una partida de Overwatch sabe que el tono en el que se lanzan estos comentarios es mucho menos neutro que el de los AI-presidentes.

@justpadetwitch Replying to @blitzwv thanks for the love on the recent vids #presidents #minecraft #parody #ai #funny ♬ original sound – pade

Te puede interesar: TikTok Trivia, la nueva experiencia interactiva de la red social

Sin embargo, un área en el que esto tono neutro resulta mucho más real (y menos divertido) es en el uso de deepfakes para crear discursos o declaraciones falsas y luego compartirlas como noticias. El uso de AI para imitar voces no es nuevo y, por desgracia, ya ha sido utilizado para compartir información falsa en la guerra sucia de la información que hoy ocurre en las redes sociales. Un arma poderosa, considerando lo polarizadas que están las personas y lo fácil que es encenderlas con un discurso falso.

i regret to inform the FFXIV community that the presidential raid group has broken up due to The Discourse 😔 pic.twitter.com/KivAjbkKk8

— JAB 🥪 NOPHICA’S FAVORITE (@qtrcirclejab) February 17, 2023

Así que, entre todo, resulta al menos divertido el ver a las personas utilizando esta AI para divertirse a costa de los presidentes. En ENTER.CO levantamos el reto a los amantes de la inteligencia artificial para que se armen algún video con las figuras políticas colombianos. No podemos esperar por ver cómo se vería un video en el que el presidente Gustavo Petro y la alcalde de Bogotá Claudia López discuten por la decisión de construir una granja por encima del suelo.

Imágenes: captura de pantalla y monataje ENTER.CO

¿Sabes de qué se trata el deepfake? Si eres activo en redes sociales seguramente habrás visto ‘falsificaciones’ en los que se utiliza el rostro o voz de algún famoso en un video que no es real. O quizás hayas descargado en tu celular una aplicación para poner tu cara sobre el cuerpo del protagonista de una película de acción.

De eso se trata la tecnología deepfake y ha resultado tan hilarante en redes sociales, como peligroso a la hora de consolidar estafas o engaños. A través de esta tecnología se realizan montajes, en los que el rostro o voz de una persona son manipulados utilizando software de inteligencia artificial para que un video que no es real parezca auténtico. 

Una startup israelí encontró en el deepfake un nuevo modelo de negocio. Se dedica a comprar los derechos de imagen del rostro de las personas para crear videos corporativos, de marketing o educativos. 

También te puede interesar: Extraños y exitosos: 5 negocios fuera de lo común

Así, la propuesta de Hour One es ofrecer a sus clientes videos sin el uso de actores. En su lugar crean personajes a partir de los rostros de personas que venden su imagen.

Para construir un personaje, la compañía usa una cámara 4K de alta resolución para grabar a una persona mientras habla y realiza diferentes gestos: llanto, preocupación, alegría, sorpresa, etc. Después estas imágenes son alteradas a través de un software de Inteligencia Artificial que les permite crear un personaje que puede decir cualquier texto en cualquier idioma.

Finalmente, los clientes eligen al rostro para su campaña, encargan el video con un guión determinado y Hour One utiliza su tecnología para crearlo. La persona dueña del rostro seleccionado recibe una pequeña comisión por el uso de su imagen.

Muy ingenioso, pero también peligroso. Ceder los derechos de imagen puede significar un gran riesgo para cualquier persona, teniendo en cuenta que a través de deepfake literalmente puede resultar un video de alguien haciendo cualquier cosa ¡y con tu cara! Entonces piénsalo dos veces, ¿estarías realmente dispuesto a ‘vender tu rostro’?

Imagen de Andrea Piacquadio en Pexels

Diferentes youtubers han buscado ‘arreglar’ los deepfakes del estudio. Pero uno hizo tan bien su trabajo que el mismo estudio decidió contratarlo. Su nombre de usuario es Shamook y su canal es bien conocido entre los amantes de la tecnología deepfake por ser uno de los exponentes del nivel de perfeccionismo que es posible alcanzar al utilizarla para poner actores en algunas de las escenas y películas más importantes del cine.

Te puede interesar: Esta herramienta puede reconocer el deepfake

¿Por qué esto es importante? Para empezar, el caso de Shamook es tan solo el más reciente de una generación de creadores que han encontrado relaciones con compañías importantes a través de plataformas como YouTube. Shamok ahora tiene el cargo de Artista de captura facial senior. De hecho, Lucasfilm confirmó que siempre están atentos a la aparición de nuevo talento, en caso de que sea tu sueño trabajar en una película de ‘Star Wars’.

El otro punto importante, es porque indica la insistencia de Lucasfilm en utilizar deepfake en sus producciones. El uso de esta tecnología no ha llegado sin problemas a los estudios. Algunos actores han expresado su preocupación al hecho de que un estudio (con los derechos apropiados) pueda utilizar sus expresiones faciales para traerlos de regreso a una franquicia cuando lo deseen. ¿Se puede calificar de actuación algo, cuando es un algoritmo el que está interpretando las expresiones faciales? Para una compañía como Lucasfilm se trata de una técnica que parece necesaria, considerando que muchas de sus historias a menudo requieren cameos de actores como Hamill, que participaron en las películas caso 50 años atrás.

Imágenes: YouTube

Los ‘deepfakes’ son vídeos que han sido manipulados por algoritmos de inteligencia artificial que logran producir imágenes y sonidos que parecen reales cuando no lo son. Esta tecnología tiene la capacidad de hacernos creer que un personaje tan respetable y diplomático como el expresidente Barack Obama ha llamado idiota al presidente Donald Trump en una importante conferencia de prensa. Alterar el contenido multimedia con tal exactitud pone en riesgo nuestra capacidad de distinguir lo real de lo falso, por lo tanto, muchos terminan desarrollando posturas o ideas erróneas sobre personas u organizaciones que nunca pensaron ser vistas de esa manera. Esto lo hace a usted y a la institución para la que trabaja completamente vulnerable, y mucho más en un mundo donde las plataformas de código abierto le han dado acceso a cualquier persona a este tipo de tecnología.

Hoy, la tecnología deepfake está siendo utilizada en gran parte contra la intimidad de las mujeres. En un artículo del diario inglés The Guardian, se expone que una compañía llamada Deeptrance encontró 15.000 videos con esta tecnología en septiembre de 2019, de los cuales un 96 % de estos correspondían a material pornográfico donde en su mayoría se asignaba rostros de celebridades femeninas a cuerpos de estrellas porno.

Este no es el único caso de uso que podría afectar a nuestra sociedad, ya que hemos visto cómo esta técnica ha sido utilizada para fragmentar la opinión pública; donde la democracia que conocemos podría desmoronarse si no contenemos la propagación de este tipo de videos falsos en las redes sociales. Por ejemplo, el senador republicano Marco Rubio dijo que los deepfakes se convertirán en la próxima ola de ataque contra Estados Unidos y las democracias occidentales.

Se dice que con el uso de simples memes la interferencia rusa logró deteriorar el resultado de las elecciones presidenciales de 2016, imaginemos lo que podría hacerse con los deepfakes en futuros años.

Lo más preocupante es que este tipo de tecnologías está al alcance de cualquier persona, a tal punto de que con una sencilla capacitación en línea se podría llegar a destrozar la reputación que se ha construido durante años y esto podría afectar a una persona o compañías enteras. Las consecuencias éticas que tiene esta tecnología son inmensas, algunas van desde perder nuestro siguiente empleo, a causa de algo que no dijimos ni hicimos, hasta llegar a deteriorar las democracias más fuertes del mundo.

El hecho de que esta tecnología pueda denigrar injustamente la imagen de un individuo o de una organización, sin ser fácilmente detectada, la convierte en uno de los retos más importantes del siglo XXI.

Si queremos seguir protegiendo el derecho al buen nombre, será mejor que las grandes corporaciones desarrollen algoritmos proactivos que detecten estos videos falsos para que puedan ser eliminados antes de que ocasionen una injusticia. Ahora bien, muchas de estas organizaciones ya comprenden la inmensidad del problema y vienen trabajando en soluciones que puedan mitigarlo. Por ejemplo, grandes corporaciones como Facebook y Microsoft ya han tomado iniciativas para detectar y eliminar videos deepfake. Pero mientras eso ocurre, yo recomiendo siempre verificar la fuente del contenido que vemos, no podemos dejar toda la responsabilidad en manos de las grandes corporaciones, también está en nosotros luchar por la verdad digital.

Imagen: Pikisuperstar (Vía Freepik).