La propuesta es histórica por diversos motivos; el más relevante es que, hasta el momento, los derechos de autor se limitaban a proteger creaciones originales como canciones, libros o imágenes. Sin embargo, esta nueva normativa pretende establecer un marco en el que la apariencia personal esté protegida por las mismas leyes que impiden el uso no autorizado de marcas registradas o propiedades intelectuales como K-Pop Demon Hunters.

Aunque la ley fue presentada originalmente en junio de 2025, esta semana la propuesta se acercó a su aprobación final. Esto ha captado la atención internacional, ya que Dinamarca podría imponer la primera ley de identidad digital de este tipo en Europa. “Si no protegemos a los titulares de los derechos, y si cada ciudadano puede falsificar o copiar las artes y las obras de otras personas, le quitamos el sustento a la comunidad artística”, aseguró Jakob Engel-Schmidt, ministro de Cultura de Dinamarca.

Protección contra los deepfakes: ¿un paso obligatorio?

La norma propuesta por Dinamarca ofrecería mecanismos legales para que una persona pueda demandar si encuentra contenido que replique su apariencia o voz sin consentimiento. Además, prohibiría de forma tajante que los deepfakes creados sin autorización sean compartidos en plataformas digitales.

Existen puntos que generan dudas sobre la operatividad de la norma a largo plazo. La propuesta otorga libertad para exigir a plataformas como Instagram o TikTok la eliminación de contenido no autorizado, de forma similar a como Disney solicita retirar clips de sus películas. No obstante, queda pendiente resolver cómo interactúa este derecho con las aplicaciones de IA cuyos términos y condiciones solicitan acceso para usar dicha información. La normativa aclara que estos derechos no aplican en casos de parodia o sátira, protegiendo así la libertad de expresión al criticar a figuras públicas.

¿Necesitamos en Colombia una norma que nos proteja contra los deepfakes?

El principal problema legal que representan los deepfakes hoy radica en la vulneración de derechos fundamentales como el honor, la propia imagen y la intimidad. Esto es crítico en casos de contenido pornográfico no consentido y suplantación de identidad para fraudes financieros. Además, estas herramientas pueden manipular la opinión pública mediante desinformación política, poniendo en jaque la integridad de los procesos electorales.

Ante esta situación, diversos países han implementado medidas regulatorias con distintos enfoques. La Unión Europea, a través de su Reglamento de Inteligencia Artificial (en vigor pleno este 2026), exige que todo contenido generado por IA sea etiquetado claramente para garantizar la transparencia. Por su parte, Estados Unidos ha avanzado con leyes federales que otorgan herramientas para la eliminación rápida de imágenes no consentidas, protegiendo la voz y apariencia frente a réplicas digitales.

En otras regiones, el enfoque se centra en el control técnico y responsabilidad penal. China fue pionera al exigir marcas de agua digitales cifradas imposibles de eliminar, vinculando la identidad del usuario con el contenido. En países como España, se han reformado los códigos penales para tipificar la difusión de deepfakes sexuales como un delito contra la integridad moral. Este esfuerzo global refleja un cambio de paradigma: la ley busca proteger la identidad digital como un activo esencial del ser humano.

¿Qué es Deepsight?

Se trata de una plataforma de detección multimodal capaz de identificar si una persona es real o si está siendo suplantada mediante deepfakes, identidades sintéticas, cámaras virtuales o técnicas de inyección de video. La herramienta forma parte de la suite de identidad de Incode y puede integrarse en procesos como onboarding digital, autenticación continua, verificación de empleados o validación de edad.

El desarrollo estuvo respaldado por pruebas realizadas en la Universidad de Purdue, una de las instituciones más reconocidas en ingeniería e inteligencia artificial. En su estudio reciente sobre detección de deepfakes, Deepsight obtuvo la mayor precisión y la menor tasa de falsos positivos, por encima de sistemas académicos, gubernamentales y comerciales.

¿Cómo funciona?

Deepsight utiliza una arquitectura de tres capas que analiza múltiples señales al mismo tiempo. La primera es la capa de percepción, que emplea modelos de IA entrenados para distinguir rostros humanos reales de falsificaciones generadas digitalmente. La segunda es la capa de integridad, encargada de validar si la cámara o el dispositivo que captura la imagen es auténtico, bloqueando cámaras virtuales u otros medios manipulados. Finalmente, la capa de comportamiento examina microacciones y patrones de movimiento imposibles de replicar por los deepfakes actuales.

Toda esta verificación se ejecuta en menos de 100 milisegundos, sin generar fricción para el usuario. Según Incode, la tecnología ha demostrado ser hasta 10 veces más precisa que los revisores humanos entrenados para detectar fraude, lo que revela el nivel de sofisticación que alcanzaron los ataques basados en IA.

¿Por qué es importante esta tecnología?

El aumento de ataques digitales hace que la capacidad de distinguir entre lo real y lo falso ya no sea un asunto tecnológico, sino un factor crítico de seguridad nacional y empresarial. En Colombia, solo en 2024 se registraron más de 74.000 denuncias por ciberdelitos y alrededor de 36.000 millones de intentos de ciberataques, cifras que posicionan al país como uno de los más afectados de América Latina.

Banca, salud, energía y plataformas digitales enfrentan amenazas constantes de suplantación, robo de identidad y fraude transaccional. Ante ese escenario, herramientas como Deepsight buscan reducir el riesgo operativo, evitar pérdidas millonarias y preservar la confianza de los usuarios en procesos digitales.

Hoy, la tecnología ya se implementa en empresas como TikTok, Scotiabank y Nubank, donde ha protegido más de seis millones de sesiones de verificación. El lanzamiento también acompaña la visión de Incode hacia una “identidad agentiva”, en la que personas verificadas podrán interactuar de manera segura con agentes de IA que actúan en su nombre.

Imagen: Tero Vesalainen

Hace poco circuló en medios internacionales la historia de un joven cuya imagen fue utilizada en un video falso creado con inteligencia artificial. El material era tan realista que engañó incluso a personas cercanas a él. Este caso no ocurrió en Colombia, pero bien podría haber pasado aquí. La anécdota refleja el alcance de los deepfakes y pone sobre la mesa una preocupación que no distingue fronteras y es la manipulación de la identidad digital.

Frente a esta situación, Colombia dio un paso significativo con la aprobación de la Ley 2502 de 2025, que modificó el artículo 296 del Código Penal. La norma establece sanciones para quienes suplanten a otra persona o alteren su identidad con fines de provecho o daño, y contempla un agravante cuando estas conductas se realizan mediante inteligencia artificial. Con esta decisión, el país reconoce que los fraudes digitales son una realidad presente que afecta la confianza ciudadana.

Este avance resuena con otras iniciativas relevantes aplicadas en otras naciones. Por ejemplo, en el Reino Unido se aprobó una legislación que castiga con prisión la creación y difusión de deepfakes sexuales sin consentimiento, luego de registrarse un incremento superior al 400 % en este tipo de fraude desde 2017. Casos como este demuestran que el problema no es exclusivo de una región y que la respuesta debe estar acompañada de un marco regulatorio que brinde herramientas reales para la prevención y protección de las víctimas.

Te puede interesar: Opinión | Humanos 2.0: ¿Qué nos define?

El deepfake no es un simple juego tecnológico: es un mecanismo que puede usarse para extorsionar, suplantar, manipular pruebas electrónicas o incidir en la opinión pública. Tipificar estas prácticas como delito contribuye a cerrar vacíos legales y nos deja un mensaje contundente: la dignidad en el entorno digital debe ser protegida.

Desde mi experiencia, es evidente que la regulación debe acompañarse de tecnología avanzada y una cultura ciudadana más crítica frente a lo que consume, comparte y produce en línea. La alfabetización digital en el uso de tecnologías emergentes y construcción de entornos confiables son pilares fundamentales para enfrentar los nuevos riesgos con criterio y responsabilidad.

El debate sobre los deepfakes no es únicamente un asunto técnico; es un desafío que compromete la democracia, reputación de las personas y estabilidad institucional. Apuntemos a sostener un ecosistema tecnológico ético, consciente y seguro.

La decisión reconoce que la manipulación digital tiene un alcance mayor que las formas tradicionales de suplantación. A partir de julio de 2026, quienes usen inteligencia artificial para atribuirse identidades o crear contenidos falsos podrán recibir multas más altas y penas de prisión que se extienden hasta seis años, dependiendo de la gravedad del caso.

El deepfake se ha convertido en el ejemplo más preocupante de esta amenaza. Mediante algoritmos avanzados, se pueden producir audios y videos que replican de manera convincente la voz o la apariencia de una persona, aunque nunca haya dicho o hecho lo que se muestra. Estas prácticas han sido usadas en fraudes, extorsiones y campañas de desinformación en distintos países.

En el texto de la nueva ley se especifica que, cuando la falsedad personal se realice con el uso de inteligencia artificial, la sanción aumentará hasta en una tercera parte. Esto significa que la justicia ahora considera que el daño provocado por estas tecnologías merece un castigo proporcional a su capacidad de impacto.

El tema no es exclusivo de Colombia. En el Reino Unido, por ejemplo, se aprobó recientemente una reforma que penaliza la creación y distribución de deepfakes sexuales sin consentimiento, con hasta dos años de prisión para los responsables. La experiencia internacional muestra que la regulación es una respuesta necesaria frente a un problema que no deja de crecer.

Te puede interesar: Colegios deben ofrecer clases virtuales por ley: el derecho a estudiar sin ir al aula

Simbad Ceballos, CEO de OlimpIA, asegura que esta norma llega en un momento decisivo. Para él, la suplantación digital no puede seguir tratándose como un simple engaño tecnológico. Al contrario, exige medidas jurídicas claras y sanciones que reflejen la magnitud del riesgo. También advierte que los deepfakes no son hechos aislados sino un fenómeno global que exige preparación y capacidad de respuesta.

Más allá de las sanciones, la Ley 2502 abre la puerta a una política pública sobre el uso de la inteligencia artificial en fraudes y suplantaciones. Esta deberá ser diseñada por entidades como la Fiscalía, la Policía Nacional y el Ministerio de Justicia, en coordinación con el Ministerio TIC. Se espera que incluya estrategias de educación, cooperación internacional y desarrollo de herramientas de detección.

La protección de la dignidad y la integridad personal es uno de los pilares de esta regulación. Manipular la voz o la imagen de alguien puede convertirse en un acto de acoso, extorsión o humillación. También está en juego la validez de las pruebas digitales en procesos judiciales y el impacto que estas falsificaciones pueden tener en la opinión pública o en la estabilidad política de un país.

Te puede interesar: Tatequieto judicial a Hugo Ospina: Tribunal frena intento de bloquear apps como Uber, DiDi y Cabify

El análisis deja ver que la ley busca un balance. No pretende frenar la innovación tecnológica, sino establecer límites que eviten que la inteligencia artificial sea usada de manera abusiva. Al mismo tiempo, la norma envía un mensaje a los ciudadanos sobre la importancia de mantenerse informados y denunciar cuando su identidad digital sea vulnerada.

La identidad en internet hoy pesa tanto como la identidad física. Una imagen alterada o un audio manipulado pueden arruinar la reputación de una persona, desviar procesos democráticos o poner en riesgo la confianza en la información. Con esta reforma, Colombia se suma al grupo de países que empiezan a trazar una ruta de defensa frente a un fenómeno que apenas está comenzando.

Imagen: Archivo ENTER.CO

El fenómeno no es menor. Según un estudio reciente de Microsoft, el 78% de los usuarios de internet en Colombia ha enfrentado algún tipo de riesgo en línea. Esa cifra no solo supera el promedio global, sino que también revela un escenario preocupante: el 82% de los colombianos ya está inquieto por el mal uso de la inteligencia artificial generativa, la misma tecnología que hace posible los deepfakes.

En las empresas, las consecuencias van más allá de la simple desinformación. Leonel Navarro Segura, director global de prácticas de ciberseguridad en Softtek, advierte que ya existen casos documentados de ejecutivos de alto nivel cuya imagen y voz han sido falsificadas con deepfakes. El resultado: estafas millonarias, accesos no autorizados a sistemas críticos y daños irreparables a la reputación.

“El problema con los deepfakes es que no atacan una falla técnica, atacan la confianza”, afirma Navarro. “Una llamada que parece venir del CEO, un video creíble, un audio que imita perfectamente una voz… son suficientes para vulnerar incluso a las organizaciones con los mejores sistemas de seguridad”, explica.

Esta amenaza se suma a las técnicas de ingeniería social ya conocidas. El phishing, por ejemplo, ahora puede potenciarse con videos falsos que confunden aún más a empleados y usuarios, generando una tormenta perfecta para los ciberdelincuentes.

Te puede interesar: Colombia lanza su Estrategia de Seguridad Digital: mucho en el papel, retos en la realidad

La respuesta, dice Navarro, no puede ser solo técnica. Reforzar la cultura de ciberseguridad dentro de las compañías es fundamental. Eso implica entrenamientos frecuentes, campañas de concientización y, sobre todo, enseñar a los empleados a desconfiar, incluso de lo que ven y escuchan.

“Hoy en día, cualquier persona puede ser víctima de un deepfake, pero cuando se trata de un ejecutivo o un líder corporativo, las consecuencias pueden ser devastadoras”, asegura el especialista.

Entre las recomendaciones, destaca la implementación de autenticación multifactor y verificación biométrica en tiempo real. Además, sugiere incorporar herramientas basadas en inteligencia artificial que puedan detectar deepfakes y analizar anomalías en videos y audios en cuestión de segundos.

La protección de la identidad digital también se ha vuelto un asunto prioritario. Navarro recomienda usar certificados en los correos electrónicos, marcas de agua en fotos y videos públicos y sistemas avanzados de análisis de comportamiento para detectar actividades sospechosas.

Sin embargo, los deepfakes no solo están afectando a las grandes empresas. Navarro alerta que incluso las entrevistas de trabajo se están viendo comprometidas, con candidatos falsos que utilizan videos manipulados para superar procesos de selección.

En este escenario, el concepto de Zero Trust, donde nada ni nadie se da por confiable sin una verificación continua, toma fuerza. Verificar identidades con biometría, implementar detección de vida y diversificar los canales de comunicación interna son solo algunas de las medidas que Softtek sugiere.

Pero la pregunta más inquietante sigue sobre la mesa: ¿Puede la inteligencia artificial ser la solución al problema que ella misma ha creado? Para Navarro, la respuesta es sí.

“La IA puede y debe ser nuestra aliada. Con ella podemos analizar patrones de comportamiento, detectar anomalías y blindar los procesos críticos en tiempo real”, concluye.

Estos contenidos, conocidos como “deepfakes”, pueden resultar muy angustiosos para las personas afectadas. Por eso, Google ha invertido en políticas y sistemas para ayudar a las personas a tener más control sobre estos contenidos. Hoy, se comparten actualizaciones importantes para proteger aún más a las personas.

¿Cómo eliminar contenido?

Durante muchos años, las personas usuarias han podido solicitar la eliminación de imágenes falsas no consentidas del Buscador en virtud de las políticas de Google. Ahora, la compañía ha desarrollado sistemas para facilitar el proceso y ayudar a las personas a abordar este problema a gran escala.

Te puede interesar: ¿Qué obstáculo tiene la IA Generativa en Colombia para generar empleos?

Cuando alguien solicita con éxito la eliminación de contenido falso explícito no consentido en el que aparece en el Buscador, los sistemas de Google también intentarán filtrar todos los resultados explícitos en búsquedas similares sobre esa persona.

¿Cómo clasifica la información?

Con tantos contenidos creados en línea cada día, la mejor protección contra el contenido dañino es construir sistemas que clasifiquen la información de alta calidad en los primeros puestos del Buscador. Con esto en mente, se han lanzado actualizaciones de clasificación para limitar aún más la visibilidad del contenido falso explícito en el Buscador.

Estas actualizaciones reducirán el contenido explícito falso en muchas búsquedas y mostrarán contenido no explícito de alta calidad, como artículos de noticias relevantes, cuando esté disponible.

Te puede interesar: Google, IBM, Intel, Microsoft, NVIDIA crean coalición para una IA segura, CoSAI ¿En qué consiste?

Es necesario distinguir el contenido explícito real y consentido del contenido explícito falso. Aunque diferenciar entre estos contenidos es un desafío técnico para los motores de búsqueda, se están introduciendo mejoras continuas para sacar a la luz los contenidos legítimos y reducir la posición de los contenidos explícitos falsos.

Ahora, si un sitio tiene muchas páginas que han sido eliminadas del Buscador en virtud de las políticas de Google, eso es una señal clara de que no es un sitio de alta calidad, y se debería tener en cuenta a la hora de clasificar otras páginas de ese sitio. Por lo tanto, se está descendiendo la categoría de los sitios que han recibido un alto volumen de eliminaciones por imágenes explícitas falsas.

Imagen: Archivo ENTER.CO

Youtube ha sido enfático en que no se permitirán imágenes de alguna figura pública si se les muestra participado en “comportamientos sensibles”, como actividades delictivas, violencia o respaldando un producto o candidato político.

La red social sigue enfrentando las estafas que utilizan la Inteligencia Artificial generativa. Así, contrarresta de este tipo de contenido, permitiendo a las personas solicitar la eliminación de videos sintéticos, en que simulen una voz o rostro de cualquier ciudadano.

El video no sólo se bajará de la plataforma por ser engañoso, como en el caso de una deepfake, sino que se eliminará por tratarse de una violación a la privacidad.

Te puede interesar: EE.UU. da libertad legal a redes sociales para bloquear o permitir publicaciones, ¿hasta dónde llegará tal autonomía?

Youtube apuesta por la protección de la identidad de los afectados, explicando que enviar la solicitud de eliminación no implica que el contenido se va a dar de baja de la red social inmediatamente, sino que la decisión dependerá de ciertos parámetros.

La mano dura llega en un importante año de elecciones presidenciales en varios países del mundo, como Estados Unidos, que en noviembre llevará a cabo su proceso electoral.

YouTube aseveró que el responsable del contenido fraudulento tendrá un lapso de 48 horas para responder el reclamo. Si el contenido es eliminado antes en ese tiempo, la queja se bloqueará. Si no, YouTube iniciará un proceso de revisión entre ambas partes.

La red social argumenta que el proceso de eliminación del video también implica borrar el nombre y más información personal del afectado. Esto, en caso de estar presente en la descripción del clip o etiquetas.

A favor de la IA, Youtube sigue una serie de integraciones para que que los creadores utilicen esta tecnología para generar más videos, con la implicación de etiquetas para demostrar que determinado video contiene información generada por IA.

Te puede interesar: ¿Por qué se busca prohibir las redes sociales para menores de 18 años?

La Encuesta Global de Seguridad Online 2024 de Microsoft, demuestra que la principal preocupación de los usuarios (71%) respecto a los problemas potenciales causados por la IA, son las estafas.

En segundo lugar están las deepfakes (69%), seguidos del abuso sexual online (69%), las alucinaciones relacionadas al contenido que generan (66%), la privacidad de los datos (62%) y la amplificación de prejuicios (60%).

Imagen: Archivo ENTER.CO

Así como la inteligencia artificial ha llegado para impulsar los servicios ya existentes y facilitar las tareas diarias de los usuarios, también está siendo usada por los delincuentes cibernéticos. De acuerdo con los datos del Foro Económico Mundial, el Deepfake crece a un ritmo anual del 900%, lo que ha preocupado también a las empresas de tecnología.

Ahora, Honor anunció sus planes para combatir esta práctica delincuencial con la que han estafado a millones de personas alrededor del mundo. Los mejores teléfonos de la compañía recibirán una nueva función de inteligencia artificial que detecta los Deepfakes y alerta a los usuarios sobre el contenido fraudulento. Para ello, la herramienta analizará la información del video cuadro por cuadro: el contacto visual, la claridad de la imagen, la iluminación del video y la reproducción, entre otras cosas, detalles que son imperceptibles para el ojo humano. 

Si el dispositivo detecta algo sospechoso en el video o alguna inconsistencia en la persona que aparece allí, le informará al usuario. Los teléfonos Honor activarán una ventana emergente: “Alerta de estafa de Honor. Parece que la otra persona podría estar usando IA para cambiar su cara”.

Te puede interesar:  Motorola razr 50 y razr 50 ultra, los nuevos celulares que integran Gemini y mucha IA llegan a Colombia

Por el momento, esta funcionalidad estará disponible exclusivamente en las videollamadas, servicio más utilizado por los estafadores de Deepfakes. Seguramente, la compañía integrará esta herramienta de detección en otras plataformas como las redes sociales, donde también abundan este tipo de contenidos fake. 

Honor quiere cuidar tus ojos

La compañía también anunció el lanzamiento de AI Defocus Eye Protection, una opción que cambiará por completo las pantallas de los teléfonos Honor. Con esta novedad, los paneles se convertirán en gafas de desenfoque que se encargan de rastrear la vista de los usuarios y desenfocar áreas periféricas de la pantalla. Esto ayudará a disminuir y detener la miopía. La compañía explicó que esta tecnología puede “disminuir la miopía transitoria en 13 grados en promedio después de leer durante 25 minutos”.

Por ahora no está claro cuando llegarán estas herramientas a los teléfonos Honor, sin embargo, se espera que lleguen directamente a los celulares gama alta de la compañía.

Imágenes: Honor

Una nueva herramienta desarrollada por  Google News Initiative y Minsai para Prisa Media, permite  detectar si información en audio es verdadera o falsa. La idea del grupo económico de entretenimiento y generación de contenido, es que con VerificAudio, puedan ayudar a los periodistas a identificar esas noticias y notas engañosas. 

La nueva herramienta combina dos modelos de inteligencia artificial avanzados para detectar y analizar la fiabilidad de archivos sonoros con contenido informativo,  permitiendo a los periodistas la doble verificación a través de dos pasos: la identificación y la comparación. 

Es decir, cada vez que un periodista quiera pasar por la herramienta un archivo sonoro para identificar si es falso o no, esta reconocerá audios potencialmente manipulados o sintéticos gracias a su modelo identificador desarrollado con machine learning.

Te puede interesar: La IA no solo acabaría con algunos trabajos, también podría acabar con la humanidad

Además si la persona cuenta  con un audio original de la persona involucrada en el archivo, puede utilizar el sistema comparador para detectar si la voz es clonada o real;  lo que, unido al proceso tradicional de verificación periodística de contenidos, mejorará la detección de noticias o informaciones falsas en formato audio. 

Por ahora, la herramienta está disponible en las redacciones de radio de PRISA Media en Colombia, Chile y España. Sin embargo, El proyecto de VerificAudio,  tiene una web al servicio de los usuarios y oyentes para que conozcan la herramienta y puedan enviar audios a las redacciones. 

La compañía asegura que la herramienta  es especialmente relevante en el contexto actual, ya que se espera que la desinformación auditiva tenga un impacto significativo en los eventos políticos en todo el mundo este año. Con elecciones cruciales programadas en 73 países, lo que representa que   casi la mitad de la población mundial está expuesta a la manipulación de audio con fines políticos o de desinformación.

Te puede interesar: La Unión Europea ya tiene ‘Ley de Inteligencia Artificial’: ¿Qué prohíbe? ¿Qué regula?

José Gutiérrez, director general de Soluciones, Digital y Tecnología de PRISA Media, explica: “Este proyecto que nace en Caracol Colombia y que se está extendiendo progresivamente a todas nuestras redacciones, parte del compromiso de PRISA en la lucha contra la desinformación y aboga por un periodismo de calidad”. 

Además asegura que “la tecnología se ha convertido en un arma para luchar contra la desinformación y las deepfakes y es también una nueva herramienta imprescindible para los periodistas. Creemos que con el desarrollo de la inteligencia artificial se crean muchas oportunidades, pero también muchos peligros que hay que ir afrontando a medida que se detectan”.  

Se espera que Prisa implemente VerificAudio en el resto de redacciones  y, consecuentemente, al servicio de sus oyentes.  

 Imagen: Kanur Ismail

Si bien el deepfake que comenzó a circular por la red el pasado miércoles 16 de marzo no es de excelente calidad, para el director del programa de la organización de derechos humanos WITNESS, Sam Gregory, sí representa un riesgo de desinformación y confusión, ya que en otros escenarios menos delicados, los deepfakes han servido para engañar e iniciar discusiones distractoras sobre la autenticidad o no de los mismos.

Gregory, quien dio su apreciación para el Daily Dot, sostiene que este video podía ser el primer deepfake de “alto nivel” creado por hackers rusos en el conflicto de Ucrania.

Te puede interesar: Deepfake, la pesadilla de no saber qué es real

Ante el riesgo que significaba el video falso, que pudo haberse hecho viral como lo han hecho en el pasado otros deepfakes de parodias en donde se muestran a presidentes cantando o bailando, compañías como Twitter y Meta aseguraron que ya eliminaron el material de sus plataformas.

1/ Earlier today, our teams identified and removed a deepfake video claiming to show President Zelensky issuing a statement he never did. It appeared on a reportedly compromised website and then started showing across the internet.

— Nathaniel Gleicher (@ngleicher) March 16, 2022

En el caso de Meta, Nathaniel Gleicher, el jefe de política de seguridad de la compañía, explicó que el contenido violaba las reglas de sus plataformas contra los “medios manipulados”, ya que en el video en mención se usa la imagen de una figura pública a la que se le atribuye un mensaje que en realidad nunca dijo.

El deepfake, en donde se ve al presidente de Ucrania con su representativa camiseta verde militar en un escenario que emula una rueda de prensa presidencial, apareció por primera vez el miércoles en el medio de comunicación ucraniano, Segodnya. Como respuesta a la estrategia (que no es nueva para Zelenski, pues su gobierno ya ha denunciado con frecuencia las prácticas virtuales de desinformación ejecutadas desde Rusia) el mandatario decidió publicar un video a través de Telegram en donde desmintió la supuesta rendición. Además aseguró que quienes debían deponer las armas eran las tropas rusas, a quienes invitó a “irse a casa”, pues Ucrania “seguirá defendiendo su tierra, sus hijos y sus familias”.

#Ukraine Hackers published a deep fake of @ZelenskyyUa urging citizens to lay down their arms. He responded immediately:
“If I can offer someone to lay down their arms, it’s the Russian military.Go home.Because we’re home. We are defending our land, our children & our families.” pic.twitter.com/TiICf3Z5Te

— Hanna Liubakova (@HannaLiubakova) March 16, 2022

Imágenes: YouTube

Los deepfakes se han usado para cometer robos en compañías (mediante voces clonadas) y para crear videos pornográficos de mujeres a las que se quiere hacer daño. Pero el mayor temor es que estos contenidos –creados mediante software de IA cada vez más poderoso– se usen para poner en boca de políticos o figuras públicas cosas que no han dicho, y así manipular campañas o generar violencia. El FBI alertó el año pasado sobre la amenaza que los deepfakes representan para la seguridad de los países y las empresas.

Lo que más preocupa de esa tecnología es la velocidad a la que está avanzando. De los videos primitivos de hace dos o tres años se está pasando a unos en donde es muy difícil reconocer los montajes. Un buen ejemplo son unos videos de Tom Cruise que el año pasado se volvieron virales en TikTok. En ellos se ve al actor contando chistes, jugando golf y haciendo trucos de magia en varios videos que difícilmente se reconocerían a simple vista como falsos.

Para educar al público sobre los engaños que pueden ocurrir, el Instituto Tecnológico de Massachusetts (MIT) creó un video en el que ex presidente estadounidense Richard Nixon da un discurso para televisión en el cual lamenta la muerte en la Luna de los astronautas Neil Armstrong y Edwin Aldrin, en julio de 1969. Ese discurso sí se escribió –en caso de que fracasara la misión Apolo 11–, pero nunca se grabó, y ahora se hizo ‘real’ en este deepfake. Ahora bien, si hoy es difícil desarmar teorías de conspiración absurdas que solo se distribuyen en texto o fotos por redes sociales (hay gente que cree que nunca llegamos a la Luna, que todo es un montaje), ¿qué pasará cuando estas incluyan videos y audios que parecen reales como este?

Por eso, los más pesimistas creen que los deepfakes se van a usar incluso para reescribir la historia. En una era en la que las personas no cuestionan lo que leen o ven, en la que toman las ‘noticias’ de redes sociales y no de los medios serios, en la que tragan entero y a veces comparten por redes contenidos de los que no han visto más que el titular o una foto, ese es un escenario de pesadilla para un mundo ya desinformado y lleno de noticias falsas.

Un análisis de la revista Fast Company lo plantea así: “Pronto, los medios sintéticos generados por IA pueden alcanzar el pasado y sembrar dudas sobre la autenticidad de eventos históricos, lo que podría destruir la credibilidad de los registros que quedan en nuestra era digital actual. En una época de muy poca confianza institucional, y sin un contexto histórico firme en el que los futuros historiadores y el público puedan confiar para autenticar los eventos de los medios digitales del pasado, podemos estar ante el amanecer de una nueva era para la civilización: la poshistoria. Necesitamos actuar ahora para garantizar la continuidad de la historia sin sofocar el potencial creativo de estas nuevas herramientas de IA”.

Fast Company imagina varios ejemplos, como una entrevista de los años 70 en donde Neil Armstrong reconoce que nunca llegaron a la Luna, pues tuvieron que abortar la misión por el exceso de radiación; o una nueva versión del video de George Floyd en el cual el policía quita la rodilla de su cuello y Floyd se levanta ileso.

La edición 269 de la revista ENTER le explica, en detalle, cuál es el lado oscuro de estos medios sintéticos, cómo se crean, qué tecnologías de inteligencia artificial (IA) los hacen cada vez más realistas, cómo se han empleado ya para cometer robos en empresas y destruir reputaciones de mujeres, y cómo se teme que podrían utilizarse para manipular elecciones y generar caos y violencia.

En otros artículos de esta edición encontrará una descripción de los mejores servicios de Internet para conseguir imágenes gratuitas; le explicamos por qué las redes 5G pueden poner en peligro los vuelos; le ofrecemos una lista de buenas prácticas contra ataques de ransomware; y analizamos los primeros 5 años de la consola Nintendo Switch en el mercado, entre otros temas.

Imagen: iStock

Diferentes youtubers han buscado ‘arreglar’ los deepfakes del estudio. Pero uno hizo tan bien su trabajo que el mismo estudio decidió contratarlo. Su nombre de usuario es Shamook y su canal es bien conocido entre los amantes de la tecnología deepfake por ser uno de los exponentes del nivel de perfeccionismo que es posible alcanzar al utilizarla para poner actores en algunas de las escenas y películas más importantes del cine.

Te puede interesar: Esta herramienta puede reconocer el deepfake

¿Por qué esto es importante? Para empezar, el caso de Shamook es tan solo el más reciente de una generación de creadores que han encontrado relaciones con compañías importantes a través de plataformas como YouTube. Shamok ahora tiene el cargo de Artista de captura facial senior. De hecho, Lucasfilm confirmó que siempre están atentos a la aparición de nuevo talento, en caso de que sea tu sueño trabajar en una película de ‘Star Wars’.

El otro punto importante, es porque indica la insistencia de Lucasfilm en utilizar deepfake en sus producciones. El uso de esta tecnología no ha llegado sin problemas a los estudios. Algunos actores han expresado su preocupación al hecho de que un estudio (con los derechos apropiados) pueda utilizar sus expresiones faciales para traerlos de regreso a una franquicia cuando lo deseen. ¿Se puede calificar de actuación algo, cuando es un algoritmo el que está interpretando las expresiones faciales? Para una compañía como Lucasfilm se trata de una técnica que parece necesaria, considerando que muchas de sus historias a menudo requieren cameos de actores como Hamill, que participaron en las películas caso 50 años atrás.

Imágenes: YouTube

Para leer otras noticias sobre deepfake, visita este enlace.

A continuación, te dejamos el ejemplo compartido por la compañía:

La segunda herramienta le permite a los creadores de contenido agregar certificados o hashes, una función criptográfica, que se copiará de manera automática cada vez que es compartido. Por un lado, se se integra en Microsoft Azure para ponerle certificado a una imagen, por ejemplo. Por otro, las personas podrán, con la ayuda de una extensión del navegador de Internet, tener la seguridad que es contenido proveniente del original y que no ha sido cambiado.

Microsoft espera que con estas herramientas se puede ayudar a combatir la desinformación y noticias falsas, especialmente en temporada de elecciones. En Estados Unidos actualmente se encuentran en campañas electorales y según reportes, Twitter y Facebook no han logrado controlar la cantidad de noticias falsas en sus plataformas.

Imagen: Microsoft y memyselfaneye (Vía Pixabay).

Un reporte del portal Techcrunch afirma que TikTok (la red social enfocada en videos de 3 a 60 segundos) estaría desarrollando una función para que sus usuarios puedan crear deepfakes. Al parecer habría sido desarrollada por ByteDance, su compañía hermana, y tendría el nombre de Face Swap (cambio de rostros en español). El reporte afirma que la función se encontró en el código de la aplicación.

La forma en la que la función opera es muy sencilla. La app pide a la persona el tomar un escaneo biométrico de su rostro desde ángulos diferentes. Luego seleccionan una serie de videos predeterminados para cambiar su rostro por el de la persona en el video. En este sentido, es bastante simular a la función que Snapchat presentó hace unos meses. La diferencia vital aquí está en que, los deepfake de Snapchat no parecen tan burdos, sino que consiguen presentar falsificaciones de alto nivel.

Te puede interesar: Cameos: la nueva apuesta de Snapchat por los deepfake

El desarrollo de este tipo de funciones no es una noticia en sí. Muchas otras aplicaciones ya existen que realizan este tipo de falsificaciones de video. La razón está en que una aplicación como TikTok, con más de mil millones de descargas ofrezca una opción mucho más realista que las actualmente se encuentran en apps de esta escala. Luego está la pregunta de qué está haciendo la compañía con la información biométrica que queda registrada.

Imágenes: Techcrunch

Snapchat presentó su nueva función titulada cameos. De manera sencilla, se trata de una función que permite tomar una foto de tu rostro y luego insertarla en un Gif. No se trata  precisamente de un filtro, sino que está más cercana a un híbrido entre estos y los deepfakes.

Si no tienes conocimiento del último término, es una de las tecnologías más interesantes y problemáticas para las redes sociales. Los deepfakes consisten en poder insertar el rostro de una persona en otro video. No es un simple montaje, sino que en sus versiones más avanzadas replican gestos y de manera convincente falsifican contenido multimedia logrando un realismo alto. Hace un par de años tomaron popularidad cuando se utilizó esta tecnología para insertar rostros de celebridades en videos pornográficos. Hoy, el mayor temor que despiertan es la posibilidad de falsear videos de políticos y distribuirlos a través de redes sociales, incrementando todavía más las tendencias de noticias falsas.

Te puede interesar: Snapchat está buscando reinventarse para volver a ser popular

La demo, que solo se compartió a usuarios en Francia, es mucho más inofensiva. Como mencionamos antes, lo que permite es insertar el rostro en una lista de plantillas tipo gif y luego compartirlas con otros usuarios. Algunos de los experimentos más extraños tienen como resultados imágenes divertidas que, sin duda, llamarán la atención de aquellos con ganas de convertir su cara en el centro del contenido que compartimos. Dicho esto (y antes de olvidar decir lo obvio) ya existen una decena de aplicaciones con una función similar. La diferencia aquí es que Snapchat puede aprovechar su implementación burda de los deepfake para incrementar más su popularidad.

Vous avez Cameo sur snap ou je suis la seule? Je pleure de rire pic.twitter.com/G7E3ZKAilz

— Aca (•‿•) (@toddflanderrs) December 7, 2019

De acuerdo a una descripción más profunda de Cameos, por el portal Engadget, si alguno de tus amigos también tiene la función puedes insertar su rostro en los gif que crees, aunque por el momento solo es posible incluir dos caras en una misma imagen.

La nueva función de Snapchat tiene como objetivo utilizar sus herramientas más interesantes para separarse de Instagram (que puede ver en los Cameos su nueva fuente de ‘inspiración’, si la función resulta popular entre los usuarios de la app). La función de Cameos ya se encuentra disponible en mercados internacionales y se anunció que llegará a los Estados Unidos el próximo 18 de diciembre a los dispositivos iOS y Android. Todavía no hay información de cuándo aterrizará en los teléfonos de sus usuarios en Colombia.

Imágenes: Techcrunch y @ItsJeffHiggins