Google Play Store deberá impedir la creación de contenidos no permitidos y facilitar herramientas de denuncia que ayuden a mejorar la herramienta. El compromiso lo hace Google mientras actualiza sus políticas para aplicaciones de IA generativa.

Los desarrolladores deberán también impedir estos contenidos manipulados y fines oscuros. Las nuevas políticas incluyen especificaciones para aplicaciones que usan IA generativa, mejorando la experiencia de usuario.

Te puede interesar: ¿Quieres entender lo que dice tu gato? Traduce maullido a español con IA

Google endurece las condiciones teniendo en cuenta que esta tecnología es cada vez más accesible y los desarrolladores pueden incluirla “para aumentar la interacción y mejorar la experiencia de usuario”.

La nueva política se enfoca en las ‘apps‘ que generan contenido, ‘chatbots’ y herramientas que crean imágenes a partir de una descripción. Ahora se les hace una exigencia; que “prohíban o impidan la generación de contenido no permitido“. Esto incluye las imágenes de desnudos falsos o con manipulaciones para engañar.

Te puede interesar: Telegram lanza su propia moneda virtual: esto es lo que puedes hacer con las ‘Telegram Stars’

Además, deben incluir funciones internas que permitan a los usuarios denunciar o notificar cuando detecten que determinada app se usa para generar contenido no permitido u ofensivo. Según Google, los desarrolladores deberán usarla para “mejorar el filtrado y la moderación del contenido de sus aplicaciones”.

Imagen: Archivo ENTER.CO

Según un artículo del Wall Street Journal, algunos padres de familia notaron desde octubre un comportamiento extraño en sus hijos, estudiantes del Westfield High School en Nueva Jersey, Estados Unidos.

Días después, directivas del colegio descubrieron que varios estudiantes habían usado generadores de imágenes de inteligencia artificial para crear y compartir fotografías falsas de desnudos de sus compañeras de clase.

Por su parte, la policía ha estado investigando el incidente sin tener acceso como tal a las imágenes. Según un correo electrónico que revisó el periódico, la directora de Westfield High School, Mary Asfendis, la institución “creyó” que las imágenes habían sido eliminadas y ya no estaban en circulación entre los estudiantes.

Te puede interesar: ¿Desnudos sin autorización? ClotHoff, la IA que podría violar tu intimidad desnudándote

No se ha establecido el número de menores afectados por el fraude. Un vocero de las Escuelas Públicas de Westfield defendió la confidencialidad de los estudiantes sin entregar más detalles de las medidas disciplinarias.

En tanto a la regulación para prevenir este tipo de ataques o acoso, actualmente no existe una ley federal es Estados Unidos que restrinja la creación de imágenes sexuales falsas de personas reales.

Expertos en seguridad infantil informaron al medio de comunicación que aparentemente no hay medidas para evitar que miles de imágenes sexuales infantiles, generadas con IA, se compartan en internet.

Entre tanto, el presidente Joe Biden emitió una orden ejecutiva instando al Congreso a aprobar protecciones para una amplia gama de daños, incluyendo impedir que “la IA generativa produzca material de abuso sexual infantil o imágenes íntimas no consensuadas de individuos reales”.

Te puede interesar: Biden emite orden ejecutiva sobre IA para proteger a trabajadores, consumidores y la privacidad de ciudadanos

Biden exigió al secretario de Comercio, al secretario de Seguridad Nacional y a los jefes de otras agencias apropiadas, que emitan recomendaciones sobre “pruebas y salvaguardias contra” la producción de “material de abuso sexual infantil” e “imágenes íntimas no consensuadas de individuos reales (incluidas las representaciones digitales del cuerpo o partes del cuerpo de un individuo identificable), para IA generativa”.

Esta futura ley federal parece estar muy cruda; cabe notar que Estados como Virginia, California, Minnesota y Nueva York, ya han aprobado leyes para prohibir la distribución de pornografía falsificada.

Según Jon Bramnick, senador estatal de Nueva Jersey, afirmó que están investigando si existen leyes estatales o proyectos de ley pendientes que criminalizarían la creación y el intercambio de IA falsificadas con desnudos. Si no se encuentra ninguna ley de ese tipo, argumentó que se redactará una nueva ley.

Es probable que en este caso se apliquen otras leyes de Nueva Jersey, como las que prohíben el acoso o la distribución de materiales de abuso sexual infantil. En abril, Nueva York condenó a un hombre de 22 años, Patrick Carey, a seis meses de cárcel y 10 años de libertad condicional “por compartir imágenes sexualmente explícitas ‘deepfaked’ de más de una docena de mujeres menores de edad”.

Te puede interesar: La ONU estableció un ‘Consejo consultivo de IA’. Estas serán sus funciones

Las imágenes se publicaron en un sitio web pornográfico con información personal de muchas de las mujeres, alentando a los usuarios del sitio web a acosarlas y amenazarlas con violencia sexual.

Se descubrió que Carey había violado varias leyes que prohíben el acoso, el acecho, la puesta en peligro de niños y la “promoción del desempeño sexual infantil”, pero en ese momento, la fiscal de distrito del condado, Anne T. Donnelly, reconoció que todavía faltaban leyes para proteger verdaderamente Víctimas del porno deepfake.

Sobre el caso de la escuela secundaria, Bramnick ha pedido al fiscal del condado de Union que averigüe qué ocurrió en Westfield, y que la policía estatal siga investigando. La alcaldesa de Westfield, Shelley Brindle, ha invitado a más víctimas a denunciar.

Imagen: Nikada

La inteligencia artificial (IA) ha sido un gran avance tecnológico que promete revolucionar y cambiar nuestros quehaceres, desde las tareas que cotidianamente hacemos en la casa, hasta en nuestra vida educativa y laboral; sin embargo, esta tecnología tan prometedora y poderosa, también puede ser utilizada para fines no tan buenos. En las últimas semanas se supo que una IA sería capaz de desnudar a mujeres y niños. ¿Qué tan legal es ClotHoff?

ClotHoff, es una IA que permite desnudar personas. Su premisa al ingresar a la plataforma es “Desnude a cualquiera con nuestro servicio gratuito”. La IA está disponible para los sistemas operativos de iOS y Android.

La plataforma se hizo noticia en las últimas semanas a raíz de la denuncia de la española, Miriam Al Adib, quien señaló que una foto de su hija había sido transformada, es decir la habían desnudado.

 

Ver esta publicación en Instagram

 

Una publicación compartida de Dra. Miriam Al Adib Mendiri (@miriam_al_adib)

“Acabo de llegar a casa de viaje y una de mis hijas se ha acercado con un disgusto tremendo. Me ha dicho ‘Mamá, mira lo que me han hecho’. Y es que con una app han cogido una foto suya y han hecho que estuviera desnuda. Esto le ha pasado a mi hija y a decenas de niños más en Almendralejo (España) y en pueblos de alrededor”, explica en un video colgado en su cuenta de Instagram.

Además aseguró que “algunas de estas fotos podrían haberlas subido a Only Fans o a páginas de porno infantil. No sois conscientes del daño que habéis hecho. No sólo los que os habéis dedicado a hacerlo, sino también los que lo habéis compartido. Vamos a hacer una denuncia conjunta, aunque algunas madres ya se han adelantado”.

Te puede interesar: Así puedes tener varios perfiles en Facebook sin tergiversar tu identidad

Adib, explica que los presuntos responsables de dicha transformación serían algunos “chicos adolescentes” de la zona. Además señala que dichas fotos desnudistas habrían sido pasadas por cadenas de grupos de WhatsApp.

La app, es muy fácil de usar, solo necesitas registrarte, tener una fotografía de buena calidad; te sugieren que la persona no esté tan protegida, es decir con poca ropa y te dan algunas sugerencia de poses, para que según ellos  la transformación sea lo más realista posible.

Luego debes cargar dicha foto de una persona real, la inteligencia artificial se encargará de editar en pocos segundos, luego la persona aparecerá desnuda.

Te puede interesar: Google instalará un nuevo cable submarino transatlántico ¿Por dónde pasará?

Pese a que, ClotHoff asegurará que el usuario debe ser responsable de no utilizar el sitio web para fines ilegales o no autorizados, la política es muy ambigua y poco segura, ya que el que quiera hacerlo, lo podría hacer perfectamente.

Así mismo señala que los menores de 18 años pueden utilizar la web con permiso de sus padres o de su tutor legal. Los menores de 13 años definitivamente no la podrían utilizar, sin embargo, estas políticas no protegerían a las personas de caer actividades ilícitas.

Imagen: Captura de pantalla

Al parecer establecer la diferencia entre arte y contenido pornográfico no es tan sencillo como parece. Y la lucha que emprenden ciudadanos y plataformas por controlar estos productos y combatir los escenarios de explotación sexual, se lleva por delante los contenidos que lo que buscan es representar el cuerpo humano en su estado más vulnerable y sin tapujos. Esto fue lo que le sucedió al arte del austríaco, Egon Schiele, cuando, en 2018, Viena se llenó de sus desnudos para conmemorar los cien años de la muerte del artista. Entonces el ala feminista de la ciudad tomó la voz principal de la causa y con otros argumentos logró lo mismo que en el siglo XIX: censurar el arte de Schiele.

Te puede interesar: OnlyFans se retracta: ya no prohibirá el contenido pornográfico en octubre

Pero si un humano no es capaz de establecer diferencias fácilmente y a conciencia, un algoritmo la tiene todavía más difícil. Sin embargo, el de la plataforma de Mark Zuckerberg no es el único con problemas a la hora de diferenciar entre el contenido para adultos y el artístico. El algoritmo de TikTok también es defectuoso y por eso, en julio de 2021, esta red social bloqueó la cuenta del Museo Albertina, luego de que esta se usara para compartir las obras del fotógrafo, Nobuyoshi Araki, que incluían mujeres con los pechos parcialmente desnudos.

Ante los distintos casos de censura sufridos, cuatro grandes museos de Viena decidieron hacer las cosas diferentes: trasladar su contenido a OnlyFans y además cobrar US$4,99 dólares mensuales por suscripción.

La ingeniosa decisión la tomó la Oficina de Turismo de Viena, desde la que se aseguró que “sus instituciones artísticas están entre las víctimas de esta nueva ola de mojigatería”, y desde donde se afirmó que ese fue el motivo para poner “las obras de arte explícitas y de fama mundial de la capital en OnlyFans”, como recoge CNN.

Los museos que se han sumado a esta iniciativa son el Museo de Historia del Arte de Viena, el Museo de Historia Natural de Viena, el Museo Albertina y el Museo Leopold. Este último también sufrió la censura en Facebook e Instagram cuando a principios de 2021 quiso celebrar su vigésimo aniversario intentando publicar el trabajo del dibujante austríaco Koloman Moser sin éxito.

En la recién estrenada cuenta se pueden apreciar los desnudos realizados por estos artistas y por otros más como Rubens y Amedeo Modigliani. Además de esto, quienes se suscriban al curioso perfil, además podrán recibir una tarjeta de Viena gratis o un tiquete gratis para visitar cualquiera de los museos en donde las obras en cuestión se pueden ver “en carne y hueso, y sin censura”.