El sujeto, quien empleó algoritmos de inteligencia artificial para crear imágenes explícitas de menores, fue sentenciado tras ser identificado en una investigación que expuso la gravedad y alcance de sus crímenes. Las autoridades lograron descubrir cómo el hombre había manipulado herramientas de IA para producir imágenes de menores en situaciones de abuso, sin necesidad de una fuente fotográfica real.

Según la investigación, el acusado no solo generó este tipo de contenido, sino que también lo distribuyó en redes clandestinas, revelando un peligroso uso de la tecnología con fines delictivos. La condena es una de las primeras de este tipo en el mundo, en la que se utiliza IA para crear y distribuir imágenes de abuso infantil sin que existan víctimas físicas específicas.

Te puede interesar: Madre demanda a empresa IA: asegura que su hijo se suicidó después de enamorarse de ella

Un desafío legal y ético frente al uso de la IA

La Fiscalía destacó que el uso de IA en estos delitos plantea una grave amenaza, pues permite la creación de contenido explícito sin necesidad de involucrar a víctimas reales, dificultando así la identificación de personas afectadas. La sentencia busca enviar un mensaje contundente sobre las consecuencias legales de emplear tecnología avanzada en actos criminales.

De acuerdo con expertos en ciberseguridad, este caso evidencia un vacío legal en torno al control de la IA para crear contenido ilegal, especialmente cuando se trata de abuso infantil generado digitalmente.El juez encargado del caso señaló que el condenado mostró una clara intención de explotar la IA para generar y compartir material perturbador, incrementando el acceso a contenido prohibido a través de plataformas online.

Imagen: RDNE Stock project

Aunque el objetivo de proteger a los niños es loable, los críticos argumentan que los requisitos técnicos de la propuesta son poco realistas y podrían conducir a una vigilancia generalizada que socave el cifrado y los derechos digitales. Uno de los puntos de mayor preocupación es la propuesta de identificar a ciertos usuarios como “personas de interés” basándose en evaluaciones automatizadas, lo que podría resultar en una vigilancia más selectiva. Sin embargo, incluso con un detector hipotético con una tasa de falsas alarmas del 0,1%, se podrían generar más de un millón de falsas alarmas diarias en plataformas como WhatsApp, dada su escala masiva de usuarios.

Expertos también advierten sobre la posible clasificación de servicios como “alto riesgo” para análisis prioritario, señalando deficiencias técnicas y la adopción generalizada de funciones básicas de mensajería. Alertan que estas medidas podrían socavar la seguridad de las comunicaciones en línea en lugar de combatir eficazmente el abuso infantil.

Te puede interesar: Unión Europea penalizará abuso sexual infantil y contenido generado con IA

El Supervisor Europeo de Protección de Datos y grupos de derechos digitales han criticado la propuesta como una invasión desproporcionada de la privacidad que podría estandarizar la vigilancia indiscriminada de las comunicaciones en línea. Mientras tanto, los grupos encargados de hacer cumplir la ley han pedido acceso garantizado a datos cifrados de correo electrónico.

Los responsables políticos de la UE se enfrentan a presiones competitivas mientras buscan equilibrar la lucha contra la explotación infantil en línea con la defensa de los derechos y la seguridad digitales. Sin embargo, los expertos en seguridad son claros: el análisis del lado del cliente codificado en la legislación no es realista ni deseable. Mantener un cifrado robusto de extremo a extremo sigue siendo crucial para la seguridad digital mientras se permite a las autoridades informar sobre la presencia de material de abuso infantil.

imagen: Anete Lusina

La empresa, por su parte, ha explicado que esto solo se hará con usuarios en Estados Unidos y hace parte de una normatividad que es impuesta por el Gobierno. Otras plataformas como Google, Twitter y Facebook también hacen cruce de imágenes que compartimos con sus servicios en busca de este tipo de material, incluso si es por mensaje privado. Pero no deja de llamar la atención que mientras hace unos pocos años Apple se enfrentaba al FBI para no desbloquear o enviar información cifrada de un usuario sospechoso de un crimen, hoy sea la misma empresa quien busque entregarlos.

Por supuesto, hay soluciones. Si no queremos que nuestras imágenes sean escaneadas por el sistema de inteligencia artificial, simplemente no usamos los servicios de Apple. Más allá de esto, hay otras preocupaciones. Dos académicos de la universidad de Princeton aseguran que pasaron años trabajando en un sistema similar al que propone Apple y que su conclusión es que este tipo de tecnologías son peligrosas (puedes leer sus argumentos aquí); los dos autores volvieron a repetir sus preocupaciones en una editorial en The Washington Post.

También te puede interesar: Apple escanearán imágenes en búsqueda de abuso infantil.

El sistema creado por ellos tenía una tarea muy similar, escanear imágenes CSAM en sistemas encriptados de punto a punto, explica el portal Engadget. Sin embargo, sin importar sus esfuerzos por cerrar la tecnología a solo un tipo de imágenes, los investigadores encontraron que es muy fácil convertirla en herramientas de espionaje y censura. “El sistema puede cambiar fácilmente a una nueva base de datos para comparar las imágenes y cambiar completamente el propósito; el usuario no tendría ni idea que está pasando”, explican en su editorial.

Los académicos también aseguran que el sistema de Apple es superior al creado por ellos; sin embargo, llama la atención que la empresa aún no ha contestado a preguntas que en su investigación encontraron y que no han logrado solucionar, y posiblemente tampoco la compañía.

Apple es una empresa que asegura que pone por delante la importancia de la privacidad de sus clientes. Pero con este tipo de herramientas pone en peligro su credibilidad y los usuarios que usan sus dispositivos gracias a esta promesa ahora tienen más opciones.

Imagen: gstudioimagen en Freepik y Mateusz (Vía Pexels)

Además, será responsabilidad de las empresas denunciar a las entidades cuando se detecte actividad ilegal y de no hacerlo podrían pagar una multa de hasta $555.000 dólares australianos. El Acto de seguridad online 2020 busca disminuir el ciberacoso y contenidos que promueven la violencia infantil, de género y racial.

Te recomendamos leer: Google paga a los medios de Australia por aparecer en las búsquedas.

El acto, además, explica en detalle cuáles son los contenidos que entrarán en la norma. Por supuesto, lo que más preocupa es exigir que los contenidos cifrados o encriptados también sean analizados. Esto significa que se está creando una puerta trasera o que el contenido no está protegido como afirman las empresas. WhatsApp, por ejemplo, no podría seguir basando sus campañas en este tipo de promesas.

También te puede interesar: Los iPhone escanearán imágenes en búsqueda de abuso infantil.

Esto levanta las mismas preocupaciones que la propuesta hecha por Apple la semana pasada en la que un sistema de inteligencia artificial escanearía las imágenes de iCloud y iMessage en búsqueda de abuso sexual infantil en que organizaciones de protección de la privacidad aseguraron que se estaba era implementado un sistema de vigilancia. La empresa aseguró que las imágenes serían escaneadas exclusivamente por máquinas que las cruzaría con una base de datos. Solo aquellas identificadas como peligrosas serían vistas por un equipo humano que tomaría la decisión final.

Por supuesto, buscar prevenir el bullying cibernético, la violencia y abuso sexual infantil es importante; sin embargo, llama la atención como desde lo cibernético la nueva propuesta es romper los esquemas de seguridad que las empresas han desarrollado por años. Si estas deciden aceptar estarían abriendo un precedente para que otros países hagan lo mismo y esto sería un peligroso avance a la vigilancia abierta de los ciudadanos digitales.

Imagen: Rawpixel en Freepik.

Inicialmente, Apple explicó que el escaneo solo se haría con los contenidos que se suban a iCloud, el sistema en la nube, y iMessage a través de un sistema de Machine Learning y que se cruzaría con una base de datos de abuso sexual infantil. Adicionalmente, Siri y las búsquedas hechas en el celular alertarían y harían intervenciones cuando se hacen búsquedas identificadas con estos temas.

“Nuestro sistema, NeuralHash, está creado para que no haya intervención humana en el proceso. Solo se escanean fotografías para determinar que no tenga que ver con abuso infantil. Apple no tendría acceso a los mensajes”, explicó un vocero de la empresa. En teoría, si el usuario no usa iCloud o envía mensajes con fotos, la funcionalidad no tendría nada que escanear. Finalmente, la foto sería interpretada por la máquina y en caso de identificar material como abuso infantil, sería revisada por un humano.

Por supuesto, organizaciones e instituciones educativas señalaron que detrás de un programa disfrazado de buenas intenciones; Apple estaría poniendo en marcha un sistema de vigilancia a gran escala que podría tener implicaciones graves. “El problema es que no puedes decir que tienes un fuerte sistema de seguridad si esté permite que se haga vigilancia de sus contenidos”, explicó Matthew Green, profesor de criptografía y experto en seguridad de la Universidad Johns Hopkins, al portal The Hacker News.

Para leer otras estrategias de empresas para combatir el abuso infantil, visita este enlace.

Otras empresas escanean imágenes en búsqueda de material que pueda ser identificado como abuso infantil. Por ejemplo, las imágenes que adjuntamos en nuestros correos. Sin embargo, la propuesta de Apple supera ciertos límites de la privacidad de los usuarios; además, es una propuesta para acceder a material de los usuarios con la excusa de tener razones éticas y ese es un ladrillo que no es fácil de tragar.

Por ahora, Apple aseguró que usaría esta estrategia en Estados Unidos. Sin embargo, no es un tema pequeño que podamos ignorar en otros países donde Apple sigue siendo uno de los principales actores del mercado.

Imagen: Rawpixel en Freepik. 

De acuerdo con el nuevo reglamento, Ofcom podría exigirle a empresas como YouTube, Instagram y Facebook, entre otras, pagar hasta 5 por ciento de sus ingresos e inclusive suspenderlas si fallan en remover contenido dañino en sus sitios web y aplicaciones, explicó el portal Cnet.

Esta es una nueva regulación, impuesta con la idea de proteger a los menores de edad de contenido tóxico en la red como violencia, abuso infantil y publicaciones con contenido suicida. Por ahora, el regulador tendrá el poder de decidir qué empresas están fallando en esto a partir de septiembre de 2020, lo hará en posición interina, mientras el Gobierno inglés decide quién será el regulador de esas empresas, explicó el diario Independent.

También te puede interesar: Podcast ENTER.CO: abuso infantil, ¿le quedó grande a Internet?

“Trabajaremos con el gobierno y creemos que es necesario ir más allá al momento de legislar y establecer una protección más amplia de los usuarios, por eso hay que incluir a estas empresas”, le dijo un vocero de Ofcom a Independent.

La nueva regulación no solo tiene como objetivo las redes sociales y sitios más populares de Internet. Sitios de carga y descarga de archivos, foros, servicios de mensajería y buscadores también podrían ser multados. La propuesta del Departamento para la cultura, media y deportes digitales asegura que son  las empresas de Internet las responsables de cuidar y proteger a sus usuarios. Al permitir la circulación de este contenido y, específicamente, permitir que niños y adolescentes puedan acceder a él están fallando en su compromiso con la sociedad.

También te puede interesar: Twitter quiere saber por qué es escenario de conversaciones y contenido tóxico.

Además, los videos en vivo y de streaming también tendrán que ser controlados por está empresa. El portal Cnet destaca que un menor de edad puede ser engañado, grabado y después chantajeado a hacer cosas peores sin que sus padres tengan idea de lo que está sucediendo.

En Colombia, hace unos meses, representantes legales de Google y Facebook fueron llamados a explicar los límites y responsabilidades de estas empresas en relación con lo que publican sus usuarios ante la Corte Suprema. En este caso, ambas empresas aseguraron que no pueden ser jueces de lo que las personas comparten por Internet, pero que hay políticas internas que regulan qué se puede y qué no se puede compartir en sus redes sociales y filtros que revisan que estas se cumplan.

Imagen: Marcos Calvo (Vía iStock).

Ahora, miembros del congreso de Londres les han solicitado a varias de las empresas tecnológicas –Facebook, Google, Twitter y Microsoft– que revelen cuánto dinero invierten en estrategias para combatir el terrorismo a nivel global, según informó el portal The Daily Beast.

Además, sugieren que los CEO de dichas compañías deberían ser considerados responsables por contenido violento y sensible que se distribuya en sus plataformas, explica el portal The Guardian. Por esto, se estaría planeando presentar una nueva ley en Londres esta semana. La idea es que exista un ente regulador que les imponga multas a las empresas cada vez que haya filtraciones de contenidos como terrorismo, abuso infantil, suicidio y daños autoinfligidos.

Así mismo, de acuerdo con la gravedad del contenido, los ejecutivos de las empresas podrían considerarse responsables y, por ende, enfrentarse a cargos penales. En Londres, este tema ha tomado importancia porque una adolescente se suicidó hace unos meses y sus padres aseguran que en parte lo hizo por imágenes de daños autoinfligidos que vio mientras navegaba en Internet.

Una iniciativa similar, que impondría multas a las empresas y llevaría a la cárcel a ejecutivos de las plataformas que no retiren el material violento que se publica en ellas, ya fue aprobada en primera instancia por el parlamento australiano.

Esta ley le daría toda la responsabilidad a las plataformas y sus ejecutivos

La ley que se presentaría ante el congreso de Londres asegura que las redes sociales y plataformas son responsables de lo que se comparte en estas, por eso sugeriría cuatro puntos centrales:

1. La existencia de un regulador controlado por el Gobierno para guiarlo en temas específicos como terrorismo y abuso infantil.
2. Reportes de transparencia anuales por parte de las empresas tecnológicas, como las redes sociales, en los que especifiquen cuál es el contenido dañino que se comparte en sus sitios. Además, debería incluir qué están haciendo para controlarlo y evitar su propagación.
3. Cooperación con policía y otras organismos en los casos ilegales de incitación a la violencia y venta de armas ilegales, entre otros.

Imagen: ViewApart (Vía iStock).

De hecho, empresas como Epic Games, Nestlé y Disney han retirado sus anuncios como consecuencia de la controversia que se ha armado alrededor de esta situación, afirma el portal The Verge.

Como respuesta, YouTube anunció que hasta la fecha ha eliminado más de 400 canales y borrado decenas de millones de comentarios relacionados con abuso infantil.

Así ayudará Google a identificar contenidos con abuso infantil

Abuso infantil, una historia de nunca acabar

La controversia no es nueva. El portal TechCrunch recuerda que hace más de un año estalló un escándalo relacionado con la explotación infantil en la plataforma, que entonces se mencionaba como un nuevo episodio alrededor de este tema.

Hace un par de días, por su parte, el portal BuzzFeed publicó un artículo en el que denunciaba que el sistema de búsquedas de YouTube completaba de forma automática él término “how to have” (cómo tener, en español) con frases relacionadas con pedofilia.

Entonces, un portavoz de la plataforma de video respondió lo siguiente: “… nuestros equipos fueron alertados de este horrible resultado del sistema de auto completar y estamos trabajando para eliminarlo rápidamente. Estamos investigando este asunto para determinar qué había detrás de la aparición de este autocompletado”.

Tinder y otras aplicaciones de citas, en problemas por abuso infantil

Hacen lo posible, pero parece que no es suficiente

Mientras tanto, las opiniones se dividen entre quienes condenan a YouTube por no tomar medidas más fuertes para detener esta situación y quienes dicen que la plataforma combate de manera constante todas las situaciones relacionadas con abuso de menores.

Aunque no se relaciona con pornografía infantil, Amazon –el sitio de comercio electrónico más grande del mundo– ha venido enfrentando situaciones similares, debido a la aparición en sus catálogos de ventas de artículos de parafernalia nazi.

Aunque la empresa afirma que hace todo lo posible para eliminar estos productos y otros relacionados con odio por motivos raciales, étnicos y religiosos, entre otros, las denuncias de los usuarios que los siguen encontrando no cesan.

Si al navegar por la red encuentras contenidos relacionados con abuso infantil y no sabes qué hacer, te recomendamos visitar el sitio de Te Protejo, una iniciativa para la protección de la infancia y la adolescencia en Colombia.

Imágenes: FotoCulsinete y Frella (iStock).

Hoy martes el Ministerio de Tecnologías de la Información y las Comunicaciones presentó una webserie para niños y jóvenes que busca enseñar los riesgos a los que se enfrentan cuando navegan en internet. El programa, llamado ‘Blog, la serie’, se estrenó hoy mismo con su primer capítulo: ‘#Ooops’, que narra cómo un grupo de estudiantes le hacen ciberacoso a un compañero.

‘Blog, la serie’ es un producto transmedia, es decir que mezcla contenido audiovisual e interacción en línea por parte del público. De acuerdo con el ministro David Luna, la plataforma de la serie permitirá que los jóvenes compartan sus experiencias y resuelvan sus dudas respecto a los riesgos en internet.

Cada webisodio narrará la historia de cinco estudiantes de colegio que deben afrontar algunos riesgos en internet como el ‘grooming’ (abuso sexual de menores por internet), ‘sexting’ y el ciberacoso. La idea es guiar a los jóvenes para que sepan cómo actuar frente a estas situaciones, para que sepan cómo prevenirlas y reportar casos cercanos. 

Durante el evento del estreno, los protagonistas de la serie web presentaron a sus personajes e invitaron a los jóvenes a seguir la historia a través de los distintos medios para verla. Está el sitio web, las redes sociales y el canal de YouTube. Cada jueves se estrenará un nuevo capítulo.

Puedes verlo a continuación: 

Imagen: MinTic. 

ANAR, una fundación que cuida los derechos e intereses de niños y adolescentes en riesgo, lanzó una publicidad bastante peculiar e innovadora. Esta campaña pretende crear actitudes de reflexión sobre el abuso y maltrato infantil, un flagelo que inunda a muchos países. De esta manera, un mismo anuncio entrega dos mensajes diferentes para dos tipos de persona.

El cartel funciona de forma discreta: entrega información de manera discriminada a las personas en la vía pública, pues se ve diferente para niños como para adultos.

El adulto al dirigir la mirada al mensaje, solo puede leer “A veces el maltrato infantil solo es visible para el niño que lo sufre”. Sin embargo, gracias a la impresión lenticular –que se ve diferente dependiendo del ángulo de visión-, el verdadero mensaje lo ven los infantes menores de 10 años.  Según ANAR, estos menores miden, en promedio, menos de 1,35 metros.

Al estar bajo esa altura el mensaje y la imagen del anuncio cambian completamente: el niño que aparece en el anuncio cambia a la altura de un menor, comienzan a aparecer heridas y contusiones en el rostro del niño de la publicidad, acompañado de un mensaje que solo es visible para ellos: “Si alguien te hace daño, llámanos y te ayudaremos”, acompañado de un contacto telefónico.

Lo que busca la fundación con este tipo de publicidad es que haya menos infantes agredidos o abusados por su propia familia. El mensaje tiende a ser rudo y fuerte, lo que le crea un impacto al menor. Quizá cuando el niño vea el anuncio se vea identificado, y en el caso más triste este acompañado de quien lo maltrata.