La preocupación de las autoridades italianas está en la manera en la que ChatGPT recopila y hace uso de los datos personales de los usuarios. De acuerdo con la GPDP la recolección de información que es usada para entrenar y alimentar los algoritmos de OpenAI es ilícita.

“No se proporciona ninguna información a los usuarios, ni a los interesados cuyos datos han sido recopilados por OpenAI, L.L.C. y procesados a través del servicio de ChatGPT”. La GPDP también aseguró, a través del comunicado en el que ordena el bloqueo de la herramienta, que existe “la ausencia de una base jurídica adecuada en relación con la recopilación de datos personales y su tratamiento con fines de formación de los algoritmos subyacentes al funcionamiento de ChatGPT”.

Otro punto clave en la decisión de Italia está en la protección de menores de edad. La organización asegura que ChatGPT no cuenta con algún filtro que permita verificar que las personas que utilizan la herramienta tienen más de 13 años. Esto significa que, de manera indirecta, el modelo está recopilando, almacenando y utilizando datos personales de menores de edad. 

ChatGPT: cambios o más problemas en Europa

El problema legal más reciente de Chat GPT viene con una investigación por parte de las autoridades italianas. En los próximos 20 días OpenAI debe responder anunciando iniciativas para solucionar los problemas que el GPDP ha señalado. Esto significa que la compañía debe encontrar una manera de justificar sus infracciones, siendo quizás la más importante el uso de datos para alimentar y entrenar su AI. En caso de que no pueda cumplir con lo requerido estará sujeta a sanciones administrativas.

Quizás lo más alarmante para OpenAI es que la decisión de Italia abre la puerta para que otros países de la Unión Europea presenten nuevos bloqueos contra ChatGPT y otras herramientas de Open AI. Una ola de restricciones y preguntas que puede terminar por expandirse a otras regiones, en especial en los Estados Unidos donde ya hay organizaciones realizando preguntas sobre la legitimidad de los productos AI.

El punto central de la conversación, como siempre, está en la manera en la que estos modelos son entrenados. Para los usuarios está la manera en la que la información es recolectada a través de las interacciones con la AI y la manera en la que el manejo de estos datos personales encaja dentro de una jurisdicción. Para los creadores y artistas hoy existe una violación a sus derechos de autor con diferentes modelos que crean piezas que imitan su estilo sin ofrecer créditos o compensación.

Imágenes: Foto de Tara Winstead y montaje ENTER.CO

El tránsito de la presencialidad a la virtualidad ha supuesto un cambio de paradigma para todos los colombianos. Según Data Reportal, en 2020 el tiempo diario promedio a nivel mundial de uso de Internet se ubicó en 6 horas y 43 minutos, mientras que los colombianos navegamos aproximadamente durante 9 horas y 10 minutos al día. Esta comparación demuestra no solo lo conectados que estamos, sino también muchas veces el riesgo que podemos correr en línea.

Uno de estos riesgos, en el caso de los menores de edad, es la autogeneración de contenidos sexuales. Las fotos o videos creados por las personas menores de 18 años en las que se exponen de manera sexualizada, desnudos o semidesnudos son motivo de una investigación realizada por Viguías, el Centro de Internet Seguro de Red PaPaz.

Para comenzar, el término “autogenerado” no debe entenderse como una imputación de responsabilidad a la niña, niño o adolescente creador del contenido. Por el contrario, la coerción o manipulación por parte de un tercero, puede ser un adulto, tienen mucho que ver con la autogeneración de contenido sexual, especialmente cuando se trata de niñas y niños de menores edades.

También te puede interesar: 58 % de las niñas han sido acosadas en redes sociales

Según la Internet Watch Foundation, de los 153.350 reportes procesados de material de explotación sexual de niñas, niños y adolescentes en el 2020, un total de 68.000 son contenidos sexuales autogenerados. Esto representa un incremento del 77 % con respecto a los reportes del 2019. La línea de reporte Te Protejo, en lo corrido del 2021 (con corte en agosto), ha recibido 14.938 reportes de material de explotación sexual de niñas, niños y adolescentes (MESNNA), de los cuales el 51,4 % son contenidos sexuales autogenerados. La población más vulnerable frente a este fenómeno son las niñas entre los 4 y los 13 años, con más del 80 % de los casos. 

Del sexting al grooming, más que contenidos autogenerados

La investigación identificó cinco principales orígenes de esta práctica:

• Sexting: crear y enviar fotos o videos íntimos de manera consensuada. Es una práctica muy común entre adolescentes y jóvenes, una forma de coqueteo, los hace sentirse parte de una relación romántica. El sexting les permite experimentar nuevas sensaciones o, en ocasiones, lo hacen por ceder a la presión social.
• Difusión no consentida de contenidos íntimos:  compartir públicamente sin autorización imágenes sexualizadas que fueron inicialmente producidas e intercambiadas entre dos adolescentes o jóvenes.
• Búsqueda de aceptación social: llevar a cabo actividades de carácter sexual en plataformas de videochat a cambio de “me gusta” (likes) y otras recompensas. 
• Grooming: ganarse la confianza de personas menores de edad para que creen y compartan material sexual/sexualizado de sí mismos. Usualmente, los agresores se aprovechan de niñas, niños y adolescentes vulnerables, en general aquellos con madres o padres o cuidadores con bajo nivel educativo.
• Sextorsión: amenazar con difundir estos contenidos para obligarlos a compartir más materiales de sí mismos. 

¿Cómo se usan estás imágenes?

En las plataformas de la web oscura en las cuales se divulga material de explotación sexual de menores de 18 años, existen foros en los que sus usuarios discuten sobre estrategias para conseguir contenidos sexuales autogenerados. Esta investigación deja claro que los agresores desarrollan formas sofisticadas de engañar a niñas, niños y adolescentes para obtener este contenido; por ejemplo, el sexting. Una de sus estrategias predilectas es el uso de perfiles falsos en redes sociales, creados con el fin de contactarse con menores de edad y ganarse su confianza, para luego tener conversaciones sobre fantasías y experiencias sexuales o para enviarles pornografía. Con ello, los “preparan” para pedirles fotos y videos íntimos. Una vez la niña o el niño se lo envían, son amenazados con su difusión si no les comparten más. 

Adicionalmente, esta investigación nos ha alertado sobre una estrategia novedosa y muy peligrosa: el “Capping”. Esta consiste en convencer a menores de 18 años de llevar a cabo actividades sexuales en plataformas de videochat mientras son grabados, posiblemente sin que ellos lo sepan, para luego difundir estas grabaciones. Los “cappers” son personas muy afamadas en los foros de la web oscura, pues constantemente están proveyendo a su comunidad de nuevo contenido.

¿Qué podemos hacer?

Por lo tanto, los contenidos sexuales autogenerados son un fenómeno complejo, dados sus múltiples orígenes y las diferentes estrategias de los agresores para obtenerlos, desde sexting hasta videos compartidos de manera “voluntaria”. Adicionalmente, es inquietante el rol activo de niñas, niños y adolescentes en esta práctica. Ello hace que sea más urgente que nunca adoptar acciones de prevención, manejo y mitigación de riesgos. 

Una de estas acciones es la necesidad de que niñas, niños y adolescentes eliminen cualquier contenido íntimo de otras personas menores de edad de sus dispositivos. Así sea la foto que uno de ellos le envíe a su pareja consensuadamente, mientras experimentaban sexting. Lo mejor es borrarla, para evitar la posibilidad que alguien más acceda a esta imagen. Adicionalmente, tener y compartir este tipo de contenidos es ilegal en Colombia y en muchas partes del mundo y contribuye a su viralización en la web. Asimismo, debe ser muy clara la obligación de reportar la URL a las autoridades; en Colombia y México se puede hacer a través de la app y la página de Te Protejo. 

Te podría interesar: Instagram crea problemas de autoestima en adolescentes y ha tratado de esconderlo.

Así mismo, dado que las familias con menor nivel educativo requieren de un apoyo extra, pues la vulnerabilidad de sus hijas e hijos es mayor, debemos responder integralmente y desde el principio de corresponsabilidad, involucrando a industria, gobierno, medios de comunicación, colegios y a todas las familias. 

La protección de los menores de edad es responsabilidad de todos. Internet es un entorno de aprendizaje, interacción y entretenimiento en el que niñas, niños y adolescentes pueden desarrollar sus potencialidades y acceder a oportunidades. Pero no podemos olvidar algo: hay riesgos frente a los que, muchas veces, no pueden responder por su cuenta. ¿Qué haría si ve una niña pequeña en la calle sin supervisión? Seguramente querría cerciorarse de que esté segura con alguien que efectivamente pueda cuidarla, ¿cierto? Con Internet ocurre lo mismo: es responsabilidad de todas y todos buscar que todas las niñas, niños y adolescentes estén seguros. Desde Viguías y Red PaPaz esperamos que esta investigación contribuya en la búsqueda de acciones y soluciones.

Imagen: Vía Freepik. 

Facebook anunció que estaba trabajando en una versión de Instagram para menores de 13 años hace unas semanas, como una forma de evitar que los niños y niñas fueran blanco de los pedófilos. Esta no tendría publicidad, resaltó la red social en su momento. La carta fue firmada por organizaciones de Estados Unidos, África y Reino Unido; algunas de ellas enfocadas en los derechos de los menores de edad, otras en derechos digitales y derechos humanos.

La variedad de organizaciones demuestra que la preocupación no viene solo desde una perspectiva, sino desde múltiples que ven más problemas en la nueva aplicación que soluciones. “Este tipo de plataformas no evitan los problemas, pero sí abren la oportunidad a aumentar el número de usuarios de la red a cerebros que aún son lo suficientemente volubles para ser víctimas de las funcionalidades manipulativas y de explotación que usan”, resalta la carta enviada a Zuckerberg, según el portal The New York Times.

También te puede interesar: Adultos no podrán mensajear a adolescentes que nos los sigan en Instagram.

La empresa, por su parte, aseguró que está trabajando en tecnologías que le permitan identificar cuando un menor de edad miente para poder abrir una cuenta en Facebook o Instagram. La edad mínima requerida es 13 años. Además de trabajar con expertos en salud y sicología de niños, niñas y jóvenes. Sin embargo, la respuesta no ha sido positiva; muchos han resaltado que es solo un esfuerzo de la red social por ganar usuarios de temprana edad que seguirían usando las redes una vez crezcan.

El anuncio de la versión de Instagram para menores de edad lo hizo la empresa junto a nuevas funcionalidades de protección. Por ejemplo, no les permite a los adultos enviar mensajes directos a los adolescentes e inclusive advierte sobre perfiles sospechosos. Facebook ha asegurado que está buscando la manera en que los jóvenes puedan usar las plataformas de manera segura y conectar con familiares y amigos.

Imagen: Rawpixel. 

Durante el 2020, los reportes relacionados con entornos digitales representaron el 92 % del total recibido, evidenciando así una necesidad inmediata de que Colombia y América Latina comiencen a fortalecer su ecosistema protegiendo a la niñez en la región. El Internet no tiene fronteras, y con la pandemia mundial se ha extendido a todos los ámbitos de nuestra vida, especialmente en las vidas de niñas, niños y adolescentes que han estado asistiendo a clases a través de plataformas digitales.

Urgidos por la necesidad de un Internet más seguro para niñas, niños y adolescentes, y basados ​​en la experiencia de Te Protejo y Red PaPaz, decidimos hacer un llamado urgente a todos los actores que tienen una responsabilidad y acciones puntuales que aportarían a este objetivo a unir esfuerzos para construir un mejor Internet para todas las personas menores de 18 años, no solo a nivel local sino también a nivel regional.

También te puede interesar: 58 % de las niñas han sido acosadas en Internet.

Desde que comenzamos a diseñar e implementar nuestro Centro de Internet Seguro y a apoyar a otros países de América Latina para desarrollar sus propias líneas de reporte, supimos y reafirmamos que gobiernos, autoridades, industria, sociedad civil, medios de comunicación e incluso las iniciativas juveniles, juegan un papel clave en la creación de un Internet más seguro para niñas, niños y adolescentes, especialmente en medio de una pandemia; aun así, identificamos también la necesidad urgente de una articulación real.

Un espacio seguro para niñas, niños y adolescentes en Internet

Teniendo esto en mente y para aprovechar el Día del Internet Seguro, quisimos fortalecer el mensaje de la corresponsabilidad necesaria para construir efectivamente un Internet más seguro para la niñez y la adolescencia en Colombia y en América Latina preparando mensajes especiales y separados para cada audiencia:

Jóvenes:

• Recurrir a adultos de confianza en caso de entrar en contacto con imágenes, videos, comentarios que parezcan sospechosos. O cuando algo los haga sentir tristes o preocupados.
• No participar ni compartir retos en Internet que puedan causar daño propio o a otras personas.
• Reportar contenidos, perfiles, comentarios o cualquier material que sea irrespetuoso, engañoso u ofensivo en teprotejo.org o el App Te Protejo.

 Madres, padres y cuidadores

• Generar espacios de confianza para conversar en familia sobre los riesgos que niñas, niños y adolescentes pueden afrontar en Internet como contenidos, las interacciones entre otros, promoviendo un pensamiento crítico.
• Conocer las redes sociales que usan sus hijos e hijas y establecer reglas claras para su uso.
• Reportar situaciones de ciberacoso, explotación sexual en línea y hacer el adecuado acompañamiento a la víctima en teprotejo.org o el App Te Protejo.

Docentes

• Fortalecer una alianza familia-colegio que promueva entornos que protejan a niñas, niños y adolescentes en los entornos digitales.
• Promover el reporte de contenidos ilegales que afecten a niñas, niños y adolescentes a través de teprotejo.org o el App Te Protejo.

Organizaciones de la sociedad civil      

• Fomentar el uso correcto y seguro de las redes sociales, Internet y, en general, los entornos digitales.
• Reportar contenidos ilegales que afecten a niñas, niños y adolescentes a través de teprotejo.org o el App Te Protejo.

Gobierno      

• Garantizar la protección de la identidad, seguridad e integridad de niñas, niños y adolescentes en línea.

Medios de comunicación 

• Garantizar la difusión de información y contenidos verídicos y de calidad de la manera apropiada, siempre protegiendo a niñas, niños y adolescentes.
• Promover el reporte de situaciones que afecten a niñas, niños y adolescentes a través de teprotejo.org o el App Te Protejo.

Industria: empresas de tecnología e Internet  

• Desarrollar tecnologías que conviertan a plataformas, redes sociales, páginas web, etc. en entornos más seguros para niñas, niños y adolescentes.
• Promover el uso de canales de reporte para contenidos ilegales que afecten a niñas, niños y adolescentes en Internet como teprotejo.org o el App Te Protejo.

Industria: ISP (Proveedores de servicios de Internet)      

• Promover protocolos ágiles y eficientes para bloquear el material que afecte a niñas, niños y adolescentes.
• Reportar contenidos ilegales que se puedan acceder desde su plataforma a través de teprotejo.org o el App Te Protejo.

Justicia

• Contar con jueces y fiscales con entrenamiento en la protección de niñas, niños y adolescentes en entornos digitales.

Imágenes: PCH.Vector (Vía Pixabay).

Uno de los sitios web más populares del mundo, YouTube, podría recibir una multa sin precedentes en Estados Unidos en un caso de violación de la privacidad de los niños. Según el diario The New York Times, la Comisión Federal de Comercio (FTC) de ese país aprobó una multa de 170 millones de dólares para ese sitio web de video.

Según el diario, la multa más alta en un caso similar había sido mucho más baja que la que ahora enfrenta YouTube: 5,7 millones de dólares para la red social de video TikTok. En el caso de YouTube, se le acusa de recopilar información personal de los niños de forma ilegal.

The New York Times explica que los niños están entre los más ávidos usuarios de YouTube. Y Josh Golin, director de la organización sin ánimo de lucro Campaign for a Commercial-Free Childhood, le dijo a ese diario estadounidense que “YouTube ha cosechado ganancias enormes al ignorar las leyes federales de privacidad de los niños, y al involucrarse en la recopilación ilegal de datos y en mercadeo dirigido”.

* Encuentra más información sobre privacidad en Internet en este enlace.

El diario explicó que esta multa es particularmente dañina para la imagen de YouTube porque la empresa no ha tenido éxito con sus políticas para controlar el contenido que ven los niños en el sitio.

Por ejemplo, en el año 2017, YouTube se había comprometido a hacer más para proteger a los niños luego de que los medios revelaron que los pedófilos estaban dejando comentarios lascivos en los videos de menores publicados en ese sitio web.

Y hace dos meses ese mismo diario había publicado una investigación que mostró que el sistema de recomendaciones de YouTube automáticamente promueve videos de niños ligeros de ropa entre gente que ha visto otros videos de niños en posiciones comprometedoras o con contenidos sexuales.

Imágenes: iStock