Pues bien, hace un par meses Twitch comenzó a trabajar en algunas estrategias para detener el acoso dentro de su servicio y la más reciente de ellas ha visto la luz. Se trata de una herramienta llamada ‘Detector de usuario sospechoso’, la cual usa un sistema de Inteligencia Artificial (IA) para poder identificar aquellos usuarios indeseables que hayan evadido la suspensión de sus cuentas mediante la creación de nuevos perfiles. La función permitirá ocultarlos de los chats de forma automática y advertirle de la situación al creador de contenido.

En el caso de que no haya seguridad absoluta de que una cuenta se haya saltado la suspensión, Twitch la marcará con una etiqueta rojo para que los ‘streamers’ puedan monitorear el comportamiento del perfil señalado.

La herramienta de detección de usuarios sospechosos, basada en machine learning, llega para ayudarte a identificar y evitar que las cuentas sospechosas de intentar saltarse un ban interrumpan tu stream.

Más información aquí:https://t.co/ougmVjYB1T pic.twitter.com/k7uWLtkBFt

— Twitch ES (@TwitchES) December 1, 2021

Te puede interesar: Twitch lanza incubadora para que músicos sepan cómo transmitir en vivo

A pesar de que los mensajes de odio se ocultarán del chat para los demás usuarios, Twitch no los eliminará del todo, pues el creador será el único que podrá leerlos. Esto con el fin de que sea este quien pueda decidir qué hacer con esos comentarios y esas cuentas. Dentro de sus opciones estarán eliminar los perfiles sospechosos o simplemente desactivar la función.

Además de esta herramienta para minimizar los comportamientos dañinos, desde septiembre Twitch también permite filtrar los contenidos de los chat haciendo que las cuentas participantes tengan que estar verificadas a través de un e-mail y número telefónico. Según la plataforma, esta función, que puede activarse manualmente, obstaculiza la actividad de aquellas cuentas que únicamente han sido creadas para insultar dentro de la plataforma.

Imágenes: Pixabay

La prohibición incluirá videos sobre contenido de ideología neo-nazi, teorías conspiradoras que niegan la existencia de algunos hechos violentos; por ejemplo, el holocausto o un tiroteo que en un colegio llamado Sandy Hook, explicó YouTube en un comunicado.

Para leer sobre otras medidas que ha tomado las redes con los discursos de odio, visita este enlace.

Este cambio de políticas va en línea con otros que ya ha hecho YouTube en los últimos meses. Entre ellos,  limitar las recomendaciones a teorías conspirativas, cerrar más de 400 canales relacionados con abuso infantil e incluso reforzar las penalidades que deben asumir las personas que se pasan de la línea. El sitio de videos además aseguró que con los cambios de políticas borrará videos y canales, aunque no dio más información.

YouTube seguirá contribuyendo con las investigaciones

Así mismo, Youtube afirmó que es consciente que este tipo de videos se usan por investigadores para distintas causas: estudios de discurso de odio, identificación y prevención de ataques, entre otros; por eso tratará de encontrar una manera para permitir que organizaciones e investigadores tengan acceso a este tipo de contenidos.

El sitio web explicó que algunos videos que toquen estos contenidos serán permitidos en la plataforma porque puede que no sean directamente discursos de odio sino que discuten un tema; por ejemplo, leyes en proceso de ser aceptadas por el gobierno, tienen el objetivo de condenar o exponer a la luz pública la intolerancia o hacen análisis de situaciones actuales.

Las nuevas políticas aplicarán para los usuarios a partir de esta semana y los vídeos se darán de baja paulatinamente mientras YouTube revisa los contenidos.

Imagen: pikepicture (Vía iStock).

Ahora, miembros del congreso de Londres les han solicitado a varias de las empresas tecnológicas –Facebook, Google, Twitter y Microsoft– que revelen cuánto dinero invierten en estrategias para combatir el terrorismo a nivel global, según informó el portal The Daily Beast.

Además, sugieren que los CEO de dichas compañías deberían ser considerados responsables por contenido violento y sensible que se distribuya en sus plataformas, explica el portal The Guardian. Por esto, se estaría planeando presentar una nueva ley en Londres esta semana. La idea es que exista un ente regulador que les imponga multas a las empresas cada vez que haya filtraciones de contenidos como terrorismo, abuso infantil, suicidio y daños autoinfligidos.

Así mismo, de acuerdo con la gravedad del contenido, los ejecutivos de las empresas podrían considerarse responsables y, por ende, enfrentarse a cargos penales. En Londres, este tema ha tomado importancia porque una adolescente se suicidó hace unos meses y sus padres aseguran que en parte lo hizo por imágenes de daños autoinfligidos que vio mientras navegaba en Internet.

Una iniciativa similar, que impondría multas a las empresas y llevaría a la cárcel a ejecutivos de las plataformas que no retiren el material violento que se publica en ellas, ya fue aprobada en primera instancia por el parlamento australiano.

Esta ley le daría toda la responsabilidad a las plataformas y sus ejecutivos

La ley que se presentaría ante el congreso de Londres asegura que las redes sociales y plataformas son responsables de lo que se comparte en estas, por eso sugeriría cuatro puntos centrales:

1. La existencia de un regulador controlado por el Gobierno para guiarlo en temas específicos como terrorismo y abuso infantil.
2. Reportes de transparencia anuales por parte de las empresas tecnológicas, como las redes sociales, en los que especifiquen cuál es el contenido dañino que se comparte en sus sitios. Además, debería incluir qué están haciendo para controlarlo y evitar su propagación.
3. Cooperación con policía y otras organismos en los casos ilegales de incitación a la violencia y venta de armas ilegales, entre otros.

Imagen: ViewApart (Vía iStock).

Ahora, la empresa decidió que los discursos que apoyen o divulguen la ideología de nacionalismo blanco, supremacía blanca y separatismo de razas no serán permitidos tanto en Facebook como en Instagram.

Facebook ya había bloqueado contenido que apoyara o incitara al terrorismo y ahora, de acuerdo con un comunicado en su blog, usará un filtro similar para los contenidos de nacionalismo y separatismo racial. Así mismo, asegura que los contenidos de supremacía blanca ya estaban bloqueados porque estos se consideraban como discursos de odio.

Por último, Facebook reconoce que es importante mejorar en cómo reacciona cuando se comparten estos contenidos y en los filtros y procesos que existen actualmente para encontrar publicaciones de este tipo. Asegura que ha estado trabajando en los últimos meses en el tema, pero que sabe que aún hay mucho por mejorar.

Facebook hará más que filtrar las publicaciones

Además, Facebook aseguró que como parte de su trabajo por no incentivar este tipo de contenidos, las personas que busquen temas relacionados con supremacía blanca y nacionalismo racista serán dirigidas a la página de una fundación que provee intervenciones a crisis, educación y grupos de ayuda.

De este modo, si una persona busca, por ejemplo, heil Hitler, los resultados lo llevarán a la fundación Life After Hate.

“Lamentablemente, siempre habrá gente que trate de sacarle provecho a nuestro sistema. Pero nosotros seguiremos tratando de estar un paso adelante de ellos con el desarrollo y mejora de nuestra tecnología y trabajando con expertos”, concluyó Facebook su comunicado.

Imagen: Facebook.

Este miércoles fue aprobada una ley contra Internet en Rusia que permite censurar sin aviso páginas pornográficas, con promoción de drogas o que toquen el tema del suicidio. Muchos expertos temen que su uso podría atentar contra la libertad de expresión de los internautas rusos.

El principal argumento del gobierno para aprobar la ley es que esta servirá para vigilar, sobre todo, casos extremos. Sin embargo, ahora el servicio de defensa federal del gobierno también tiene la autorización de cerrar páginas con discursos de odio, si después de 24 horas de aviso no se ha bajado el contenido infractor.

Según expertos esto resulta ambiguo, porque muchas opiniones pueden ser censuradas bajo la excusa de ser discursos de odio, solo por oponerse al gobierno actual. Se teme que la ley permita el abuso de autoridad por parte del gobierno, lo que podría afectar a cualquier persona que opine diferente.

Como forma de protesta, Wikipedia canceló su servicio en Rusia por un día, de la misma manera que lo hizo en Estados Unidos para protestar contra SOPA. Livejournal y Yandex, dos sitios web de mucha importancia en Rusia también manifestaron su desacuerdo con una huelga. Incluso el encargado de vigilar el cumplimiento de los derechos humanos en la Presidencia manifestó su desacuerdo.

Extrañamente, aun conociendo el riesgo que se corre con esta ley, los cuatro partidos políticos más importantes en Rusia aprobaron la ley. Resulta extraño que una legislación que otorgue tanta libertad al gobierno de manipular el contenido web sea ‘bien vista’ por todos los partidos políticos.