Esta semana Musk respondió a una publicación asegurando que “Bloquear publicaciones públicas no tiene sentido. Debe desecharse en favor de una forma más fuerte de silenciamiento”.

Blocking public posts makes no sense. It needs to be deprecated in favor of a stronger form of mute.

— Elon Musk (@elonmusk) June 7, 2023

El mensaje respondía a una publicación que realizó Andy Ngo (un comentarista de extrema derecha) que se quejaba por no poder ver la publicación de Alejandra Caraballo, una activista que había compartido el vídeo de una disputa entre protestantes anti LGTBIQ y padres LGTBIQ. En esta publicación ella aseguraba que los “extremistas anti LGTBIQ” habían atacado a los padres y que la policía había ayudado en esta agresión.

One of the most prominent voices of disinformation on Twitter is Alejandra Caraballo, @elonmusk. She has spread hoax after hoax, & @CommunityNotes is not able to catch up because she uses block automation to prevent non-leftist ideologues from seeing her posts. Blocking should… pic.twitter.com/nzdhXCHLJn

— Andy Ngô 🏳️‍🌈 (@MrAndyNgo) June 7, 2023

“El bloqueo debe evitar que alguien responda a una publicación, no evitar que veamos, informemos una amenaza o escribamos una nota comunitaria”, lee la publicación de Ngo, que además aseguró que Caraballo utilizaba la función de bloquear para evitar que otras personas añadieran notas de la comunidad o que reportaran sus publicaciones con “falsa información”.

Desde que Musk tomó control de Twitter ha realizado diversos cambios para favorecer lo que él ha llamado ‘la libertad de expresión’, que se han visto reflejados en una menor moderación de los contenidos, monetizar las etiquetas de verificación dando validez y mayor alcance a las publicaciones pagas. Esto por no entrar en detalle sobre cómo ha suavizando las sanciones cuando un perfil desacata las políticas de conducta dentro de la red social.

Te puede interesar: Cinco cosas clave que aprendimos y deberías saber del algoritmo de Twitter

Cuando Twitter habilitó la opción de bloquear a otras cuentas la justificación que entregó es que era una manera para impedir el acoso de ciertos perfiles. Por ejemplo, ciertas cuentas utilizan la información en estas publicaciones para acosar de manera pública a las figuras o comparten sus mensajes en foros invitando a los trolls a acosar a la persona en cuestión.

Dicho esto, la mayor preocupación para muchos está en que el cambio que Musk esté preparando para la opción de bloquear perfiles elimine la alternativa de silenciar la aparición de estas publicaciones en tu línea de tiempo. Muchas personas utilizan hoy esta opción para mantener su perfil limpio de recomendaciones que nos les interesan. De hecho, ahora que Twitter promueve sólo las cuentas verificadas en la sección de ‘Para Ti’, muchas personas han utilizado la función para silenciar cualquier cuenta con el chulo azul como una manera de protestar ante los cambios que ha realizado Musk.

De la misma manera, lo ideal sería que cualquier cambio a la función también mantenga la opción de silenciar las respuestas de estos perfiles. El bloqueo de cuentas permanece como una de las herramientas más útiles contra los trolls y el acoso en la red social, en especial desde que la llegada de Musk parece haber dejado a la plataforma indefensa ante el discurso de odio, las noticias falsas y el acoso (que es una razón por la que el servicio ha perdido a la mitad de sus anunciantes).

Imágenes: Montaje ENTER.CO

Las publicaciones etiquetadas contenían mensajes de anti semitismo, racismo, homofobia y neo nazismo. Por ejemplo, entre algunos de los ejemplos que entregaron hay unas que aseguran que ‘Hitler tenía la razón’ (incluido un video del dictador) o una publicación que aseguraba que los ‘activistas LGTBI necesitan una dieta de plomo, preferiblemente de un batallón’.

Como el reporte indica, hay dos elementos preocupantes:

Las cuentas verificadas tienen mayor alcance: como parte de su nueva política de monetizar la interacción en Twitter, uno de los cambios más recientes en la plataforma es que las cuentas con Twitter Blue son las únicas que pueden ser recomendadas en la sección ‘Para Ti’ y también reciben un impulso del algoritmo al momento de ser mostrados.

Te puede interesar: Twitter Blue solo ganó 28 nuevos suscriptores al eliminar la verificación antigua

 Las personas con Twitter Blue tienen cierto nivel de protección: resulta igual de preocupante que estas cuentas con verificación puedan realizar publicaciones de odio sin tener que temer por algún tipo de sanción debido al status pago que tienen: “Lo que les da confianza a los actores de odio con una verificación para vomitar su bilis es saber que a Elon Musk simplemente no le importan los derechos civiles y humanos de los negros, judíos, musulmanes y personas LGBTQ+, siempre y cuando pueda ganar sus 8 dólares al mes“, aseguró un vocero de CCDH para Daily Beast. 

Desde que Musk adquirió la red social ha sido claro en su intención se que sea una plataforma con ‘mayor libertad de discurso”. Esta filosofía incluye el permitir el regreso de ciertas figuras que fueron expulsadas por violar anteriormente la política en contra del discurso de odio en la red social (incluyendo a varios Neo Nazis). No es el único frente en el que Twitter ha dejado de trabajar. Esta semana se reportó que la plataforma también había abandonado el compromiso de lucha contra la información falsa y que Twitter se encuentra en riesgo de ser prohibida en la Unión Europea si no se acopla a los lineamientos exigidos.

Imágenes: Montaje ENTER.CO

Ahora un nuevo informe publicado por The Wall Street Journal aseguró que Facebook es consciente de que su sistema de Inteligencia Artificial no es capaz de eliminar ni una mínima parte del contenido de odio o violencia.

De acuerdo con los documentos filtrados por el WSJ, los algoritmos de la red social no pueden detectar o diferenciar entre contenidos que tengan situaciones inadecuadas para los usuarios, por ejemplo, videos grabados en primera persona, discursos racistas, accidentes automovilísticos o, incluso, peleas de gallos.

“Cuando los algoritmos de Facebook no están lo suficientemente seguros de que el contenido viola las reglas para eliminarlo, la plataforma muestra ese material a los usuarios con menos frecuencia, pero las cuentas que publicaron el material quedan impunes”, detalló el artículo.

La red social responde

Todo esto se da en contraposición a lo que Facebook explicó en su último Informe de Cumplimiento de los Estándares Comunitarios.

La compañía aseguró que ha logrado disminuir el discurso de odio en casi un 50% durante los últimos tres años, en parte, gracias a sus sistemas de IA.

“Cuando comenzamos a informar nuestras métricas sobre el discurso del odio, nuestros sistemas solo detectaron de manera proactiva el 23,6% del contenido que eliminamos; la mayoría de lo que eliminamos fue encontrado por personas. Ahora, ese número supera el 97%”, aseguró la red social en su blog oficial.

Sin embargo, la publicación The Wall Street Journal da cuenta de que algunos empleados de Facebook señalan que la utilización de tecnologías apenas elimina entre el 3 y el 5% del contenido violento o que incita al odio.

También puedes leer: Facebook prohibirá contenidos que acosen sexualmente a celebridades

Además, en los documentos filtrados por el medio se detalla que los responsables de mantener la plataforma libre de contenido que Facebook considere ofensivo o peligroso reconocen que la compañía no está ni cerca de poder filtrarlo de manera confiable.

Por su parte, Guy Rosen, vicepresidente de integridad de Facebook, respondiendo en parte a las investigaciones del WSJ aseguró que “centrarse solo en la eliminación de contenido es la forma incorrecta de ver cómo Facebook lucha contra el discurso de odio”.

Imagen: Archivo ENTER.CO

Por esto, la decisión de volver a subir el video a la red social fue entregada al Comité Ético, que en teoría no tiene ningún vínculo empresarial con Facebook y es el encargado de tomar este tipo de decisiones. Por ejemplo, este fue el encargado de estudiar el caso de los perfiles de Donald Trump, aunque su respuesta fue que la plataforma será responsable de dejarlo volver y de la vigilancia de este y aún no se sabe qué pasará con él.

También te puede interesar: Consejo Asesor de Facebook decidirá si ‘marica’ es discurso de odio

Volviendo al caso colombiano, el Comité Ético decidió que el video podría volver a la plataforma. Pero con una serie de condiciones, por ejemplo, Facebook necesita crear una guía de discursos de odio y palabras violentas en donde además se establezcan los límites de su uso y contexto con los cuáles la red social puede tomar decisiones de dar de baja contenidos que los usen o no. Además, deberá crear nuevos ejemplos dentro de sus políticas de uso, mejorar el trabajo que hacen las personas que hacen revisiones de contenido y ellos deben tener un conocimiento de qué se permite en contextos políticos y de protesta social. Finalmente, los usuarios que reporten contenidos deberán obtener una respuesta del porqué este seguirá publicado.

Facebook, por su parte, en un comunicado confirmó que se acogerá a las decisiones tomadas por el comité y que hará los cambios recomendados.

Imagen: Archivo ENTER.CO. 

En parte, la demanda llama la atención sobre publicaciones hechas en las que se amenaza a la revista Charlie Hebdo, el programa de televisión Quotidien y el periódico regional L’union. “Tenemos pruebas de que Facebook miente sobre trabajar constantemente en eliminar o no permitir ciertos tipos de contenidos en su plataforma”, explica el documento entregado en la corte.

Para leer otras noticias de Facebook, visita este enlace.

El caso podría ser considerado como publicidad falsa y, en caso de demostrar que Facebook es culpable, tendría que pagar un 10 % de sus ingresos anuales como multa, explica el portal France24. La RSF le dijo al portal de noticias francés que esta demanda podría tener consecuencias globales y que estaba considerando hacer lo mismo en otros países. De hecho, resaltó que la UNESCO considera la red social uno de los lugares ‘menos seguros’ para las periodistas.

También te podría interesar: FB mintió en su alcance de usuarios para tener más publicidad.

La demanda cubre a Facebook Francia y Facebook Irlanda, desde donde se maneja los temas de privacidad de los usuarios. “Teniendo en cuenta que las políticas de la red social son a nivel global, Facebook tendría que evaluar muchas de sus medidas y hacer cambios en todos los países, si ganamos la demanda”, resaltó un vocero de RSF al portal Engadget.

Por ahora, la red social no ha hecho comentarios a la prensa internacional sobre la demanda.

Imagen: Simón (Vía Pixabay).