Cuando dos personas decidieron atacar dos mezquitas en Nueva Zelanda y transmitir el vivo la masacre por sus cuenta de Facebook, la red social no estaba preparada para las críticas que iba a recibir por no borrar los videos a tiempo. De hecho, el video original duraba 17 minutos y estuvo disponible en la plataforma por 29 minutos más y se reprodujo más de 4.000 veces.
Desde entonces, la plataforma ha hecho cambios como cerrar cuentas de reconocidos personajes que se dedican a multiplicar los discursos de odio y generar intolerancia entre la comunidad como parte de sus nuevas políticas. También anunció cuáles estrategias iba a implementar para bloquear contenidos de este tipo que comparten los usuarios en la plataforma.
Ahora, Facebook anunció que es consciente de los usos que puede hacer una persona de sus funcionalidades, por ejemplo, de Facebook Live. Por eso, está pensando en cómo evitar que se vuelvan herramientas para causar daño o difundir propaganda de odio.
«Las personas que hayan infringido las normas de Facebook, incluida nuestra política de Organizaciones y Personas Peligrosas, tendrán restricciones para usarlo», explicó Guy Rosen, vicepresidente de integridad de Facebook a través de un comunicado.
El vocero de la compañía asegura que entiende la incomodidad de algunas personas al ver que las redes sociales tienen cada vez más restricciones, pero asegura que es necesario poner límites para mantener a las personas seguras en los espacios digitales. «Nuestro objetivo es minimizar el riesgo de abuso en [los Facebook] Live y permitir que las personas utilicen esta herramienta de una forma positiva todos los días, concluye Rosen.
Restricciones para usar Facebook Live y otras estrategias
En el sistema actual de Facebook, si un usuario comparte o hace un Facebook Live con material sensible este es borrado de la plataforma. En caso de que la persona siga usando la red social de manera incorrecta se le quitan los permisos para hacer uso de esta por cierta cantidad de tiempo; en algunos casos la cuenta puede ser borrada de manera definitiva.
Ahora, específicamente para Facebook Live, las personas tendrán una única advertencia, lo que las dejará sin permisos para usar la opción de en vivo por un tiempo determinado. Además, Rose aseguró que este tipo de restricciones se ampliará también a los anuncios.
US$ 7,5 millones para investigación de escaneo y detección de contenidos
Por último, Facebook aseguró que las personas han aprendido a editar los videos de tal manera que el sistema de detección cree que la publicación no infringe las políticas de la plataforma. De hecho, menciona que los contenidos que se compartieron después de los ataques a la mezquita en Nueva Zelanda habían sido alterados para que el sistema no los borrara.
Por esto, la empresa ha decidido invertir en investigaciones con tres universidades estadounidenses: la de Maryland, la de Cornell y la de California. Estas se centrarán en detectar imágenes, videos y audios manipulados; también en distinguir entre publicaciones de individuos que de manera intencional manipulan imágenes y videos de aquellos que lo hacen inconscientemente.
«Esperamos que esto nos ayude a combatir de forma más eficaz a los grupos organizados que intentan engañar a nuestros sistemas», concluye Rose.
Imagen: Facebook.
