Por Frank Reyes – @frankrey_98

Instagram anunció hoy el lanzamiento de dos nuevos filtros operados por inteligencia artificial que ocultarán los comentarios negativos y el spam de las publicaciones.

Mediante un comunicado de prensa, Instagram dio a conocer un filtro que bloqueará comentarios negativos en las publicaciones y los videos en vivo. Este filtro tomará los comentarios que considere inapropiados y los borrará, pero tendrá una sorpresa: El dispositivo de quien haya escrito el comentario seguirá visible como medida preventiva.

Por otra parte, el filtro de spam desaparecerá por completo el contenido que el sistema considere spam entre los comentarios de publicaciones y videos en vivo. Este filtro bloqueará el spam que esté en inglés, español, portugués, árabe, francés, alemán, ruso, japonés y chino, mientras el filtro de comentarios negativos funcionará en inglés por el momento, aunque Instagram ha confirmado que se expandirá a los demás idiomas con el pasar del tiempo.

View this post on Instagram

Today, we’re introducing two comment filters to help keep Instagram a safe place for self-expression: an offensive comments filter and a spam filter. These tools are the next step in our commitment to foster kind, inclusive communities on Instagram. Many of you have told us that toxic comments discourage you from enjoying Instagram and expressing yourself freely. To help, we’ve developed a filter that will block certain offensive comments on posts and in live video. You can turn this filter off in the “…” settings menu from the profile and scroll to tap “Comments.” We’ll launch this in English first, but will offer it in more languages over time. The spam filter removes any obvious spam in comments written in English, Spanish, Portuguese, Arabic, French, German, Russian, Japanese and Chinese. These filters are powered by machine learning, trained by our team to recognize certain types of offensive and spammy comments so you never have to see them. They will improve over time, enabling the community’s experience to improve as well. Our work is far from finished and perfect, but I hope we’re helping you feel safer and more welcome on Instagram. Kevin Systrom CEO & Co-founder Photo by @runnerkimhall

A post shared by Instagram (@instagram) on Jun 29, 2017 at 6:04am PDT

“Muchos de ustedes nos han dicho que los comentarios tóxicos los desalientan de disfrutar Instagram y expresarse libremente”, dijo el CEO de Instagram, Kevin Systrom, en el comunicado oficial.

Inteligencia artificial para entender comentarios

Ya han existido filtros de palabras y comentarios anteriormente, en esta ocasión Instagram le está apostando al aprendizaje de la inteligencia artificial. Según una investigación hecha por el medio de tecnología Wired, el sistema que utilizará la red social se llamará DeepText y buscará reconocer el lenguaje de la misma forma en que nuestro cerebro lo hace.

DeepText surgió a partir de una herramienta que ayudaría a los ingenieros de Facebook a reconocer comentarios negativos entre una cantidad extensa de texto. El objetivo de este sistema es aprender a entender frases en contexto y así reconocer comentarios negativos. Por ejemplo, comprender que “Matar dos pájaros de un solo tiro” no se refiere a la caza sino a cumplir dos objetivos a la vez.

¿Cómo se activan estos filtros en Instagram?

En realidad no es necesario seguir unos pasos definidos, pues de acuerdo al anuncio de Instagram estos se activarán de forma predeterminada en la próxima actualización. En caso de que quieras desactivarlos o personalizarlos puedes entrar a los ajustes de perfil y tocar en la opción ‘Comentarios’. Ahí se desplegará la configuración de los filtros.

A la hora de trabajar con inteligencia artificial hay que tener mucho cuidado con los esquemas de aprendizaje del sistema pues, aunque no surja una especie de skynet que destruya al mundo, sí es posible que no se reconozcan bien las indicaciones.

Tendremos que esperar para saber si estos filtros serán un buen uso de la inteligencia artificial o un error en los intentos por detener los discursos de odio en las redes sociales. Danos a conocer tu opinión en la caja de comentarios.

Imagen: Pexels

Instagram comenzará a desplegar una nueva función para todos los usuarios que permitirá decidir cómo moderar los comentarios de sus publicaciones. Esta función se habilitó en julio para las cuentas de negocios, y ahora todos podrán hacer ‘listas negras’ de palabras clave para bloquear comentarios que los contengan.

Esta nueva función permitirá a los usuarios activar un filtro que bloqueará automáticamente una lista de palabras por defecto que no se quieren ver en los comentarios. Y también está la opción de elegir palabras clave personalizadas no deseadas. Esta opción ayudará a los usuarios a evitar ciertos temas, incluso si las palabras en sí no son consideradas como abusivas, según informó TechCrunch. Ambas opciones se podrán habilitar en las configuraciones de perfil del usuario. 

Otra herramienta que se desplegará junto a esta es la posibilidad de personalizar los comentarios para que en la vista previa de comentarios aparezcan los más relevantes, en lugar de los más recientes. Esto significa que verás primero los de tus amigos más cercanos antes que los de los demás, así hayan sido publicados después. 

Instagram ya ofrecía otras opciones para moderar comentarios, como deslizar para borrarlos, reportar comentarios inapropiados o bloquear otras cuentas. Estas funciones son muy importantes porque todas las cuentas en Instagram son públicas por defecto. Además, por lo general las personas publican fotos suyas y así se hacen el blanco perfecto para acosadores y ‘trolls’.

De acuerdo con el fundador y CEO de Instagram, Kevin Systrom, la red social es una plataforma cuya ‘belleza’ radica en la diversidad de sus miembros, pero muchas publicaciones pueden ser crueles. Es por eso que “para empoderar a cada individuo necesitamos promover una cultura en la que todos se sienten seguros de ser ellos mismos sin críticas ni acoso”, explica Systrom en el anuncio de estas nuevas funciones.

Esta nueva función llega justo a tiempo cuando todas las redes sociales están esforzándose más que nunca para derrotar el acoso y el ‘bullying’ en sus plataformas. Hace poco el cantante Justin Bieber cerró su cuenta de Instagram porque sus fans comenzaron a publicar comentarios ofensivos hacia su nueva novia, Sofia Richie. 

En Twitter el problema del acoso es aún más grave porque la red social no tiene un filtro específico para evitar recibir publicaciones ofensivas. En Twitter, la actriz Leslie Jones (de Ghostbusters) recientemente fue atacada por una ola de hombres racistas y sexistas, lo cual resultó en que Jones también amenazara con cerrar su cuenta.

Instagram no tiene tantos casos de acoso, porque a diferencia de Twitter tiene mecanismos más fuertes de censura hacia el acoso, el racismo, el sexismo y demás formas de ofensas en línea. Sin embargo, de acuerdo con el medio, se está preparando desde ya con este tipo de herramientas para evitar que su plataforma se plague de acosadores y le toque lanzar funciones ‘de emergencia’. 

Imagen: Pixabay.