Meta AI incorpora una nueva herramienta de seguridad para adolescentes. Si detecta que un menor supervisado habla sobre suicidio o autolesión durante una conversación en Instagram, Facebook o Meta Horizon, podrá alertar al padre o tutor con supervisión parental activada. En esta nota te explicamos cómo funciona la herramienta y cuáles son sus límites.
Hasta ahora, las conversaciones con el asistente de inteligencia artificial de la compañía no hacían parte de las herramientas de supervisión parental. Esto ocurría incluso cuando esos controles ya estaban activados para publicaciones y contenido visible. Con esta actualización, el chatbot también podrá formar parte de las medidas de protección para adolescentes en determinadas situaciones de riesgo.
Cómo funciona la nueva alerta de Meta AI
Hasta ahora, cuando Meta AI detectaba señales relacionadas con suicidio o autolesión, su respuesta consistía en mostrar líneas de ayuda, recomendar recursos especializados y sugerir al adolescente que hablara con un padre, tutor u otro adulto de confianza. Era una estrategia de apoyo, pero dependía de que el propio menor decidiera dar ese paso.
La nueva función mantiene esa asistencia, pero añade una capa adicional de protección. Cuando una conversación marcada por la inteligencia artificial es confirmada mediante revisión humana y cumple los criterios definidos por Meta para una posible situación de riesgo, el sistema también notifica al adulto responsable. El cambio de enfoque es claro. Ya no depende únicamente de que el adolescente decida pedir ayuda.
Nadie recibe una alerta sin una revisión humana
Uno de los aspectos que Meta quiso dejar claros es que las alertas no se generan de forma completamente automática. Los modelos de detección fueron desarrollados junto con expertos en salud mental. Su objetivo es identificar tanto referencias directas como expresiones más sutiles relacionadas con el suicidio o la autolesión.
Sin embargo, antes de enviar cualquier notificación, todas las conversaciones marcadas por la inteligencia artificial son revisadas manualmente. Según la compañía, si la intención del adolescente resulta ambigua, optará por actuar con cautela y enviar igualmente la alerta.
Meta reconoce que este criterio puede generar avisos en situaciones que finalmente no representen un riesgo real. Aun así, considera que es preferible asumir ese margen de error antes que dejar pasar un caso que sí requiera intervención.
Para los padres, esto tiene una implicación importante. Recibir una notificación no significa que exista una confirmación de una crisis de salud mental. Significa que el sistema detectó señales suficientes para recomendar una conversación tranquila y un acompañamiento cercano.
Una función con requisitos y disponibilidad limitada
La herramienta no se activa automáticamente para todas las familias. Para recibir estas alertas, primero es necesario configurar la supervisión parental de Meta. Después, debe vincularse la cuenta del adolescente. Sin esa configuración, las conversaciones con el chatbot no forman parte del sistema de supervisión.
Por ahora, la función solo está disponible en Estados Unidos, Canadá, Reino Unido y Australia. Meta todavía no ha anunciado cuándo llegará a Colombia ni al resto de América Latina. Este despliegue gradual suele repetirse con otras herramientas de seguridad de la compañía.
Lo que Meta prepara para el futuro
Además de las alertas para padres, la compañía confirmó que trabaja en una función que permitiría contactar directamente a los servicios de emergencia cuando una conversación con el asistente sugiera un riesgo inminente de suicidio, tanto en adolescentes como en adultos.
Esa capacidad todavía no está disponible para las conversaciones con el chatbot. Actualmente, Meta solo utiliza ese mecanismo en publicaciones de Facebook e Instagram cuando identifica un riesgo creíble de suicidio. La compañía asegura que durante el último año realizó más de 19.000 alertas de este tipo en todo el mundo. Esto permitió a los servicios de emergencia realizar verificaciones de bienestar en posibles casos de riesgo.
Las familias que ya pueden utilizar esta herramienta deberían comprobar que la supervisión parental esté correctamente configurada. También deben verificar que la cuenta del adolescente se encuentre vinculada. Para quienes aún no tienen acceso, el anuncio anticipa el rumbo que está tomando la industria en materia de seguridad para asistentes de inteligencia artificial.
En cualquier caso, ninguna herramienta automatizada sustituye el diálogo permanente entre padres e hijos ni la atención profesional cuando una situación de salud mental lo requiere.
Si tú o alguien que conoces está pasando por una crisis de salud mental o tiene pensamientos de autolesión, en Colombia puedes comunicarte con la Línea 106. En Estados Unidos, la Línea 988 ofrece atención por llamada, mensaje de texto o chat a través de 988lifeline.org.
Imagen: ENTER.CO generada con IA (ChatGPT)
