Meta ha implementado una nueva herramienta de seguridad y supervisión parental capaz de detectar signos de angustia, autolesión o crisis emocional en adolescentes de 13 a 17 años que interactúan con su asistente Meta AI. El sistema, que ya se encuentra operativo en Estados Unidos, Reino Unido, Australia y Canadá, se desplegará de forma global antes de finalizar el año.
La tecnología funciona mediante un algoritmo que monitorea de manera continua los chats de los menores con la inteligencia artificial. Cuando el sistema identifica patrones o señales de riesgo —incluso ante intenciones ambiguas por parte del usuario—, notifica de forma directa a los padres o tutores legales, facilitándoles recursos educativos y guías de orientación para abordar conversaciones delicadas con sus hijos.
Prevención de crisis y salud mental en entornos digitales
Esta iniciativa responde a la creciente preocupación internacional sobre la salud mental de los jóvenes en las plataformas digitales, un contexto donde los adolescentes suelen experimentar mayores episodios de aislamiento o presión social.
La empresa matriz de Facebook e Instagram precisó que este protocolo especializado busca involucrar activamente al entorno familiar en la detección temprana de posibles situaciones vulnerables.
«Meta ha construido un sistema de inteligencia artificial dedicado exclusivamente a identificar conversaciones de riesgo», destacó el portal informativo Infobae sobre el desarrollo de esta herramienta.
Cifras de impacto y herramientas de control parental
El despliegue de esta tecnología se suma a otras medidas de protección que la tecnológica ha implementado recientemente para reforzar la seguridad de los menores:
- Alertas a servicios de emergencia: Durante el último año, Meta envió más de 19.000 alertas de riesgo a organismos de emergencia ante casos críticos detectados en sus plataformas.
- Modo de Contenido Limitado: Los representantes cuentan con opciones adicionales dentro de la configuración familiar para restringir ciertos tipos de interacción con Meta AI y crear un espacio de navegación más seguro.
- Filtros de interacción de la IA: Las respuestas del asistente conversacional están programadas para bloquear debates inapropiados, evitar consejos perjudiciales y ofrecer enlaces directos a líneas de ayuda emocional en tiempo real.
Se prevé que Meta continúe perfeccionando sus modelos de detección algorítmica e intégre nuevos recursos de asistencia en tiempo real a medida que la función se extienda al resto de las regiones del mundo.
Con información de Versión Final
