Meta AI alertará a padres si sus hijos tienen conductas de riesgo; así funcionará
La firma tecnológica activó un sistema de detección y revisión humana para avisar sobre señales de riesgo en chats con menores de edad.
La inteligencia artificial de Meta, Meta AI, ha dado un paso adelante para servir a la comunidad y ayudar a identificar señales de vulnerabilidad psicológica, conductas de autolesión o tendencias suicidas en los chats de usuarios adolescentes, pero ahora enviará notificaciones a los padres para que puedan dar el apoyo necesario.
El objetivo es permitir que los padres o tutores tengan conocimiento de inmediato de una conducta psicológica de sus hijos y puedan buscar el apoyo inmediato con especialistas.
Actualmente, Meta AI ofrece el número telefónico de asistencia cada que recibe una conversación que podría estar demostrando que el usuario tiene tendencias suicidas.
Ahora, gracias al apoyo de 75 especialistas de salud mental, cuando el sistema identifica una interacción digital de riesgo, el contenido es derivado a un proceso de validación por parte de moderadores humanos antes de emitir cualquier aviso, resguardando la privacidad del menor.
Las alertas tempranas ya se encuentran operativas en cuentas vinculadas bajo el esquema de supervisión parental en Estados Unidos, Reino Unido, Australia y Canadá, proyectando su despliegue en México y el resto del mundo de forma paulatina para el cierre de este año.
Cómo activar las alertas y la protección en la aplicación
La recepción de estas notificaciones de emergencia requiere que la cuenta del adolescente se encuentre correctamente vinculada a las herramientas de control nativas de la plataforma y para eso debes seguir los siguientes pasos:
- Configuración de Supervisión Parental: Los tutores deben ingresar al panel de configuración de Instagram u otras de las aplicaciones de Meta, ubicar la sección de "Supervisión" e invitar al perfil del menor a vincularse. Una vez aceptada la invitación, el sistema activará en automático las alertas proactivas si el software detecta palabras o intenciones de daño físico.
- Restricción Estricta de Contenido: Meta también permitirá restringir conversaciones con la IA que no sean consideradas acorde a un menor de edad.Cómo deben estar pendientes los padres ante las alertas
La compañía tecnológica detalló que las notificaciones dirigidas a los dispositivos de los tutores incluirán guías y recursos desarrollados por profesionales de la salud con el fin de orientar la intervención familiar directa en entornos reales.
Debido a que el algoritmo prioriza la prevención en escenarios de duda, las notificaciones podrían generarse incluso ante expresiones indirectas o textos de intención ambigua.
Meta analiza la forma en que, en caso de un riesgo inminente para el menor, pueda dar aviso a las autoridades y que se despliegue la ayuda inmediata, aunque esto por ahora no es posible, por lo que es importante que los padres estén atentos a cualquier señal para poder apoyar a sus hijos.