Facebook presentó una nueva tecnología de inteligencia artificial para detectar publicaciones suicidas antes de que otros usuarios las denuncien.

La compañía de medios sociales está usando software de reconocimiento de patrones para marcar publicaciones, videos en vivo y comentarios en los que los usuarios expresan pensamientos de suicidio.

Facebook notificará a los primeros en responder o enviará información de salud mental al usuario en riesgo.

Junto con la iniciativa de inteligencia artificial, Facebook está priorizando las alertas de usuarios más urgentes sobre mensajes suicidas, dedicando más moderadores a la prevención del suicidio y asociándose con organizaciones como National Suicide Prevention Lifeline.

"El equipo incluye un grupo dedicado de especialistas que tienen entrenamiento específico en suicidio y autolesiones", dijo Rosen Guy Rosen, vicepresidente de gestión de productos.

Indicó que Facebook desplegará la tecnología a nivel mundial, excepto en la Unión Europea, donde las leyes de privacidad evitan los escaneos de datos.

Alex Stamos, director de seguridad de Facebook, abordó las preocupaciones de que la tecnología de inteligencia artificial se podría aplicar de otras formas más alarmantes.

"El uso espeluznante / aterrador / malicioso de la IA será un riesgo para siempre, por lo que es importante establecer buenas normas hoy en día para sopesar el uso de datos versus la utilidad y ser reflexivos sobre los sesgos que se arrastran" , escribió .

Antes del lanzamiento de la iniciativa de inteligencia artificial de Facebook, la empresa permitió a los usuarios preocupados alertar a los moderadores sobre publicaciones relacionadas.

"Brindamos a las personas una variedad de opciones de soporte, como la opción de contactar a un amigo e incluso ofrecerles plantillas de texto sugeridas. También sugerimos contactar a una línea de ayuda y ofrecer otros consejos y recursos para que las personas se ayuden en ese momento, ", dijo Rosen.