Facebook es una de las plataformas que se ha mostrado más entusiastas con el uso de sistemas de inteligencia artificial, aunque su desempeño no siempre sea el mejor. Sin embargo, ahora acaban de liberar una nueva función que usa esta tecnología bajo el objetivo de detectar a tiempo publicaciones con tintes suicidas.
PUBLICIDAD
Mediante una publicación en su blog oficial de prensa, Facebook ha revelado la aplicación de un nuevo sistema de inteligencia artificial, capaz de monitorear y detectar cualquier publicación en la red que pueda delatar inclinaciones suicidas por parte de su autor.
Así lo explica Guy Rosen, vicepresidente de gestión de productos de Facebook:
Estamos comenzando a desplegar nuestra plataforma de inteligencia artificial fuera de los EE. UU. para ayudar a identificar cuándo alguien podría estar expresando pensamientos de suicidio, incluso en Facebook Live. Al final esta función se encontrará disponible en todo el mundo, excepto en la Unión Europea.
Este sistema utiliza tecnología de reconocimiento de patrones para ayudar a identificar publicaciones y transmisiones en vivo que probablemente expresen pensamientos suicidas. Seguimos trabajando en esta plataforma para aumentar la precisión y evitar los falsos positivos.
Rosen señala que la Inteligencia Artificial lee diversas señales, como el texto redactado por el autor en la publicación y los comentarios generados, que muchas veces son reacciones a esta clase de comportamientos.
El ejecutivo afirma que durante su periodo de pruebas incluso detectaron videos que efectivamente requerían de intervención y apoyo, pero que no habían sido reportados por los usuarios en la red de contactos del autor.
Ahora, el reto actual para este sistema de inteligencia artificial es cómo definir con precisión los números de contacto o enlaces a las instancias que correspondan según el caso. Entre líneas de asistencia, policía, bomberos, etc.
Sobra decir que la legislación actual en materia de privacidad hace imposible que este sistema se aplique en la Unión Europea.
