¿Cuántos de ustedes iban a ver un video en YouTube y cuando se dieron cuenta descubrieron que llevaban más de dos horas viendo videos de caídas graciosas? La plataforma está diseñada precisamente para eso gracias al avanzado algoritmo que lanza recomendaciones en base a los intereses de los usuarios.
Por supuesto estas recomendaciones no son del agrado de todo el mundo, incluso han causado problemas serios a la plataforma por sugerir videos de teorías conspirativas, noticias falsas e incluso darle material a pedófilos.
Dicho esto, tenemos que Guillaume Chaslot, un ex-colaborador de YouTube que trabajó en el comentado algoritmo, ha cuestionado las recomendaciones al considerarlas tóxicas (vía TheNextWeb).
La IA está diseñada para volverte adicto a YouTube
Hablando en una conferencia DisinfoLab, Chaslot comentó que las recomendaciones de YouTube están diseñadas para volverte adicto a la plataforma.
No es intrínsecamente horrible que YouTube use inteligencia artificial para recomendarte un video, porque si la IA está bien sintonizada, puede ayudarte a obtener lo que deseas. Eso sería increíble. Pero el problema es que la IA no está diseñada para ayudarte a obtener lo que deseas, sino que está diseñada para hacerte adicto a YouTube. Las recomendaciones fueron diseñadas para hacerte perder tu tiempo.
Y es que el desarrollador señala que hay un problema con la métrica que utiliza la inteligencia artificial para recomendar un video debido a que se basa en el tiempo de visualización de los usuarios, lo que según él podría ser bueno para una compañía que vende comerciales, pero no refleja realmente lo que los usuarios quieren y podría tener efectos negativos.
Tenemos que darnos cuenta de que las recomendaciones de YouTube son tóxicas y pervierten la discusión cívica. En este momento, el incentivo es crear este tipo de contenido límite que sea muy atractivo, pero no prohibido.
Así que debido a su experiencia con el algoritmo de YouTube, Chaslot decidió fundar un proyecto llamado AlgoTransparency que busca una mayor transparencia por parte de las plataformas en línea.
