Si en algo se han enfocado las redes sociales en años recientes es en optimizar su algoritmo para entregar la mejor experiencia a los usuarios. De esta manera, hemos visto a plataformas como Instagram, Facebook, TikTok o Twitter hacer ajustes en este tipo de herramientas para ajustar la entrega de contenidos a las preferencias de sus abonados.

No obstante, estos cambios constantes no siempre llegan con una buena experiencia. Y es que controlar este tipo de controles inteligentes no siempre es sencillo.

El algoritmo de Instagram 

En este juego quizás uno de los referentes más claros ha sido Instagram, plataforma que en diversas ocasiones ha presentado problemas relacionados con su algoritmo.

Aunque Instagram se ha caracterizado por vetar y limitar el alcance de los contenidos considerados como sugestivos, a mediados del año pasado una investigación firmada por investigadores de AlgorithmWatch y de la European Data Journalism Network descubrió que el algoritmo de Instagram, aparentemente, privilegia a aquellas imágenes en las que las personas aparecen con “poco ropa”.

El equipo pidió a 26 voluntarios que instalaran un complemento de navegador que abre automáticamente su página de inicio de Instagram a intervalos regulares y registra qué publicaciones aparecen en la parte superior de sus canales de noticias. Luego, los voluntarios siguieron una selección de creadores de contenido profesionales que usan Instagram para publicitar sus marcas o atraer nuevos clientes.

De las 2 mil 400 fotos que publicaron los creadores de contenido, el 21 por ciento mostraban hombres con el torso desnudo o mujeres en bikini o ropa interior.

Los investigadores esperaban que si el algoritmo de Instagram no priorizara estas imágenes, los voluntarios verían una diversidad similar de publicaciones. Pero eso no sucedió. En las noticias de los voluntarios, las publicaciones con imágenes semidesnudas constituían el 30 por ciento de las publicaciones mostradas en las cuentas.

Una nueva polémica 

Ahora, el algoritmo de Instagram se ha visto envuelto en una nueva polémica, luego de que se diera a conocer que su algoritmo recomendaba contenido dietético dañino a personas con algún tipo de trastorno alimentario.

Como lo indican desde The Next Web, la red social había estado recomendando automáticamente términos que incluían “supresor del apetito”, que los activistas temían que pudiera llevar a las personas vulnerables a una recaída.

Este asunto fue confirmado por Instagram, plataforma que se disculpó por lo que consideró como “un error” en el funcionamiento de su sistema.

El asunto fue abordado por un vocero de Facebook, propietario de Instagram, en un encuentro con BBC, en donde se claró que estas sugerencias fueron provocadas por la implementación de una nueva función de besuqueada.

“Como parte de esta nueva función, cuando toque en la barra de búsqueda, le sugeriremos temas que quizás desee buscar. Esas sugerencias, así como los resultados de la búsqueda en sí, se limitan a los intereses generales y la pérdida de peso no debería haber sido una de ellas” aseguró el vocero de Facebook.

Luego de las alertas, desde eInstagram aseguraron que estos términos dañinos se han eliminado y el problema con la función de búsqueda se ha resuelto.

Es importante mencionar que este nuevo episodio de “fallas en el algoritmo” sucedió aún y cuando  el contenido que promueve trastornos está prohibido en Instagram, al tiempo que las publicaciones que anuncian productos para bajar de peso deben estar ocultas a los usuarios menores de 18 años.

Aunque este tipo de políticas han sido promovidas de manera especial por Instagram, lo cierto es que el nuevo problema deja en claro que estas restricciones no pueden controlar por si solas los algoritmos que hacen funcionar al servicio.