- Se trató de un algoritmo que privilegiaba las fotos de hombres blancos sobre afrodescendientes.
- La aplicación perdió varios puntos de credibilidad y reputación cuando el asunto fue expuesto por un periodista
- La app ha reconocido sus deficiencias pero promovió la idea de que remediará la situación
Hace algunos meses, Twitter estuvo en el ojo del huracán debido al descubrimiento de un periodista. El investigador puso a prueba un algoritmo de Twitter en el que supuestamente se privilegiaban las imágenes de hombres blancos sobre los afrodescendientes. Aunque en ese momento la noticia no generó grandes cambios para la red social, ahora parece que sí le dará remedio, pues ha informado que prepara la revisión de varios de sus algoritmos.
Para Twitter, este debería ser un problema por resolver de primera necesidad, sobre todo en tiempos en los que está en una franca competencia con otras redes sociales más visuales que an dejado al microblogging relegado a marcar tendencia, pero no tener la repercusión que desea en las campañas publicitarias por ejemplo.
Twitter lo enmienda
Twitter analizará los potenciales “daños no intencionales” que produzcan sus algoritmos al no aplicarse de modo equitativo. El plan fue presentado bajo el nombre de Iniciativa de Aprendizaje Automático Responsable (Responsible Machine Learning Initiative), y los resultados estarán disponibles públicamente.
El uso responsable de la tecnología incluye estudiar los efectos que puede tener a lo largo del tiempo. Cuando Twitter usa aprendizaje automático puede afectar a cientos de millones de tweets por día y, a veces, la forma en que se diseñó un sistema para ayudar puede comportarse de un modo diferente al previsto, indicaron.
Los potenciales daños provocados por los algoritmos de Twitter serán estudiados en conjunto por ingenieros y científicos de datos. En primera instancia se analizarán tres problemáticas, que en los últimos meses generaron varias críticas a la plataforma.
Uno de los inconvenientes más notorios lo provocó el algoritmo de recorte de imágenes. Usuarios denunciaron que dicha herramienta mostraba una tendencia a funcionar mejor en fotografías de personas con tonos de piel más claros.
Además, Twitter evaluará las recomendaciones que hace a través del timeline en todos los subgrupos raciales. Y, por último, analizará las recomendaciones de contenido para diferentes ideologías políticas en siete países, aunque no especificó cuáles.
“Es posible que los resultados de este trabajo no siempre se traduzcan en cambios visibles en el producto”, explicaron desde Twitter. Sin embargo, remarcaron que generarán “mayor conciencia y debates importantes” sobre cómo la empresa desarrolla e implementa el aprendizaje automático. Los resultados de las investigaciones estarán disponibles en los próximos meses.
El siguiente paso para la red social de microblogging deberá ser centrar sus esfuerzos en verificar la efectividad de sus revisiones, los usuarios de Twitter tienen un perfil crítico y no perdonarán tales acciones en un tiempo en el que las discusiones son acaloradas en Estados Unidos por lo temas de racismo.
En los últimos meses diversas marcas han mostrado su solidaridad con el movimiento Black Lives Matter a través de su publicidad. Nike ha jugado con su memorable eslogan Just Do It, diciendo a los consumidores “Por una vez, no lo hagas” (For once, Don´t Do It).
En Reino Unido, varias marcas de te se han manifestado en las redes sociales usando la etiqueta #Solidaritea.
Estos mensajes han estado acompañados de promesas de analizar detenidamente la historia y las prácticas de trabajo de las empresas participantes, para ver qué cambios se pueden hacer para abordar el racismo estructural.
Ahora lee:
