Según un reporte de la BBC, los algoritmos han adquirido un rol cada vez más central, haciendo que algunos los definan como una suerte de mano invisible que toma decisiones por nosotros. “Todo lo que la gente hace y ve en la web es productos con algoritmos”, explican en un informe expertos del centro de investigación Pew Research Center.

Es decir, son el mecanismo oculto responsable de lo que se vé en redes sociales así como en plataformas de streaming, tanto en audio como en video. De acuerdo con el medio, a veces pueden ser los culpables de que las personas sean seleccionados o rechazados para un trabajo, se reciba un préstamos o incluso de que caigan las bolsas de valores.

De tal modo que es cada vez más preocupante que los algoritmos usados por los gigantes tecnológicos no sean siempre justos en las decisiones que toman. Asimismo, los errores en los sistemas de reconocimiento facial son un ejemplo de ello. Pero, además, a menudo los algoritmos operan dentro de lo que se conoce como “cajas negras”, lo que significa que ni siquiera sus dueños pueden ver cómo están tomando esas decisiones.

Por lo que algunas compañías de tecnología, como IBM, se encuentran en búsqueda de soluciones a ese problema. El gigante estadounidense presentó un nuevo servicio de software que “detecta automáticamente los sesgos (de los algoritmos) además de que proporciona una explicación sobre las decisiones que toma la inteligencia artificial”, indica un comunicado de la firma.

Otra empresa que está destinando esfuerzos a este tema es Microsoft, quien dio a conocer en mayo pasado que trabajaba en una herramienta para detectar sesgos en sus algoritmos.

“Por supuesto, no podemos esperar la perfección, siempre habrá algún sesgo no detectado o que no pueda eliminar, el objetivo es hacer todo lo que podamos”, declaró Rich Caruna, investigador senior de la compañía. La BBC señaló que Facebook, perjudicada tras el escándalo de Cambridge Analytica, también refirió que está probando una herramienta para detectar si su algoritmo genera errores.

El medio sostiene que la dependencia en aprendizaje automático así como algoritmos ha hecho que el problema de los sesgos sea cada vez más importante para la comunidad vinculada a iniciativas de Inteligencia Artificial.

Joy Buolamwini fundó la Liga de la Justicia Algorítmica mientras cursaba estudios de postgrado en el MIT durante 2016, luego de descubrir que un sistema de reconocimiento facial solo notaba su rostro si lo cubría con una máscara blanca.

Un año atrás, Google se había disculpado cuando su algoritmo de clasificación de fotos confundió imágenes de personas afroamericanas con gorilas. De tal modo que existe un debate sobre la ética de la inteligencia artificial, señaló Kay Firth-Butterfield, quien encabeza el programa de inteligencia artificial y aprendizaje en el Foro Económico Mundial.

“Cuando hablamos sobre sesgos, nos preocupa sobre todo la visión de quienes crearon los algoritmos, y son sobre todo hombres jóvenes y blancos, por eso necesitamos hacer que la industria sea mucho más diversa en Occidente”, señaló en una entrevista otorgada a CNBC.

Los sesgos también pueden afectar decisiones como el seguro médico, la escolaridad o el registro criminal, a medida que las decisiones gubernamentales se vuelven más automatizadas. Es por ello que se necesita contar con procesos de protección equivalentes para decisiones algorítimicas que para decisiones humanas.