La Inteligencia Artificial (IA) ha tenido un avance significativo en años recientes. Esta tecnología se ha desarrollado de tal manera que en la actualidad podemos ver automóviles autónomos que pueden imitar los patrones de conducción de una persona o asistentes que prenden y apagan las luces del hogar al solicitarlos con un comando de voz. Sin embargo, a pesar del progreso, todavía quedan muchos desafíos por delante.

Uno de los principales retos para las herramientas de Inteligencia Artificial son los sesgos, esto significa que la tecnología toma decisiones con base en datos no representativos e incluyentes para todos los sectores de la población. La IA sesgada puede limitar los verdaderos beneficios de estas herramientas y colocar barreras entre los proveedores y las empresas que usan esta tecnología.

Un ejemplo de esto ocurrió hace algunos años con el ‘bot’ Tay de Microsoft, el cual realizó comentarios ofensivos debido a que tenía integrada una herramienta de aprendizaje autónomo que se nutrió con base en interacciones con otros usuarios. La experiencia de este caso permitió que otros desarrolladores pusieran más atención en estos detalles para que no se repita una situación similar.

La IA conversacional es propensa a este tipo de sesgos debido a que el lenguaje está en constante cambio. Cabe destacar que esta tecnología es cada vez más importante para diferentes industrias y que la detección de estos sesgos implícitos como las preferencias del idioma regional pueden traer grandes beneficios. Por ejemplo, en México se hablan más de 350 lenguas prehispánicas y existen diferentes formas coloquiales de nombrar situaciones u objetos, según la región del país.

El impacto de los sesgos de Inteligencia Artificial

Los sistemas de reconocimiento facial, también han sido señalados por sus sesgos. Uno de los casos más conocidos es el de Kinect,  el cual se diseñó pensando en hombres de 18 a 35 años y no podía reconocer con claridad el movimiento de mujeres y niños. También tenía dificultades para identificar a jugadores con piel más oscura en ambientes con poca luz.

En términos generales, los algoritmos de reconocimiento facial tienen una alta precisión, no obstante, tienen tasas de error más elevadas en ciertos grupos demográficos. Cifras de Gender Shades señalan que la precisión más baja de estos sistemas se ha encontrado en mujeres afroamericanas de entre 18 y 30 años.

El reconocimiento automatizado de voz es otro de los sistemas que ha presentado sesgos con respecto a los acentos, género y origen racial de las personas, ya sea que se utilice un servicio de transcripción de voz a texto, subtítulos o un asistente virtual como Siri o Alexa. Un artículo publicado por la National Academy of Sciences (NAS) reveló que existe una gran disparidad racial en el desempeño de cinco de los principales sistemas de reconocimiento de voz en Estados Unidos.

Que el sesgo de Inteligencia Artificial no afecte a tu negocio

En este sentido, los sesgos pueden derivar de una buena estrategia pobremente ejecutada y tener un impacto negativo en el ámbito social, pero también en lo comercial. Contar con algoritmos que produzcan resultados sesgados puede tener consecuencias de suma  importancia para un negocio.

Las empresas deben ocuparse en reducir los sesgos en sus soluciones de Inteligencia Artificial y el primer paso es limpiar y mejorar el entrenamiento de los datos con los que la Inteligencia Artificial trabaja. Entender estos datos es el punto de partida para minimizar los sesgos.

El entrenamiento de la IA es medular para el óptimo funcionamiento de las herramientas, esto debe hacerlo un equipo especializado capaz de obtener datos  representativos del negocio y que además vayan de la mano de la diversidad de sus usuarios, así como de sus preferencias de compra.

Los beneficios de usar Inteligencia Artificial para el desarrollo de las empresas son altamente considerables, y aquellas que se ocupen de reducir los márgenes de riesgo tendrán beneficios aún mayores. Esta tecnología llegó para automatizar los procesos, mejorar la toma de decisiones y ejecutar estrategias más precisas. Cambia tu forma de hacer negocios y lleva a tu empresa al siguiente nivel con ayuda de la Inteligencia Artificial.