La incorporación de la Inteligencia Artificial (IA) en el mundo de los negocios toma cada vez mayor relevancia, su implementación en procesos, productos o servicios se vuelve muy común, mucho tiene que ver los beneficios y ventajas que ofrece este tipo de tecnología.
Hablamos de un mercado con un potencial enorme, sólo para el cierre de este año se estima que representará ingresos por alrededor de 7 mil 345 millones de dólares, pero crecerá hasta superar los 25 mil 995 millones para 2021, de acuerdo con datos proyectados en Statista.
Su presencia, implementación y crecimiento en inversión es muy notorio y en campos muy diversos. Uno de ellos apunta hacia los procesos de reclutamiento, al menos así lo estaba implementando Amazon, sin embargo, tuvo que ‘borrar’ esta posibilidad.
De acuerdo con un reporte de Reuters, la compañía de Seattle contaba con un equipo de ingeniería en 2014 cuya función sería desarrollar un programa de machine-learning para revisar currículums de solicitantes de empleo.
Al parecer lograron programar una herramienta capaz procesar un una gran cantidad de CV, analizarlos, para después arrojar una propuesta de cinco candidatos -considerados- perfectos para su contratación.
Sin embargo, los especialistas encontraron una falla en el programa de IA ya que encontraron que había desarrollado parámetros de descarte o devaluación basados en criterios sexistas, de acuerdo con el reporte que cita varios testimonios de personas cercanas al caso.
¿Cual fue el problema? Sucede que la herramienta fue programada con base patrones y características en currículums que se habían recibido a lo largo de una década, cuando ciertamente la mayoría eran candidatos masculinos. Entonces, el software desarrolló criterios para arrojar resultados que favorecían sólo a un género y no era imparcial.
De acuerdo con la información divulgada, los ingenieros corrigieron el problema, sin embargo, esto no garantizaba que el mismo sistema no desarrollara nuevos criterios de discriminación basados en género, de ahí que se haya sellado a la conclusión de que “despedir” al programa era la mejor decisión.