Sistemas de reconocimiento de voz como Alexa de Amazon, Siri de Apple o el Home de Google, tienen tasas de error más altas cuando transcriben discursos de personas negras que cuando lo hacen para personas blancas.
El estudio publicado ayer en PNAS (Actas de la Academia Nacional de Ciencias de Estados Unidos), señala que la mayor prevalencia de estos sistemas en la vida moderna corre el riesgo de consagrar una nueva forma de discriminación digital.
«Los resultados apuntan a «obstáculos» que enfrentan los afroamericanos al usar herramientas cada vez más extendidas impulsadas por la tecnología de reconocimiento de voz».
Los investigadores realizaron 115 entrevistas transcritas en humanos, incluidas conversaciones con 73 hablantes negros y 42 hablantes blancos, y las compararon con las versiones producidas por las herramientas de reconocimiento de voz.
Descubrieron una «tasa promedio de error de palabras» de casi el doble (0,35) cuando el sistema transcribió parlantes negros en comparación a cuando transcribió parlantes blancos (0,19).
En otras palabras, los sistemas funcionaron notablemente peor para las personas de color.
Por poner otro ejemplo, en diciembre del año pasado, un estudio federal confirmó que la tecnología de reconocimiento facial es un desastre «parcial».
En octubre de 2017, otro estudio respecto a la herramienta de análisis de texto/sentimiento de Google exhibía signos de homofobia, racismo y antisemitismo.
Sin embargo, vale la pena señalar que con una cuarta parte de los adultos estadounidenses afirmando tener al menos un altavoz inteligente en sus hogares, el sesgo descubierto por el estudio de hoy probablemente esté afectando a decenas de millones (si no más) de personas en este momento.
Esperamos que las empresas de tecnología y otros participantes en este campo destaquen el desarrollo equitativo de estas importantes herramientas.
Loading…