Skip the article text
Un sistema de clasificación puede anunciar una precisión alta y fallar de forma desigual . Esa fue la pregunta central de Gender Shades , un proyecto que examinó productos comerciales de análisis facial . En vez de mirar solo una cifra general , comparó resultados entre grupos definidos por género y tono de piel . La investigadora Joy Buolamwini reunió con Timnit Gebru un conjunto de 1 . 270 rostros de parlamentarios de países africanos y europeos . La elección buscaba imágenes con identidades públicas y una representación más equilibrada de tonos de piel que muchos conjuntos anteriores . Después probaron tres sistemas comerciales que clasificaban el género presentado en la imagen . Es preocupante que los resultados hayan mostrado diferencias sistemáticas , no un pequeño ruido distribuido al azar . Los sistemas funcionaron mejor con hombres de piel clara y peor con mujeres de piel oscura . En el peor caso , el error para mujeres de piel oscura llegó al 34 , 7 por ciento , mientras que el máximo error para hombres de piel clara fue del 0 , 8 por ciento . Es posible que una empresa haya comunicado una precisión media correcta y que esa cifra haya ocultado diferencias importantes . Si un grupo es más numeroso en los datos de prueba , su buen resultado puede dominar el promedio . La media responde a cuántos aciertos hubo en total ; no responde a quiénes afectaron los fallos . El estudio tampoco demostraba que cada error procediera de una sola causa . Podían influir los datos de entrenamiento , la iluminación , las categorías usadas y el diseño del producto . La comparación revelaba un patrón de rendimiento . Para explicar su origen , hacía falta investigar el proceso completo . Después de la primera publicación , las empresas evaluadas actualizaron sus sistemas . Un estudio posterior repitió las pruebas y encontró mejoras , aunque las diferencias no desaparecieron de la misma manera en todos los productos . Que los cambios hayan seguido a la evaluación pública no demuestra que una sola crítica haya causado cada modificación ; sí permite comparar resultados antes y después . ¿ Qué diferencia te sorprende que una media haya ocultado ? ¿ Qué grupos habrías exigido que el equipo hubiera comparado por separado ?
Keep reading with translations Create a free account: 7 days of Pro, then 20 word translations a day or a paid plan.
