Salta il testo dell’articolo
En un seminario sobre justicia algorítmica , Daniel abre un informe publicado por NIST el 19 de diciembre de 2019 . Se titula Face Recognition Vendor Test Part 3 : Demographic Effects . Antes de debatir sobre " sesgo " , pide a la clase que distinga entre un resultado medido y una explicación posible . NIST evaluó 189 algoritmos de reconocimiento facial enviados por 99 desarrolladores . El estudio procesó 18 , 27 millones de imágenes de 8 , 49 millones de personas procedentes de cuatro colecciones fotográficas . El informe ofrece resultados para tareas y grupos definidos . El informe separa la verificación uno a uno de la búsqueda uno a muchos . En la verificación , el sistema decide si dos fotografías muestran a la misma persona . En la búsqueda , decide si una fotografía coincide con alguna imagen de una base de datos . También distingue dos errores . Un falso positivo asocia incorrectamente fotografías de dos personas diferentes . Un falso negativo no asocia dos fotografías que sí corresponden a la misma persona . La diferencia importa porque las consecuencias dependen del uso concreto . En las imágenes de fichas policiales , NIST observó tasas de falsos positivos elevadas en las poblaciones afroamericanas y asiáticas ; el orden relativo variaba según el sexo y el algoritmo . El informe encontró diferenciales demográficos en la mayoría de los algoritmos que evaluó . Su formulación es importante : mayoría no significa todos . De hecho , NIST registró una amplia variación entre algoritmos . Algunos algoritmos desarrollados en China mostraron tasas de falsos positivos reducidas para rostros de Asia Oriental ; en algunos casos , fueron inferiores a las de rostros caucásicos . El informe también señala que los algoritmos más precisos suelen producir menos errores . NIST no intentó explicar las razones técnicas de los resultados ni construir un modelo inferencial . El informe plantea los datos de entrenamiento como una posible línea de investigación , no como una relación de causa y efecto demostrada . Daniel subraya esa frontera : una explicación plausible no sustituye a la evidencia . Por último , el programa FRVT evalúa algoritmos enviados a NIST , que como prototipos no necesariamente estaban disponibles como productos integrables maduros . Por eso , leer el informe con cuidado exige preguntar qué tarea se evaluó , qué error se midió y a qué algoritmos se refiere cada resultado . ¿ Para qué uso te preocuparía más un falso positivo ? ¿ Qué diferencia ves entre un resultado medido y una causa demostrada ? ¿ Qué pregunta añadirías antes de confiar en un sistema de reconocimiento facial ?
Continua a leggere con le traduzioni Crea un account gratuito: 7 giorni di Pro, poi 20 traduzioni di parole al giorno oppure un piano a pagamento.
