Read this article out loud
Start the microphone and read at your own pace. Words light up as you go, and nothing stops you when one comes out wrong.
Your audio never reaches MovaReader: your browser is what recognises it. Privacy Policy
Sign in to keep this session in your reading history.
Imagina que solicitas un préstamo y recibes una respuesta de una sola línea: «Solicitud denegada». El mensaje no explica qué dato pesó más ni cómo pedir una revisión. ¿Falló el algoritmo? ¿Puede entender tu situación? Antes de debatir si una máquina piensa, conviene preguntar quién toma la decisión y quién responde por sus efectos.
Un sistema que calcula la solvencia puede comparar muchas solicitudes rápidamente, pero una puntuación no es un juicio neutral. Si los datos históricos reflejaran desigualdades o errores, un modelo podría aprender esos patrones; además, variables que parecen inocentes pueden actuar como sustitutos de factores sensibles. Eso no significa que todo sistema discrimine del mismo modo: su efecto depende de los datos, los objetivos, los umbrales y el contexto. Por eso, el rendimiento medio no basta. También hay que medir los errores entre grupos y comprobar el sistema en situaciones parecidas a las de uso.