Skip the article text
Imagina que solicitas un préstamo y recibes una respuesta de una sola línea : « Solicitud denegada » . El mensaje no explica qué dato pesó más ni cómo pedir una revisión . ¿ Falló el algoritmo ? ¿ Puede entender tu situación ? Antes de debatir si una máquina piensa , conviene preguntar quién toma la decisión y quién responde por sus efectos . Un sistema que calcula la solvencia puede comparar muchas solicitudes rápidamente , pero una puntuación no es un juicio neutral . Si los datos históricos reflejaran desigualdades o errores , un modelo podría aprender esos patrones ; además , variables que parecen inocentes pueden actuar como sustitutos de factores sensibles . Eso no significa que todo sistema discrimine del mismo modo : su efecto depende de los datos , los objetivos , los umbrales y el contexto . Por eso , el rendimiento medio no basta . También hay que medir los errores entre grupos y comprobar el sistema en situaciones parecidas a las de uso . La pregunta sobre el pensamiento tiene una historia más larga . En 1950 , Alan Turing propuso cambiar « ¿ pueden pensar las máquinas ? » por un juego de imitación basado en una conversación . Ese criterio evalúa el comportamiento observable ; no demuestra por sí solo que exista experiencia consciente . John Searle planteó otra perspectiva con la habitación china : alguien podría seguir instrucciones y producir respuestas correctas en un idioma sin entenderlo . Es un argumento filosófico , no una prueba experimental que haya cerrado el debate . Por tanto , una conversación convincente no resuelve por sí sola qué entiende un sistema . En la Unión Europea , el Reglamento de Inteligencia Artificial incluye los sistemas que evalúan la solvencia de personas entre los usos de alto riesgo , salvo los destinados a detectar fraude financiero . Según el calendario actualizado en julio de 2026 , las obligaciones específicas para estos sistemas se aplicarán desde el 2 de diciembre de 2027 . La etiqueta « alto riesgo » no significa que el sistema sea ilegal : indica que su uso está sujeto a requisitos especiales . A mi juicio , una revisión humana solo sirve si quien la realiza puede entender los límites del modelo , corregir un dato y cambiar la decisión . Para que el control sea real , la persona afectada también necesita una explicación útil y una vía para apelar . Si el sistema acertara en la mayoría de los casos , pero rechazara injustamente a un grupo con más frecuencia , ¿ bastaría con decir que su puntuación es objetiva ? No hace falta resolver hoy si las máquinas piensan para decidir qué tareas deben hacer . Cuando una organización usa una puntuación automática para limitar las opciones de alguien , sigue siendo responsable de cómo la emplea . La pregunta ética más práctica es otra : ¿ qué pruebas , explicaciones y recursos debería recibir la persona antes de aceptar esa decisión ?
Keep reading with translations Create a free account: 7 days of Pro, then 20 word translations a day or a paid plan.
