Passer le texte de l’article
En 2019 , Ziad Obermeyer , Brian Powers , Christine Vogeli y Sendhil Mullainathan publicaron en Science un estudio sobre un algoritmo comercial utilizado por sistemas sanitarios . Su función era identificar a pacientes con necesidades complejas que podían recibir ayuda adicional . El trabajo examinó un sistema de uso extendido que afectaba a millones de personas . El algoritmo asignaba una puntuación de riesgo a partir del gasto sanitario previsto . A primera vista , el criterio parecía razonable : quien necesita más atención suele generar más costes . Sin embargo , el gasto era un indicador indirecto de la enfermedad , no una medida directa de la necesidad médica . Al comparar los resultados , el equipo encontró una diferencia importante . A igualdad de puntuación , los pacientes negros estaban considerablemente más enfermos que los pacientes blancos . El estudio lo comprobó mediante signos de enfermedades no controladas . El problema estaba en el objetivo elegido . El sistema predecía el coste en lugar de estimar directamente la enfermedad . Según los autores , el acceso desigual a la atención hacía que se gastara menos dinero en pacientes negros que en pacientes blancos con un nivel de necesidad semejante . Al utilizar el coste como indicador indirecto , el sistema incorporó esa desigualdad a la clasificación . La diferencia no era pequeña . Según el cálculo del estudio , corregir la disparidad habría elevado del 17 , 7 % al 46 , 5 % la proporción de pacientes negros que recibían ayuda adicional . El resultado permite poner a prueba la justicia del resultado , no solo su precisión estadística . No bastaba con comprobar que el algoritmo predecía bien el gasto . Había que preguntar qué representaba esa variable y qué personas podían quedar fuera del programa . Cuanto más dependía la decisión de un indicador indirecto , más importante era comparar el resultado entre grupos . Si el algoritmo hubiera predicho la enfermedad en lugar del gasto , habría respondido a otro objetivo . Este caso también ayuda a entender la transparencia . La FDA , Health Canada y la agencia británica MHRA han formulado principios conjuntos para los dispositivos médicos basados en aprendizaje automático . Recomiendan comunicar el uso previsto , la población destinataria , el rendimiento , las limitaciones , los sesgos conocidos y las carencias de los datos . También consideran útil explicar la lógica del resultado cuando esa información está disponible y puede comprenderse . En esos principios , la transparencia es la comunicación clara de información apropiada sobre el uso previsto , el desarrollo , el rendimiento y , cuando está disponible , la lógica del dispositivo . Conviene que quienes desarrollan o adoptan un sistema comuniquen cómo se integra en el trabajo clínico y cómo se vigila su rendimiento con el tiempo . La rendición de cuentas empieza por saber qué mide el modelo y para qué se usa . ¿ Qué variable habrías elegido para representar la necesidad médica ? ¿ Qué comparación entre grupos te parecería imprescindible antes de usar el sistema ? ¿ Cómo explicarías sus límites a un paciente ?
Continuez à lire avec les traductions Créez un compte gratuit : 7 jours de Pro, puis 20 traductions de mots par jour ou une formule payante.
