Tecnología
Diagnóstico: algoritmo
Un hospital de Estados Unidos implementó un sistema de inteligencia artificial para priorizar pacientes en la sala de emergencias.
Rolando Fryderup Krause
Escritor · Pucón, Chile
# Diagnóstico: algoritmo
Un hospital de Estados Unidos implementó un sistema de inteligencia artificial para priorizar pacientes en la sala de emergencias. El algoritmo, diseñado para optimizar recursos, resultó discriminando sistemáticamente a pacientes negros, asignándoles un nivel de riesgo menor que a pacientes blancos con las mismas condiciones clínicas. El caso, documentado por la investigadora Ziad Obermeyer en Science en 2019, no fue una anomalía: fue el resultado predecible de entrenar una máquina con datos que ya contenían los sesgos de la medicina estadounidense. Si la IA aprende de un mundo injusto, su diagnóstico será injusto.
La inteligencia artificial se está integrando a la medicina a una velocidad que la regulación no alcanza a seguir. Algoritmos que detectan cáncer de mama con mayor precisión que los radiólogos, sistemas que predicen reingresos hospitalarios, herramientas que recomiendan tratamientos personalizados: la promesa es enorme y, en muchos casos, real. Pero cuando la IA se equivoca, la pregunta es ineludible: ¿a quién demandas? ¿Al hospital que compró el sistema? ¿A la empresa que lo programó? ¿Al algoritmo mismo, que no es persona y no puede ser llevado a juicio?
En 2023, un sistema de IA del sistema de salud del Reino Unido clasificó erróneamente a miles de pacientes como de bajo riesgo, retrasando citas y tratamientos que habrían sido urgentes. En India, un chatbot de salud proporcionó diagnósticos incorrectos a usuarios que no tenían acceso a médicos humanos. Cada error tiene consecuencias concretas: un cáncer no detectado a tiempo, un tratamiento equivocado, una vida acortada. Y sin embargo, la responsabilidad se diluye entre el hospital, el proveedor tecnológico y el vacío legal.
La medicina siempre ha sido una práctica humana, imprecisa, basada en juicio y experiencia. Los médicos se equivocan, y cuando lo hacen, hay mecanismos de responsabilidad: quejas, demandas, comités de ética. Pero cuando la decisión la toma un algoritmo, esos mecanismos se quiebran. No puedes interrogar a una red neuronal sobre por qué decidió que tu tumor era benigno. No puedes pedirle que explique su razonamiento en un tribunal. La caja negra algorítmica es incompatible con la transparencia que la medicina exige.
Como escritor de distopías, pienso en la novela de Robin Cook, Coma, donde un sistema hospitalario deshumanizado convierte a los pacientes en piezas de una maquinaria. La IA médica no es la novelización de Cook: es su evolución. Cuando el diagnóstico lo hace una máquina y la responsabilidad se diluye en un contrato de licencia, el paciente queda desamparado. La tecnología puede y debe mejorar la medicina, pero no al precio de eliminar la responsabilidad humana del proceso.
La solución no es rechazar la IA en salud, sino exigir que nunca opere sin supervisión humana y sin marcos claros de responsabilidad. Todo diagnóstico algorítmico debiera ser validado por un médico. Todo error debiera tener un responsable identificable. Y todo paciente debiera tener derecho a saber y a rechazar que su salud sea decidida por una máquina. Desde Pucón, donde la salud pública todavía depende más de la voluntad humana que de los algoritmos, escribo para recordar que la medicina sin compasión no es medicina: es ingeniería.
Rolando Fryderup Krause · Escritor · Pucón, Chile