Ética y profesionalidad en el uso de la IA: qué dicen la FDI y la OMS
No hay que improvisar un marco ético: las instituciones ya escribieron el suyo. Esto es lo que dicen, en concreto.
Cuando aparece una tecnología nueva se instala la sensación de que hay que inventar una ética nueva para acompañarla. En este caso no hace falta, y conviene saberlo: tanto la FDI World Dental Federation como la Organización Mundial de la Salud ya publicaron marcos concretos para el uso de inteligencia artificial en salud. Son públicos, son cortos y se pueden leer en una tarde.
Este artículo resume qué dicen. No qué opino yo: qué dicen ellos, con el enlace para que lo verifiques.
Lo que la FDI le pide al profesional
La declaración de política de la FDI, aprobada en su Asamblea General de 2024, formula tres recomendaciones dirigidas específicamente a los profesionales dentales.
- Adquirir conocimientos básicos sobre inteligencia artificial. La decisión de usar o no usar una aplicación debería tomarse de manera informada, según los principios de la odontología basada en pruebas.
- Evaluar de forma crítica la evidencia que respalda esa aplicación, incluida su utilidad real en el entorno concreto donde se va a usar, y los costes que genera para el paciente y para quien los paga.
- Usar estas aplicaciones como sistemas de asistencia y protegerse del sesgo de automatización.
La tercera merece detenerse. El sesgo de automatización no es un defecto del algoritmo: es un fenómeno humano, la tendencia a confiar de más en un sistema que casi siempre acierta, y a dejar de mirar con la atención de antes. Está estudiado desde hace décadas en aviación. La FDI lo nombra explícitamente como un riesgo del que el profesional tiene que cuidarse.
La responsabilidad de cualquier diagnóstico o tratamiento deducido a partir de cualquier asistencia de IA sigue recayendo en los usuarios humanos.
Es una frase corta con consecuencias grandes. Delegar una tarea en un sistema no delega la responsabilidad por el resultado. Y eso vale tanto si le hacés caso al sistema como si no.
Los seis principios de la OMS
La Organización Mundial de la Salud publicó seis principios de consenso para el uso de inteligencia artificial en salud, que el White Paper de la FDI recoge y adopta.
- Proteger la autonomía humana: el uso de estos sistemas no debe reducirla, y las personas deben mantener el control de las decisiones médicas.
- No hacer daño: hacen falta requisitos regulatorios que garanticen seguridad, exactitud y eficacia.
- Transparencia, explicabilidad e inteligibilidad: los sistemas deben ser comprensibles para desarrolladores, profesionales, pacientes y reguladores.
- Responsabilidad y rendición de cuentas: especificaciones claras de qué puede hacer un sistema y bajo qué condiciones, con supervisión humana antes y responsabilidad humana después.
- Inclusión y equidad: acceso apropiado y equitativo con independencia de la edad, el sexo, el género, los ingresos, la raza, la etnia o la capacidad.
- IA sensible y sostenible: monitoreo continuo durante el uso real, y evaluación del impacto ambiental de estas tecnologías.
El sexto suele sorprender, y es el que menos se discute. Entrenar y operar estos modelos consume energía, y la OMS pide que ese impacto se evalúe y se comunique de manera transparente a las partes involucradas.
La equidad no es un adorno
Hay un punto que la FDI insiste en marcar y que en nuestra región pesa más que en otras: garantizar que la inteligencia artificial no aumente la desigualdad, sino que la reduzca.
El mecanismo por el que puede aumentarla es concreto. Un sistema aprende de los datos con los que fue entrenado. Si esos datos provienen mayoritariamente de ciertas poblaciones, va a funcionar mejor con pacientes parecidos a esos y peor con los demás. Las poblaciones subrepresentadas en los datos suelen ser las mismas que ya están peor atendidas, así que la tecnología puede terminar reproduciendo, y hasta amplificando, una desigualdad que ya existía. La FDI lo dice sin eufemismos.
El White Paper agrega un dato que ilustra el tamaño del problema: en Estados Unidos, el 71% de las aplicaciones de IA para salud se entrenaron con datos de apenas tres estados. Vale la pena preguntarse qué tan bien funciona algo así en un consultorio de Latinoamérica.
Qué hacer con esto mañana
Los marcos éticos no dan respuestas automáticas; dan la capacidad de hacer las preguntas correctas cuando hay que decidir. Frente a cualquier herramienta que te ofrezcan, estas cuatro salen directo de los documentos citados: quién queda al mando de la decisión, si podés entender por qué el sistema sugiere lo que sugiere, en qué población se validó, y qué pasa si se equivoca.
Si el proveedor responde las cuatro con gusto, es buena señal. Si se incomoda porque las preguntes, también te dijo algo.