Reflexión sobre el uso de herramientas de inteligencia artificial en sanidad: riesgos reales, malas prácticas habituales, responsabilidades compartidas entre empresas y usuarios, derechos de imagen y un marco legal europeo que empieza a tomar forma.
La inteligencia artificial ha entrado en el ámbito sanitario de forma rápida y, en muchos casos, sin una reflexión profunda previa. Herramientas capaces de generar texto, imágenes o análisis complejos están ya al alcance de cualquier profesional con conexión a internet.
El problema no es la tecnología en sí, sino el contexto en el que se utiliza: un entorno sensible, con datos especialmente protegidos, decisiones clínicas y una responsabilidad profesional que no desaparece por usar una herramienta automatizada.
Este post no pretende establecer verdades absolutas. Es una reflexión informada sobre riesgos, malas prácticas y el estado actual de la regulación, que todavía está en proceso de consolidación.
Europa ya cuenta con una Ley de Inteligencia Artificial que establece un marco jurídico común. Es el primer intento serio de regular la IA de forma global, pero su aplicación es progresiva y escalonada en el tiempo.
Esto genera una situación particular:
Estamos, por tanto, en una fase de transición, donde conviven normas nuevas con marcos legales previos (protección de datos, responsabilidad profesional, derechos fundamentales).
Uno de los puntos clave del nuevo marco europeo es que no toda la IA se trata igual.
La regulación distingue distintos niveles de riesgo:
En sanidad, muchos usos potenciales de la IA pueden encajar en categorías de riesgo elevado, especialmente cuando afectan a la salud, la seguridad o los derechos fundamentales de las personas.
Esto no implica que estén prohibidos, pero sí que requieren cautela, supervisión y responsabilidad.
Las empresas que desarrollan y comercializan sistemas de IA tienen, cada vez más, obligaciones claras:
Sin embargo, no toda la responsabilidad recae en ellas, especialmente cuando hablamos de herramientas de propósito general que pueden usarse en múltiples contextos, incluidos usos no previstos inicialmente.
Aquí el mensaje debe ser claro, aunque prudente:
El uso de una herramienta de IA no traslada automáticamente la responsabilidad al desarrollador.
El profesional sanitario sigue siendo responsable de:
La IA no asume responsabilidad clínica, legal ni ética.
En sanidad, los datos de salud son especialmente sensibles.
Introducir información en herramientas externas plantea preguntas importantes:
Aunque la herramienta prometa privacidad, la responsabilidad sobre los datos introducidos sigue siendo del usuario o de la institución.
La IA generativa ha puesto sobre la mesa problemas que antes no existían a esta escala:
Casos recientes, como la polémica en torno a Grok y la generación de imágenes de personas desnudas, muestran limitaciones técnicas y de control evidentes.
No es tanto un problema de mala intención, sino de:
Algunos errores frecuentes en el uso de IA en sanidad:
La mayoría de estos problemas no son tecnológicos, sino de criterio.
Además del marco legal, existe una reflexión ética internacional que resulta especialmente relevante en sanidad. No se trata de normas obligatorias, sino de principios orientadores pensados para acompañar el desarrollo y el uso responsable de la inteligencia artificial.
Desde esta perspectiva, la ética no se plantea como un freno a la innovación, sino como una herramienta para prevenir daños y proteger a las personas, especialmente en ámbitos sensibles como la salud.
Uno de los principios éticos más claros es que la IA debe estar al servicio de la dignidad humana, no al revés.
En sanidad, esto implica:
La tecnología puede apoyar, pero la responsabilidad moral y profesional sigue siendo humana.
Desde un enfoque ético, se insiste en que:
Pero no deberían sustituir decisiones con impacto irreversible, especialmente aquellas que afectan a la vida, la salud o los derechos fundamentales.
Esto conecta directamente con la práctica sanitaria diaria: la IA puede ayudar a pensar, pero no debe convertirse en el decisor final.
Otro principio ético relevante es la proporcionalidad.
No todo problema necesita una solución basada en IA.
No todo proceso mejora por ser automatizado.
Antes de usar una herramienta, conviene preguntarse:
La ética de la IA reconoce un riesgo claro: los sistemas pueden reproducir o amplificar sesgos existentes.
En sanidad, esto puede traducirse en:
Por eso, revisar críticamente los resultados no es opcional: forma parte del uso responsable.
Más allá de la legalidad, el tratamiento de datos de salud plantea una responsabilidad ética directa.
Incluso cuando no hay una infracción formal:
puede suponer una vulneración de la confianza del paciente.
Desde la ética se propone una idea sencilla pero potente:
pensar en el impacto antes de desplegar o usar una tecnología.
No solo impacto técnico, sino:
Esta evaluación no siempre requiere comités ni documentos formales; a veces basta con detenerse a pensar antes de usar.
Antes de utilizar cualquier herramienta externa, conviene hacerse algunas preguntas:
La inteligencia artificial ofrece oportunidades reales, pero no es neutra ni está completamente regulada.
Mientras la legislación se consolida y la práctica se adapta, el uso responsable depende, en gran medida, del criterio del profesional.
La tecnología cambia rápido.
La responsabilidad, de momento, sigue siendo humana.
Si quieres, puedes apoyar este contenido con una contribución simbólica.
El pago se procesa a través de Stripe, que puede solicitar el correo electrónico para el recibo. Este sitio no almacena datos personales.