Inteligencia artificial generativa en el ámbito médico: oportunidades y desafíos éticos

AUTORES

1. Jorge López Mareca. Residente de Radiodiagnóstico. Hospital Universitario Miguel Servet, Zaragoza, España.
2. Ana Sancho Mensat. Residente de Pediatría. Hospital Universitario Miguel Servet, Zaragoza, España.
3. Patricia Sanz Aznar. Residente de Pediatría. Hospital Universitario Miguel Servet, Zaragoza, España.
4. María Teresa Abós Cenarro. Residente de Medicina Familiar y Comunitaria. Hospital Universitario Miguel Servet, Zaragoza, España.
5. Ana Baquedano Muñoz. Residente de Medicina Familiar y Comunitaria. Hospital San Eloy, Barakaldo, España.
6. Andrés Domingo Belanche. Residente de Pediatría. Hospital Universitario Miguel Servet, Zaragoza, España.
7. Álvaro García Atarés. Facultativo Especialista de Área de Pediatría. Hospital Universitario Miguel Servet, Zaragoza, España.

RESUMEN

La inteligencia artificial generativa (IAG) ha demostrado ser una herramienta poderosa en la medicina, ofreciendo innovaciones en áreas como el diagnóstico, la personalización de tratamientos y la generación de datos sintéticos para la investigación. Sin embargo, el uso de esta tecnología plantea numerosos riesgos y desafíos, incluyendo la calidad y fiabilidad de los datos generados, la privacidad y seguridad de la información, la transparencia y explicabilidad de los modelos, y la perpetuación de sesgos existentes. Para mitigar estos riesgos, se deben implementar medidas específicas, como la validación exhaustiva de datos, el cifrado robusto, la transparencia en los algoritmos y la capacitación continua de los profesionales de la salud. Estas estrategias no solo mejorarán la seguridad y efectividad de la IAG en el ámbito médico, sino que también garantizarán su uso ético y responsable, beneficiando a pacientes y profesionales por igual.

PALABRAS CLAVE

Inteligencia artificial, medicina personalizada, diagnóstico por imagen, privacidad de los datos, ética médica.

ABSTRACT

Generative Artificial Intelligence (GAI) has proven to be a powerful tool in medicine, offering innovations in areas such as diagnostics, treatment personalization, and synthetic data generation for research. However, the use of this technology poses numerous risks and challenges, including the quality and reliability of generated data, privacy and security of information, model transparency and explainability, and the perpetuation of existing biases. To mitigate these risks, specific measures must be implemented, such as thorough data validation, robust encryption, transparency in algorithms, and continuous training of healthcare professionals. These strategies will not only enhance the safety and effectiveness of GAI in the medical field but also ensure its ethical and responsible use, benefiting patients and professionals alike.

KEY WORDS

Artificial intelligence, precision medicine, diagnostic imaging, data privacy, medical ethics.

INTRODUCCIÓN

La inteligencia artificial generativa (IAG) se refiere a un subcampo de la inteligencia artificial que implica la creación de nuevos datos o contenidos a partir de algoritmos preexistentes. Esta tecnología ha ganado popularidad en múltiples disciplinas debido a su capacidad para generar texto, imágenes, sonidos y otros datos complejos que imitan las características de los datos originales. En el ámbito médico, la IAG promete revolucionar áreas como el diagnóstico, la personalización de tratamientos y la generación de datos sintéticos para la investigación. Sin embargo, junto con estas oportunidades vienen significativos riesgos y desafíos que deben abordarse para garantizar su uso seguro y efectivo.

La IAG es una categoría de inteligencia artificial que puede crear nuevos datos, imágenes, texto, y otros contenidos a partir de modelos entrenados en grandes cantidades de datos preexistentes. Estos modelos, basados en redes neuronales profundas y técnicas avanzadas de aprendizaje automático, han revolucionado diversos campos al ofrecer capacidades creativas y analíticas que antes eran exclusivas de los humanos.

Ofrece un amplio rango de aplicaciones en el ámbito médico, prometiendo mejorar la precisión diagnóstica, personalizar tratamientos y facilitar la investigación médica¹.

Los modelos generativos pueden analizar grandes volúmenes de datos clínicos, incluyendo historiales médicos, imágenes radiológicas y datos genómicos, para identificar patrones y correlaciones que pueden no ser evidentes para los humanos. La generación de imágenes sintéticas también puede mejorar la formación de modelos de aprendizaje profundo, aumentando la precisión en diagnósticos por imagen en campos como la radiología y la anatomía patológica^1-3.

Por otro lado, la creación de datos sintéticos es otra área donde la IAG muestra un potencial significativo. Estos datos pueden ser utilizados para entrenar modelos de aprendizaje automático sin comprometer la privacidad del paciente. Los datos sintéticos generados pueden imitar las características de los datos reales, permitiendo a los investigadores y desarrolladores trabajar con conjuntos de datos diversificados y balanceados. Esto es crucial en la investigación médica, donde la disponibilidad de datos de alta calidad y cantidad es a menudo limitada.

La medicina personalizada se beneficia enormemente de la capacidad de la IAG para generar modelos predictivos basados en el perfil genético y clínico del paciente. Estos modelos pueden sugerir tratamientos específicos y optimizados para cada individuo, mejorando la eficacia terapéutica y reduciendo efectos secundarios. En oncología, por ejemplo, la IAG puede ayudar a diseñar tratamientos personalizados basados en la información ómica (genómica, proteómica, radiómica, etc) del tumor del paciente, potencialmente mejorando las tasas de éxito del tratamiento¹.

Mediante la simulación y el análisis de diferentes estrategias terapéuticas, los modelos generativos pueden sugerir protocolos clínicos optimizados que mejoren los resultados de los pacientes.

Los modelos como ChatGPT pueden ser integrados en asistentes virtuales que apoyen a los profesionales de la salud en tareas administrativas y clínicas. Estos asistentes pueden ayudar a redactar informes, proporcionar información sobre tratamientos y diagnósticos, y gestionar la comunicación con los pacientes. Además, pueden ofrecer apoyo continuo y actualizado basado en las últimas investigaciones y datos disponibles, potencialmente mejorando la eficiencia y la calidad del cuidado médico².

También tiene aplicaciones significativas en la educación y capacitación de profesionales de la salud. Los modelos generativos pueden crear simulaciones realistas de casos clínicos complejos, permitiendo a los estudiantes y profesionales practicar y mejorar sus habilidades diagnósticas y terapéuticas. La generación de contenido educativo personalizado, basado en el progreso y las necesidades de cada estudiante, puede mejorar significativamente el proceso de aprendizaje³.

Uno de los principales desafíos de la inteligencia artificial generativa en el ámbito médico es la calidad y fiabilidad de los datos generados⁴. Los modelos generativos dependen en gran medida de la calidad de los datos de entrenamiento. Si estos datos son incompletos, sesgados o incorrectos, los resultados generados pueden ser igualmente defectuosos. Esto es particularmente crítico en el ámbito médico, donde decisiones basadas en datos inexactos pueden llevar a diagnósticos erróneos, tratamientos ineficaces o incluso perjudiciales para los pacientes. La validación y verificación exhaustiva de los datos generados es esencial para asegurar su fiabilidad y utilidad clínica.

La privacidad^4–6 de los datos es una preocupación significativa en el uso de IAG en medicina. Los datos médicos son extremadamente sensibles y su manejo inadecuado puede tener graves consecuencias para la privacidad del paciente. Existe el riesgo de que tanto los datos confidenciales de los pacientes como los datos sintéticos generados para diversas aplicaciones puedan ser utilizados indebidamente o caigan en manos equivocadas, lo que podría llevar a violaciones de la privacidad y explotación indebida de información personal. Además, los sistemas de IAG pueden ser vulnerables a ataques cibernéticos y manipulaciones externas, pudiendo alterarse los datos de entrada para generar resultados incorrectos que condicione una toma sistemática de malas decisiones clínicas o conclusiones erróneas en investigación médica.

Por otro lado, los modelos generativos a menudo funcionan como «cajas negras», lo que significa que sus procesos internos y la lógica detrás de sus decisiones no son fácilmente comprensibles. Esta falta de transparencia y explicabilidad es un problema importante en el ámbito médico, donde es crucial entender cómo y por qué se ha llegado a un diagnóstico o una recomendación de tratamiento. La opacidad de los modelos generativos puede dificultar la confianza de los profesionales de la salud y de los pacientes, limitando su aceptación e integración en la práctica clínica. Además, la falta de explicabilidad puede complicar la identificación y corrección de errores en los modelos generativos⁵.

Los modelos de IAG pueden perpetuar y amplificar los sesgos presentes en los datos de entrenamiento. Si los datos utilizados para entrenar estos modelos están sesgados por factores como género, raza o condición socioeconómica, los resultados generados pueden reflejar y perpetuar estos sesgos. Esto puede llevar a desigualdades en el diagnóstico y tratamiento, afectando negativamente a grupos subrepresentados o vulnerables. Es crucial implementar estrategias para detectar y mitigar los sesgos en los modelos de IAG para asegurar que las aplicaciones médicas sean justas y equitativas para todos los pacientes^2,5.

La creciente dependencia de la IAG en el ámbito médico podría conducir a una reducción en las habilidades clínicas y de juicio de los profesionales de la salud. Si los médicos y otros profesionales se basan excesivamente en las recomendaciones generadas por modelos de IAG, pueden volverse menos competentes en la toma de decisiones independientes y críticas. Esta dependencia tecnológica puede disminuir la capacidad de los profesionales para manejar situaciones complejas o inesperadas que no están bien cubiertas por los algoritmos.

El uso de IAG en la medicina plantea numerosas cuestiones éticas. La implementación de estas tecnologías debe considerar aspectos como el consentimiento informado, la responsabilidad y la rendición de cuentas. ¿Quién es responsable si una recomendación de tratamiento generada por IAG resulta en un daño al paciente? Además, es crucial asegurar que los pacientes comprendan que sus datos pueden ser utilizados para entrenar modelos generativos y que estos datos pueden ser utilizados para generar nuevos datos. Las implicaciones éticas de la IAG en la medicina requieren una regulación cuidadosa y una supervisión continua para proteger los derechos y la seguridad de los pacientes^2,4.

Para mitigar estos riesgos, es fundamental implementar medidas específicas que aborden tanto los aspectos éticos como técnicos de la inteligencia artificial generativa.

La calidad de los datos es un factor crítico en el rendimiento y la fiabilidad de los modelos generativos en el ámbito médico. Para garantizar que los datos generados sean precisos y útiles, es fundamental establecer y seguir estándares estrictos para la recopilación, almacenamiento y procesamiento de datos médicos. Esto incluye procesos rigurosos de limpieza de datos para eliminar errores y sesgos inherentes. Además, la validación y verificación de los datos generados deben ser una práctica estándar. Se pueden emplear técnicas como la validación cruzada y la evaluación con conjuntos de datos independientes para asegurar que los modelos generativos producen resultados consistentes y precisos. Auditorías regulares de los modelos y los datos generados también son esenciales para identificar y corregir cualquier error o desviación, asegurando así la integridad y confiabilidad del sistema.

La privacidad y seguridad de los datos son aspectos fundamentales que deben ser abordados para evitar el uso indebido y las brechas de seguridad. La anonimización de datos es una técnica clave para proteger la privacidad de los pacientes, asegurando que los datos utilizados y generados no puedan ser fácilmente vinculados a individuos específicos. El cifrado de datos, tanto en reposo (almacenados) como en tránsito (cuando se envían a otra red), es igualmente crucial para proteger los datos contra accesos no autorizados. Además, establecer políticas estrictas de acceso y control de usuarios, que definan quién puede acceder a los datos y bajo qué condiciones, ayuda a minimizar el riesgo de uso indebido. Implementar auditorías y monitoreos continuos para detectar y responder rápidamente a cualquier amenaza de seguridad también es vital para mantener la integridad de los datos².

La transparencia y explicabilidad de los modelos generativos son esenciales para ganar la confianza de los profesionales de la salud y de los pacientes. Para mitigar la opacidad con la que funcionan estos sistemas, es necesario desarrollar técnicas y herramientas que permitan explicar cómo y por qué se ha llegado a una determinada recomendación o diagnóstico. Esto incluye la creación de interfaces y visualizaciones que traduzcan la complejidad del modelo en información comprensible y útil para los usuarios finales. Fomentar una cultura de transparencia también implica la documentación detallada de los datos y algoritmos utilizados^4,6.

Los modelos generativos pueden perpetuar y amplificar los sesgos presentes en los datos de entrenamiento, lo que puede llevar a desigualdades en el diagnóstico y tratamiento. Para abordar este desafío, es crucial implementar estrategias para detectar y mitigar los sesgos en los modelos de IAG. Esto puede incluir el uso de técnicas de preprocesamiento de datos para equilibrar las clases subrepresentadas y la implementación de algoritmos que sean equitativos y justos. Además, se deben realizar evaluaciones de impacto ético para identificar posibles efectos discriminatorios de los modelos y tomar medidas correctivas cuando sea necesario. Promover la equidad en la medicina requiere un enfoque continuo y proactivo para asegurar que las aplicaciones de IAG beneficien a todos los pacientes por igual^4,5.

La integración de la IAG en el ámbito médico debe ir acompañada de una educación y capacitación continua para los profesionales de la salud. Es fundamental que los médicos y otros profesionales comprendan las capacidades y limitaciones de las tecnologías generativas. La formación debe incluir no solo el uso práctico de estas herramientas, sino también una comprensión de los principios éticos y de privacidad relacionados con su uso. Fomentar un enfoque crítico y reflexivo en el uso de la IAG ayudará a los profesionales a tomar decisiones informadas y a mantener sus habilidades clínicas. Además, el desarrollo de programas de capacitación interdisciplinaria que incluyan a tecnólogos, éticos y reguladores puede fomentar una comprensión más holística y colaborativa del uso seguro y efectivo de la IAG en la medicina.

CONCLUSIONES

La inteligencia artificial generativa tiene un potencial significativo para transformar la medicina, proporcionando herramientas avanzadas para el diagnóstico, la personalización de tratamientos y la generación de datos sintéticos. No obstante, junto a estas oportunidades vienen una serie de riesgos y desafíos que deben abordarse para asegurar su implementación segura y efectiva.

La calidad y fiabilidad de los datos generados por IAG son fundamentales. Los modelos generativos deben ser entrenados con datos de alta calidad y sin sesgos para evitar diagnósticos incorrectos o tratamientos inapropiados. La validación y verificación exhaustiva de los datos generados es crucial para asegurar su utilidad clínica. Además, la privacidad de los datos es una preocupación significativa, ya que los datos médicos son extremadamente sensibles. Implementar técnicas de anonimización y cifrado robusto puede proteger la información contra accesos no autorizados y asegurar que los datos no puedan ser fácilmente vinculados a individuos específicos.

La transparencia y explicabilidad de los modelos generativos son esenciales para ganar la confianza de los profesionales de la salud y los pacientes. Desarrollar técnicas y herramientas que permitan entender cómo y por qué se ha llegado a una recomendación o diagnóstico específico es fundamental para la aceptación de estas tecnologías en la práctica clínica. Fomentar una cultura de transparencia implica la documentación detallada de los datos y algoritmos utilizados, así como la apertura a auditorías externas.

Otro desafío importante es la mitigación de sesgos en los modelos de IAG. Los datos utilizados para entrenar estos modelos deben ser representativos y equilibrados para evitar perpetuar desigualdades en el diagnóstico y tratamiento. Implementar estrategias de detección y mitigación de sesgos puede asegurar que las aplicaciones médicas de IAG sean justas y equitativas para todos los pacientes.

Finalmente, la educación y capacitación continua de los profesionales de la salud es crucial para integrar efectivamente la IAG en la medicina. Los médicos y otros profesionales deben comprender las capacidades y limitaciones de estas tecnologías, así como los principios éticos y de privacidad relacionados con su uso. Fomentar un enfoque crítico y reflexivo ayudará a los profesionales a tomar decisiones informadas y a mantener sus habilidades clínicas.

En resumen, la inteligencia artificial generativa ofrece grandes promesas para la medicina, pero su implementación debe ser cuidadosamente gestionada para mitigar los riesgos asociados. Con medidas adecuadas y un enfoque ético y responsable, es posible aprovechar al máximo el potencial de la IAG para mejorar la calidad del cuidado de la salud.

BIBLIOGRAFÍA

1. Iannantuono GM, Bracken-Clarke D, Floudas CS, Roselli M, Gulley JL, Karzai F. Applications of large language models in cancer care: current evidence and future perspectives. Front Oncol [Internet]. 2023 [cited 2024 Jun 2];13:1268915. Available from: http://www.ncbi.nlm.nih.gov/pubmed/37731643
2. Harrer S. Attention is not all you need: the complicated case of ethically using large language models in healthcare and medicine. EBioMedicine. 2023 Apr 1;90.
3. George Pallivathukal R, Kyaw Soe HH, Donald PM, Samson RS, Hj Ismail AR. ChatGPT for Academic Purposes: Survey Among Undergraduate Healthcare Students in Malaysia. Cureus [Internet]. 2024 Jan 27 [cited 2024 Jun 2];16(1):e53032. Available from: http://www.ncbi.nlm.nih.gov/pubmed/38410331
4. Heinemann S, Hirsch M. [Deep healing-Comments on the ethical risks and chances of artificial intelligence]. Innere Medizin (Heidelberg, Germany) [Internet]. 2023 Nov 1 [cited 2024 Jun 2];64(11):1072–6. Available from: http://www.ncbi.nlm.nih.gov/pubmed/37801097
5. Oniani D, Hilsman J, Peng Y, Poropatich RK, Pamplin JC, Legault GL, et al. Adopting and expanding ethical principles for generative artificial intelligence from military to healthcare. NPJ Digit Med [Internet]. 2023 Dec 2 [cited 2024 Jun 2];6(1):225. Available from: http://www.ncbi.nlm.nih.gov/pubmed/38042910
6. Chen Y, Esmaeilzadeh P. Generative AI in Medical Practice: In-Depth Exploration of Privacy and Security Challenges. J Med Internet Res. 2024;26(1).