Información de la revista
Vol. 37.
(Enero 2023)
Respuestas rápidas
Compartir
Compartir
Descargar PDF
Más opciones de artículo
Visitas
No disponible
Vol. 37.
(Enero 2023)
Carta al Director
Acceso a texto completo
Retos y desafíos de la inteligencia artificial en la investigación en salud
Challenges and obstacles of artificial intelligence in health research
Visitas
2894
Brenda Biaani León-Gómeza,b,
Autor para correspondencia
, Eduard Moreno-Gabriela,c,d, Lucía A. Carrasco-Ribellesa,e,f, Concepció Violán Forsa,b,d, Liudmila Liutskoa
a Unitat de Suport a la Recerca Metropolitana Nord, Fundació Institut Universitari per a la recerca a l’Atenció Primària de Salut Jordi Gol i Gurina (IDIAPJGol), Mataró, Barcelona, España
b Institut Català de la Salut, Mataró, Barcelona, España
c Departament de Psicologia Social, Universitat Autònoma de Barcelona, Bellaterra (Cerdanyola del Vallès), Barcelona, España
d German Trias i Pujol Health Sciences Research Institute Foundation (IGTP), Badalona, Barcelona, España
e Fundació Institut Universitari per a la recerca a l’Atenció Primària de Salut Jordi Gol i Gurina (IDIAPJGol), Barcelona, España
f Departamento de Teoría de la Señal y Comunicaciones, Universitat Politècnica de Catalunya (UPC), Barcelona, España
Este artículo ha recibido
Información del artículo
Texto completo
Bibliografía
Descargar PDF
Estadísticas
Tablas (1)
Tabla 1. Retos y desafíos de la inteligencia artificial en la investigación y la atención médica
Texto completo
Sr. Director:

La inteligencia artificial (IA) ha experimentado un rápido crecimiento desde sus inicios en los años 1950. McCarthy1 la considera como una disciplina que combina la informática y los datos robustos para la resolución de problemas. Esta disciplina estudia el diseño de agentes inteligentes capaces de percibir su entorno y tomar acciones que maximizan sus posibilidades de éxito para realizar una tarea asignada. Actualmente, la digitalización de la mayoría de los aspectos de la actividad ha generado enormes cantidades de datos que han permitido entrenar algoritmos con el fin de realizar múltiples tareas. Este hecho, en conjunto con el aumento exponencial del poder computacional, está impulsando la adopción generalizada de la IA en diversas áreas, incluida la salud, para realizar diagnósticos por imagen o apoyar como herramientas terapéuticas en diferentes ámbitos, como por ejemplo la salud mental, entre otras múltiples funciones.

Con la llegada y la difusión mediática de los Generative Pre-trained Transformers (modelos GTP) ha comenzado la adopción generalizada de esta tecnología a través de CHATGTP2. Estos modelos cuentan con una amplia capacidad de resolución de múltiples problemas del día a día en la vida de las personas, y por ello existe una amplia variedad utilidades para ellos. Por ejemplo, el modelo GTP-3 de Open AI ha sido capaz de pasar el examen de Licencia Médica de los Estados Unidos3. A partir de GTP-3 surgen cada día muchas opciones de aplicaciones en el mercado digital. Es por ello que hoy se comienzan a plantear y definir los futuros usos de esta tecnología en nuestra vida cotidiana, y es ahora cuando tenemos que plantearnos los retos que se presentarán en todas las áreas de aplicación, incluyendo la salud pública. Además, estas tecnologías que replican, superan o aumentan las capacidades humanas están transformando múltiples aspectos de nuestras vidas y podrían afectar el bienestar. A medida que nos adentramos en la era de la IA se multiplican sus utilidades, pero también crecen los desafíos globales que plantea la IA en ámbitos como la salud, y deviene cada vez más urgente analizarlos.

La investigación en salud debe anticiparse a algunos de estos debates emergentes que deben ser abordados de forma interdisciplinaria (apoyados en la sociología, la ética, el derecho, la bioingeniería, las políticas públicas, etc.). Esto es esencial para abordar tales desafíos y garantizar la idónea utilización de la IA en todas áreas, incluyendo la salud. Sin embargo, desde las distintas posiciones podemos empezar a discutir qué retos se le plantean a una agenda de investigación que promueva el desarrollo responsable, sostenible, ético y centrado en el ser humano tomando en cuenta la salud como área de contacto humano4.

Desde nuestro lugar en la investigación en atención primaria y la salud pública queremos aportar al debate los que consideramos los principales retos a los que potencialmente nos enfrentaremos (Tabla 1).

Tabla 1.

Retos y desafíos de la inteligencia artificial en la investigación y la atención médica

Retos  Características  Descripción de problemas asociados 
Protección de datos y ciberseguridad  PrivacidadSeguridad de datosCiberseguridad  Es crucial garantizar la confidencialidad, la integridad y la disponibilidad de datos personales y de salud, cumpliendo con regulaciones locales e internacionales de privacidad. Además, es imprescindible proteger los datos y los sistemas de salud de potenciales ciberataques y violaciones de datos 
Ética  Toma de decisiones transparentes (como la publicidad de pago o la forma de selección de los resultados en motores de búsqueda enriquecidos con IA, etc.)Aspectos legales y regulatorios  Es necesario garantizar que las decisiones de IA en la atención médica y en la investigación asociada sean éticas y transparentes. Esto implica abordar sesgos en datos y algoritmos, garantizar la equidad de acceso y evitar la discriminación. Asimismo, se debe establecer un marco legal y regulatorio para asegurar el uso seguro y ético de la IA y las tecnologías digitales en la atención médica 
Calidad y eficacia de la IA en la atención médica  Calidad y precisión de los datosCalidad y precisión del modeloInteroperabilidadEstandarizaciónEvaluación de algoritmos  Es fundamental asegurar la precisión de la información proporcionada por la IA, maximizar los beneficios de la IA en atención médica e investigación a través de la interoperabilidad y la estandarización de protocolos y formatos de datos. Además, se deben establecer procesos rigurosos para evaluar y validar algoritmos y sistemas de IA antes de su implementación en entornos clínicos o de investigación 
Fuerza laboral y organizativa, adaptación al cambio  Competencias del personalCapacitaciónResponsabilidades laboralesNuevas oportunidades laboralesReestructuración organizativaResistencia al cambio  Hay que desarrollar una fuerza laboral capacitada y competente para adoptar tecnologías de IA en atención médica, invertir en capacitación y educación continua, abordar cambios en responsabilidades laborales y aparición de nuevos roles laborales. También se deben abordar los cambios organizativos significativos requeridos para la integración de la IA en la atención médica y actualizar la infraestructura tecnológica, además de abordar la resistencia al cambio en profesionales de la salud y usuarios 
Acceso, equidad y colaboración humano-máquina  Acceso a la atención médicaEquidadColaboración humano-IA  Es esencial asegurar que la digitalización y la IA mejoren el acceso a la atención médica sin aumentar las desigualdades, beneficiando a poblaciones vulnerables y desatendidas. Asimismo, es clave fomentar una colaboración efectiva entre profesionales de la salud y sistemas de IA para obtener mejores resultados en los usuarios 
Desafíos emergentes y problemas futuros  Nuevas enfermedades y condiciones médicasDetección y respuesta pandémica  Es esencial aprovechar el potencial de la IA para revelar patrones y conexiones previamente desconocidos en datos, llevando al descubrimiento de nuevas enfermedades y condiciones médicas, mejorando la detección temprana de brotes y la monitorización de enfermedades, todo ello garantizando la precisión, la confiabilidad y un uso ético 

IA: inteligencia artificial.

Contribuciones de autoría

BBLG concibió la carta, realizó el análisis que contiene y generó el primer borrador. Todas las personas firmantes contribuyeron a interpretar los datos y editar el manuscrito para llegar a la versión final. La carta ha sido elaborada por las autoras y el autor basándose en aspectos de la cotidianidad como profesionales y las reflexiones y análisis realizadas en el contexto de la presentación el pasado abril de un proyecto europeo de IA y salud.

Financiación

LACR tiene una beca del Instituto de Salud Carlos III – FI20/00040.

Conflictos de intereses

Ninguno.

Bibliografía
[1]
J. McCarthy.
Reminiscences on the history of time-sharing.
IEEE Ann Hist Comput., 14 (1992), pp. 19-24
[2]
A. Gilson, C.W. Safranek, T. Huang, et al.
How does ChatGPT perform on the United States Medical Licensing Examination?.
The implications of large language models for medical education and knowledge assessment. JMIR Med Educ., 9 (2023), pp. e45312
[3]
OpenAI. ChatGPT-4 [Internet]. 2023. Disponible en: https://www.openai.com.
[4]
O. Ozmen Garibay, B. Winslow, S. Andolina, et al.
Six human-centered artificial intelligence grand challenges.
Int J Hum Comput Interact., 39 (2023), pp. 391-437
Copyright © 2023. SESPAS
Idiomas
Gaceta Sanitaria
Opciones de artículo
Herramientas
es en

¿Es usted profesional sanitario apto para prescribir o dispensar medicamentos?

Are you a health professional able to prescribe or dispense drugs?