Informe Debate Ético: Inteligencia Artificial
Integrantes: Consuelo Valenzuela, María Jesús Alvarado, Bernardita Draper, Ignacia Quitral, Renato Castro, Valentina Rojas, Vicente Jil, Lucas Davagnino.
Introducción
El presente trabajo es la sistematización del debate realizado en el ramo de "Ética Médica" de la carrera de Medicina de la Universidad Andrés Bello.
El objetivo principal del debate fue discutir sobre si deberían existir o no limitaciones en el desarrollo de la "Inteligencia Artificial" en la asistencia médica, y sobre si debería o no tener regulaciones. Frente a esto, se sitúa la siguiente problemática: ¿Debe tener límites el avance de la tecnología aplicada a la salud de las personas?
En primer lugar, para comprender el sujeto de la problemática, es necesario definirlo. La inteligencia artificial o IA, es la capacidad de una máquina para pensar, razonar y actuar con inteligencia, creando un sistema de imitación al comportamiento humano. Esta última ha experimentado avances extraordinarios en las últimas décadas, impactando en casi todos los aspectos de la vida moderna. Es más, su desarrollo e implicancia ha sido tan potente y transversal que ha llegado hasta el área de la salud de las personas, generando un debate ético y moral, que debe ser atendido con urgencia (1). Algunas de las principales preocupaciones incluyen la privacidad de los datos de salud, la toma de decisiones médicas basada en algoritmos, la responsabilidad legal en caso de errores, la equidad en el acceso a la tecnología y la posibilidad de que la IA desplace empleos en el sector de la salud. Además, surgen dilemas éticos como la toma de decisiones en situaciones críticas y la transparencia en los algoritmos utilizados. En el contexto global, la situación es diversa. Potencias mundiales, como China, están implementando sistemas de IA para el diagnóstico y administración de enfermedades. Por otro lado, en lugares como Estados Unidos o Europa, hay mayor limitación para el avance de la IA por la importante regulación y preocupación por la privacidad de los datos (2). En el caso de nuestro país, la adopción de la IA en la atención médica también está en marcha, pero enfrenta desafíos en términos de regulación, infraestructura y equidad en el acceso a la tecnología.
Es por esto, que el debate realizado el día Martes 7 de Noviembre de 2023, en la aula de clases de "Ética Médica", nos ayudó a dilucidar, y llegar a puntos de inflexión sobre este tema.
Desarrollo
El debate se realizó a cargo de la Dra. Briceño, quién definió azarosamente la función que cumpliría cada uno de los cuatro grupos ya formados. Primero fue sorteado aquel destinado a la moderación, luego aquellos a cargo de las ponencias (a favor y en contra de la premisa) y, por último, el grupo restante debía encargarse de las reflexiones, los puntos de inflexión y la apertura.
En primer lugar, se presentó la definición de IA acorde a la RAE, la cual estipula que dicha tecnología es una disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico (4). Luego se abordó la relevancia de la IA, tanto a nivel global como local. Se expuso además que la IA ha tenido un impacto positivo en distintos ámbitos, sobre todo en su desarrollo en campos como la tecnología, la economía y la educación. Por último, se expusieron los cuestionamientos actuales que existen sobre la IA. Esto en relación a 5 aristas problemáticas: la privacidad y seguridad de los datos, la discriminación, la transparencia y explicatibilidad, la responsabilidad, y la autonomía.
Luego, nuestro grupo expuso 5 argumentos a favor de establecer límites al avance de la IA en la salud. En primer lugar, se expuso que la recopilación de datos de salud y su procesamiento por parte de la IA, plantea preocupaciones éticas, específicamente sobre la privacidad. Se expuso que la protección de datos y la confidencialidad de la información de los pacientes debe ser prioridad (5).
En segundo lugar, se determinó que es inevitable que la IA pueda o no equivocarse, lo que podría conllevar decisiones médicas incorrectas, creando la problemática de la responsabilidad. Frente a esto, se expuso que es de suma relevancia establecer límites y regulaciones para establecer la responsabilidad legal de los hechos, como también lo expone el informe "IA en atención sanitaria" de la Comisión de Derechos Humanos, donde se habla sobre las repercusiones éticas y económicas en cuanto a los errores de la IA, tales como uso negligente de los datos, y la toma incorrecta de decisiones (5). Según lo expuesto, la responsabilidad y los riesgos siguen recayendo en el creador o el diseñador de la máquina. Ante este tema, se propuso la siguiente interrogante: ¿Qué ocurrirá cuando la máquina sea independiente de sus decisiones?
El tercer argumento se basó en la problemática de la equidad en el acceso a la salud. Se expuso que se deben establecer limitaciones para garantizar que la tecnología esté disponible y accesible para todos, y así evitar desigualdades en la atención médica. Lo anterior, se correlaciona con el 5to argumento expuesto, el que habla sobre el sesgo y desigualdad de los algoritmos. Ambos se explican en el artículo "La integración de la IA en la atención médica: desafíos éticos y de implementación" de la Journal of Medical Internet Research, el cual habla sobre que la IA al ser una máquina de aprendizaje automático, puede interiorizar ciertas diferencias socioeconómicas junto con otros datos como la raza y sexo del paciente, lo que podria influir negativamente en la toma de decisiones clínicas y con ello aumentar las brechas sociales en el acceso a los servicios de salud (6).
Finalmente, el cuarto argumento fue sobre la despersonalización de la atención médica, ya que el uso excesivo de la IA en salud puede disminuir la calidad de la atención, interfiriendo en la confianza y empatía que siempre han estado presentes en la relación médico-paciente. El artículo "IA en la relación médico-paciente: algunas cuestiones y propuestas de mejora" de la Revista Chilena de Derecho y Tecnología, habla sobre cómo la relación médico-paciente ya es una parte importante en la sanación del paciente, lo cual se perdería al reemplazar esa relación terapéutica por máquinas automatizadas que solo se enfocan en la enfermedad y no en el enfermo (7).
Luego de la exposición de los argumentos recién descritos, el evento continuó con la presentación de los argumentos del grupo que se encargaba de la defensa del desarrollo de la IA, es decir, apelar a que no se limitase el avance de dicha tecnología.
El grupo en cuestión desarrolló su postura mediante 4 argumentos.
El primero de ellos hablaba sobre las ventajas que representa la IA en el avance médico, específicamente en cuestiones de investigación médica, pues esta tecnología acelera el descubrimiento de nuevos tratamientos y terapias, cosa que en cualquier época de la humanidad ha sido demorada y tardía (8).
El segundo argumento hablaba sobre el aumento de la productividad de los profesionales de la salud, pues la IA puede ocuparse tanto de funciones administrativas como asistenciales, tanto en hospitales como clínicas o cualquier centro de atención. En el primer caso, la IA, al ocuparse de temas administrativos, libera de tareas al personal de salud para que pueda desempeñar sus labores en la atención de pacientes, mientras que en el segundo caso, la atención puede verse potenciada o incluso mejorada (8)(9).
El tercer argumento aludía a la reducción de los costos que supone la IA por su eficiencia, pues bien es sabido que en el ámbito hospitalario, la mayoría de las veces los recursos o el personal son limitados, por lo tanto, cualquier herramienta que permita abaratar costos y optimizar la atención, presentará una ventaja en el sistema de salud (10).
El grupo finalizó la exposición de su postura con un cuarto argumento, que aludía específicamente a la precisión con la que la IA puede llegar a un diagnóstico. Lo anterior se traduce en una detección de enfermedades y síndromes de forma temprana y oportuna, aumentando las probabilidades de curar enfermedades, por ejemplo, progresivas y agresivas, al mismo tiempo que mejora el pronóstico de cada paciente (8)(11).
Luego se desarrolló una reflexión a cargo del grupo de preguntas.
Algunas voces de los participantes a favor de los límites, plantean cuestionamientos importantes sobre la recopilación de información personal cuando es el estado el encargado de almacenarla. Se plantea la interrogante de quién asumiría la responsabilidad en caso de problemas derivados de la implementación de la inteligencia artificial por parte del estado, sobre todo con el manejo de la información personas, siendo que este tendería a velar por el bien común.
Por otra parte se reflexiona sobre la necesidad de regulación en este ámbito. La pregunta clave que se plantea es si ¿La responsabilidad recae en el estado o en el creador de la máquina?, especialmente cuando se trata de la implementación de la IA.
Se destaca la importancia de la equidad de acceso a la inteligencia artificial. Se cuestiona por qué debería haber desigualdad en el acceso a la IA, especialmente cuando se habla de su uso a nivel globalizado y estandarizado. Se exploran posibles consecuencias, como la limitación de acceso a personas de bajos recursos y la influencia de las aseguradoras en este contexto.
Al abordarse la despersonalización de la atención médica, se plantea una reflexión interesante. Aunque la IA puede contribuir a la despersonalización, existe la posibilidad de que, combinada con el mapeo genético, pueda ofrecer una atención más personalizada y dirigida a las necesidades individuales de cada persona.
También señala la preocupación por los sesgos que la IA podría generar. Se destaca el debate sobre la procedencia de los tratamientos empíricos y se cuestiona si el uso de la IA podría introducir más sesgos que los estudios realizados por humanos, considerando la posibilidad de que la información refleje los sesgos presentes en las autoridades de salud.
Dentro de la discusión sobre los límites de la inteligencia artificial, se plantean inquietudes cruciales. Primero, destaca la preocupación de que la limitación de la IA podría frenar el desarrollo de tratamientos para algunas enfermedades, esto fue cuestionado abordando el punto ¿si estos tratamientos serán accesibles para todos?. Además, se interroga sobre la ética de delegar tareas a la IA y deshumanizar la medicina, considerando el impacto en la eficiencia de la atención de salud y la posibilidad de complicaciones que podrían generar mayores gastos y perjudicar al paciente.
La eficiencia de la atención de salud también es abordada desde la perspectiva de si la automatización de acciones repetitivas garantiza resultados óptimos, considerando que las técnicas basadas en la repetición a veces propenden al error. Estas reflexiones plantean dudas sobre la verdadera mejora en términos de tiempo y resultados.
Además, se expone una inquietud acerca del proceso de aprendizaje de la inteligencia artificial (IA) y la posibilidad de que esta adquiera conocimientos que puedan perjudicar el bienestar humano, especialmente en el ámbito de la salud. Para finalizar se plantea la pregunta de si un plan de tratamiento fundamentado en algoritmos predefinidos podría no ser lo suficientemente flexible para ajustarse a situaciones inesperadas o poco comunes, que son habituales en la práctica.
Conclusión
En conclusión la integración de la IA en la atención médica presenta desafíos significativos, siendo uno de los principales, la necesidad de establecer regulaciones. Se observó la diversidad de enfoques sobre la utilización de IA a nivel mundial, desde la implementación activa en China, a las restricciones de EEUU y Europa. Por lo tanto, se destaca la urgencia de establecer consensos éticos internacionales que incluyan la garantización de la privacidad de los datos, la equidad del acceso a la tecnología y la responsabilidad en la toma de decisiones.
Mediante el debate, se evidenció un impacto dual de la inteligencia artificial en la salud. Por un lado, se destacaron los beneficios potenciales para impulsar el avance médico y su servicio, permitiendo acelerar la investigación y mejorar la precisión y productividad del diagnóstico. Por otro lado, surgieron preocupaciones éticas, que emergen en relación a la equidad, la privacidad y la posible despersonalización de la atención médica. Esta dualidad resalta la complejidad inherente al desarrollo de inteligencia artificial, para así equilibrar cuidadosamente los riesgos y beneficios asociados.
Ahondando en el tema de la necesidad de establecer regulaciones, la responsabilidad legal es tema importante de abordar debido a la posibilidad de que se produzcan errores. Se plantea una pregunta crucial sobre la independencia de la voluntad independiente de la IA, enfocándose en quien asumirá la responsabilidad cuando la máquina tome decisiones de manera autónoma.
Por último, nos damos cuenta de la relevancia de la reflexión sobre estos temas de actualidad, ya que nos hacen cuestionarnos y generar un debate ético y moral. Es por esto que debemos equilibrar los beneficios de la tecnología, al igual que debemos proteger la privacidad y confidencialidad de los pacientes. Además debemos garantizar un sistema de salud que garantice la atención y calidad a todo el público, esto a medida que avanza la implementación de la inteligencia artificial en la atención médica.
Bibliografía
1. Topol, E. J. (2019). High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, 25(1), 44-56.
2. Vayena, E., Blasimme, A., & Cohen, I. G. (2018). Machine learning in medicine: addressing ethical challenges. PLoS Medicine, 15(11), e1002689.
3. World Health Organization. (2021). Digital health. [https://www.who.int/westernpacific/health-topics/digital-health]
4. Rae.es. [citado el 9 de noviembre de 2023]. Disponible en: https://www.rae.es/sites/default/files/2023-05/Discurso%20Ingreso%20Asuncion%20Gomez-Perez_0.pdf
5. Ohchr.org. [citado el 9 de noviembre de 2023]. Disponible en: https://www.ohchr.org/es/statements/2023/07/artificial-intelligence-must-be-grounded-human-rights-says-high-commissione
6. García-López A, Girón-Luque F, Rosselli D. La integración de la inteligencia artificial en la atención médica: desafíos éticos y de implementación. Univ Med. 2023;64(3). https://doi.org/10.11144/Javeriana.umed64-3.inte
7. Ramón Fernández F. Inteligencia artificial en la relación médico-paciente: Algunas cuestiones y propuestas de mejora. Revista Chilena de Derecho y Tecnología [Internet]. 2021 Jun 30;10(1):329. Available from: https://www.scielo.cl/pdf/rchdt/v10n1/0719-2584-rchdt-10-1-00329.pdf
8. Lanzagorta-Ortega D, Carrillo-Pérez DL, Carrillo-Esper R. Inteligencia artificial en medicina: presente y futuro. Gac Med Mex [Internet]. 2023;158(91):17–21. Disponible en: https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S0016-38132022001100017
9. La OMS publica el primer informe mundial sobre inteligencia artificial (IA) aplicada a la salud y seis principios rectores relativos a su concepción y utilización [Internet]. Who.int. Disponible en: https://www.who.int/es/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use
10. Los hospitales están utilizando IA para reducir los tiempos de espera y resolver la escasez de médicos [Internet]. Apolitical. Disponible en: https://apolitical.co/solution-articles/es/los-hospitales-estan-usando-ai-para-reducir-los-tiempos-de-espera-y-resolver-la-escasez-de-medicos
11. Ruiz RB, Velásquez JD. Inteligencia artificial al servicio de la salud del futuro. Rev médica Clínica Las Condes [Internet]. 2023;34(1):84–91. Disponible en: https://www.elsevier.es/es-revista-revista-medica-clinica-las-condes-202-articulo-inteligencia-artificial-al-servicio-salud-S0716864023000032