Desafíos éticos y de seguridad en la era de la inteligencia artificial generativa en salud

En un mundo donde la tecnología evoluciona a un ritmo vertiginoso, la inteligencia artificial (IA) generativa está marcando un nuevo capítulo en la sanidad. Con capacidades que van desde la generación de datos sintéticos hasta la creación de modelos predictivos, la IA generativa tiene el potencial de revolucionar la atención sanitaria. Sin embargo, este avance no está exento de desafíos éticos y de seguridad. En este artículo, exploramos estos retos y cómo pueden abordarse para asegurar una implementación segura y ética de la IA generativa en los sistemas de salud.

La IA generativa, especialmente aquellas basadas en modelos como GANs (Redes Generativas Antagónicas) y modelos de lenguaje avanzados, están transformando la investigación médica y la práctica clínica. Estos sistemas pueden generar datos de pacientes sintéticos, lo que mejora la investigación sin comprometer la privacidad de los pacientes. Además, están siendo utilizados para el desarrollo de fármacos personalizados y en la elaboración de diagnósticos más precisos.

Desafíos éticos:

  1. Privacidad y Confidencialidad: aunque la IA generativa puede generar datos sintéticos, la línea entre datos reales y sintéticos puede ser borrosa. Esto plantea preguntas sobre la privacidad y la confidencialidad de los datos de los pacientes.
  2. Consentimiento Informado: en la era de la IA, obtener consentimiento informado para el uso de datos de pacientes se vuelve más complejo. ¿Cómo se asegura que los pacientes comprendan el uso potencial de sus datos en modelos generativos?
  3. Sesgos en los Datos: los modelos generativos son tan buenos como los datos con los que se entrenan. Los sesgos en estos datos pueden llevar a conclusiones erróneas o a prácticas médicas ineficaces.

Desafíos de seguridad:

  1. Integridad de los Datos: asegurar que los datos generados por IA no sean manipulados es crucial, especialmente cuando estos datos podrían influir en decisiones clínicas.
  2. Ataques Adversarios: los sistemas de IA son susceptibles a ataques que pueden hacer que generen datos falsos o perjudiciales.
  3. Dependencia de Sistemas Automatizados: una excesiva dependencia de la IA en la toma de decisiones médicas puede llevar a errores no detectados y a una pérdida de habilidades clínicas críticas.

Para enfrentar estos desafíos, es esencial desarrollar un marco ético robusto y normativas de seguridad específicas para la IA en sanidad. La colaboración entre desarrolladores de IA, profesionales sanitarios, pacientes y reguladores es clave para establecer estándares y prácticas que salvaguarden la integridad y la eficacia de los sistemas de salud.

On how to become the best surgeon in the world

The realm of surgical practice is intricate and demanding, requiring an amalgamation of technical skill, deep knowledge, and keen judgment. Among the various measures of a surgeon’s prowess, the ability to minimize postoperative complications stands paramount.

This essay explores why the minimization of complications is not just a desirable outcome but a fundamental attribute that distinguishes the best surgeons in the world.

Defining surgical excellence

Surgical excellence transcends mere technical skill. It encompasses a holistic approach towards patient care, where the surgeon’s priority is not only the success of the procedure but also the overall well-being of the patient. This involves pre-operative planning, intra-operative decision-making, and post-operative care.

The role of continuous learning and adaptation in a surgeon’s career. The best surgeons are those who stay abreast of the latest techniques and technologies, always seeking to improve their methods.

The impact of complications on patient outcomes

Complications can range from minor issues, causing discomfort or extended hospital stays, to major problems that can lead to long-term health issues or even mortality.

The psychological impact on patients and their families. A complication-free recovery is not just a physical relief but also a mental one, fostering trust in the healthcare system and the professionals within it.

Strategies for minimizing complications

Detailed pre-operative assessments to identify potential risk factors. This step is crucial in tailoring the surgical approach to each individual’s unique health profile.

Emphasis on minimally invasive techniques where appropriate, which have been shown to reduce recovery times and lower the risk of complications.

The importance of post-operative care, including monitoring for signs of complications and providing clear guidelines for recovery.

The role of teamwork and communication

Surgery is not a solo endeavor. The best outcomes are often the result of coordinated teamwork, including nurses, anesthetists, and other specialists.

Effective communication with patients about the risks and expected outcomes of surgery. This not only prepares them for the procedure but also engages them in their own recovery process.

The broader impact of surgical complications

On Surgeons and Surgical Teams

Surgeons carry the weight of responsibility for patient outcomes. Complications can have a profound psychological impact on them, sometimes leading to stress, self-doubt, and a phenomenon known as ‘second victim syndrome’.

Surgical teams also feel the impact. High complication rates can lead to decreased morale and increased turnover, affecting the cohesion and efficiency of the team.

On Healthcare Institutions

Complications often translate into longer hospital stays, increased use of resources, and additional procedures, which escalate healthcare costs.

The reputation of healthcare institutions hinges significantly on their surgical success rates. High complication rates can erode public trust and decrease patient referrals, impacting the institution’s financial health and standing in the healthcare community.

On Society

At a societal level, surgical complications contribute significantly to the overall burden of healthcare. They can lead to increased healthcare expenses, which may be borne by patients, insurance systems, or government healthcare programs.

There’s also a broader economic impact. Complications can prolong patient recovery times, delaying their return to work and contributing to productivity losses.

Conclusion

The best surgeons in the world are distinguished not just by their technical abilities but by their relentless pursuit of patient safety and well-being. Minimizing complications is a multifaceted challenge that demands excellence at every step of the surgical process. As the field of surgery evolves, this principle remains constant: the best surgeons are those who prioritize their patients’ holistic health, striving for outcomes that are as complication-free as possible.

Errar es humano. Algunos son demasiado humanos

Esta tribuna me lleva de vuelta a 2006. Hace, por tanto, más de nueve años que la publicaron en Diario Médico.

Y yo me digo: si los pacientes no aceptan un error médico será porque les hemos acostumbrado a creer que nunca nos equivocamos. De nuevo, los responsables del mal social por el que se nos acusa de no obtener resultados, con o sin razón, no son primordialmente los agentes externos sino nuestra incorrecta actuación para hacer llegar el siguiente mensaje: la incertidumbre y el error están intrínsecamente unidos al ejercicio médico. Pero también es humano buscar soluciones, encontrar alternativas y afrontar los retos. El problema no es nuevo, pero se ha expuesto al ojo público y al debate en las tertulias cuando el Instituto Nacional de Medicina de los Estados Unidos publicó que los efectos adversos y los errores médicos son la octava causa de mortalidad en aquel país. ¿Escalofriante? No diría tanto, pero desde luego no podemos seguir escondiéndonos o no ofreciéndonos voluntariamente a nuestros conciudadanos para abordar el error médico e intentar buscar soluciones.

Quizás deberíamos considerar cómo llegamos a la cultura del miedo en la declaración de un error: ¿el miedo a perder el prestigio?, ¿el conflicto emocional al que nos conduce la aceptación de un fracaso?, ¿la arrogancia? Una de las causas más importantes para que los médicos y el resto de los profesionales sanitarios no declaremos nuestros errores y, además, no contribuyamos a la organización de un sistema de prevención de riesgos es la cultura imperante de «Crimen y Castigo». En el caso de los médicos, somos sometidos a estrictos procesos de selección a lo largo de nuestra carrera como estudiantes. Luego pasamos por un proceso de especialización. Se nos entrena para realizar las tareas más complicadas y aceptar los riesgos personales y emocionales que lleva aparejado el contacto diario con el sufrimiento humano, sin que afecte a nuestra vida personal ni a la correcta ejecución de nuestra labor. Pero durante todo este tiempo se nos dice subliminal y prácticamente: “Cuidado con cometer errores, porque si los cometéis -y nos enteramos- seréis castigados”. En este sentido, los profesionales se convencen de que resulta mejor no aceptar que se cometen fallos, ya que parece que no importa cómo lo hagas, pues si cometes un error y se enteran serás castigado.

Para el paciente y los familiares que han sido víctimas de un error, no digo de una negligencia o de imprudencia, sino de un error médico, la asignación de culpabilidades puede ser un gran alivio a su sufrimiento. Pero, paradójicamente, desde el punto de vista de la construcción de un sistema más seguro, cuanta más culpabilización de los individuos menor probabilidad de conseguir una mayor transparencia y un sistema más seguro para todos. Ya sé lo que siempre se dice: nosotros los médicos trabajamos con un material más sensible y, por tanto, no podemos ser valorados como el resto de los profesionales. Si eso lo dicen de verdad, entonces deberíamos recibir más ayuda que los demás para conseguir ser mejores. Les ruego que reflexionen sobre la cantidad de apoyo sincero que recibimos cuando queremos mejorar. Y el lema «Los recursos son limitados» no sirve, pues éstos se asignan en función de intereses. Ahora díganme, ¿hay algún interés por construir un sistema más seguro?

A mí me gustaría realizar una propuesta. Sería muy provechoso para nuestra relación con los pacientes que ante la aparición de un error en la atención sanitaria pudiéramos:

a. Reconocer explícitamente que ha ocurrido un error.
b. Dar una explicación sobre en qué consistió el error.
c. Exponer claramente el motivo por el que se cometió el error.
d. Comunicar un plan sobre cómo se pretende evitar que se vuelva a cometer dicho error.
e. Pedir disculpas.

Y para conseguirlo, los poderes públicos deberían reconocer el derecho a declarar en conciencia y de manera ética sin que nos sea aplicada una cierta cláusula de cooperación por la que las compañías de seguros exigen al asegurado su absoluta colaboración con la aseguradora en la defensa contra la demanda y, con ello, que el profesional no acepte ninguna responsabilidad en el error. También convendría que no se recurriera con tanta frecuencia a la vía penal para juzgar lo que ha sido un error y no un crimen.

En resumen, mi propuesta es avanzar en la cultura de la seguridad en la atención sanitaria. La sociedad debe reconocer que nuestra actividad tiene una especial propensión a la aparición de errores, accidentes y efectos adversos. Por ello, se debe promover su análisis sin culpabilizar al individuo, a la vez que se permite la colaboración entre distintos agentes para crear sistemas de supervisión con responsabilidad creciente que prevengan la comisión y propagación de errores. Finalmente, se debe conseguir que se destinen fondos para investigación y desarrollo de la seguridad de los pacientes. Construyamos la iniciativa «Seguridad en la práctica clínica para el siglo XXI«.

Errar es humano IV – Comunicación médico-paciente

Llegamos a un punto clave si hablamos del núcleo de la práctica médica y de la asistencia sanitaria, EL PACIENTE.

A veces me sorprende la forma en que ciertas organizaciones se refieren a los médicos, globalmente, como si no fueramos humanos, como si fueramos seres inmunes al dolor, al sufrimiento, a la enfermedad, o a los mismos errores que creen que se cometieron con ellos.

Cuando los médicos dejamos de estar en el “lado ganador”, cuando enfermamos, nos resulta más fácil ver donde se producen los errores en la atención y las razones para los mismos. ¿Por qué, en esos momentos, tenemos menos miedo? Porque sentimos confianza en nuestra capacidad para identificar las confusiones y, dada nuestra facilidad para ser escuchados, hacer que el error se corrija antes de que se produzca el accidente. Pues saquemos enseñanzas de ello.

Lo que quiero decir es que médicos y pacientes debemos retomar lo que tanto hemos dicho que es la esencia de la Medicina y que parece que tan poco practicamos: la comunicación médico-paciente. Los médicos debemos recordar que los pacientes no saben tanto de Medicina como nosotros, pero que la mayoría de las veces tienen razón sobre qué les pasa. Debemos aceptar su opinión y su punto de vista sobre la forma en que se les atiende e intentar corregir los errores que se puedan identificar por ellos mismos o por sus familiares.

Por otra parte, los pacientes y sus familiares deberían sentir que la comunicación con sus médicos es sincera y fluida. No somos sus enemigos. Al revés, ellos y nosotros debemos formar un equipo, sustentado por la confianza mútua, con el fin de solucionar los problemas. Las actitudes defensivas, desconfiadas y obstruccionistas por su parte deberían estar fuera de lugar.

¿Es cierta esa sensación de muchos profesionales sobre la creciente desconfianza de los pacientes en los médicos del sistema sanitario? Y si es cierta ¿cuáles son las causas? ¿qué grado de responsabilidad tenemos los médicos? ¿y los pacientes? ¿y los poderes públicos que rigen el sistema?

Errar es humano III – ¿Comunicar el error?

Vamos a abordar otros puntos de controversia eterna: ¿Debemos revelar nuestros errores? Y si los revelamos ¿Cuánto contamos? ¿Cómo lo contamos? ¿Nos cubrirá el seguro si honestamente reconocemos que nos equivocamos y cometimos un error o se produjo un efecto adverso?

En general, se pueden definir dos bandos por la actitud tomada en este asunto:

1. El bando paternalista: ”los pacientes no están preparados para conocer toda la verdad y nosotros sabemos muy bien lo que necesitan”

2. El bando liberal: ”los individuos son libres y autónomos, y tienen el completo derecho de conocer todos y cada uno de los detalles de cada una de las actuaciones, correctas o incorrectas, que les afecten para así actuar en consecuencia”

Pues bien, vayamos a las fuentes. La literatura sobre comunicación de errores médicos proviene, en su mayoría, de los países anglosajones y confirma que, allí, los pacientes desean que se les comunique con total detalle la existencia de un error tan pronto como se identifique.

La información demandada por parte de los pacientes consiste en:
a. Un reconocimiento explícito de que ha ocurrido un error
b. Una explicación sobre en qué consistió el error
c. El motivo por el que se cometió el error
d. Un plan sobre cómo se pretende evitar que se vuelva a cometer dicho error
e. Una disculpa

En nuestro país, es interesante recordar un artículo del Prof. González Hermoso en Cirugía Española acerca de este problema, ya por el año 2001.

En Canadá, el Instituto Canadiense para la Seguridad del Paciente incluso ha creado una guía sobre la comunicación de efectos adversos a los medios de comunicación

Errar es humano I

Y yo me digo, si los pacientes no aceptan un error médico….será porque les hemos acostumbrado a pensar que nunca nos equivocamos. De nuevo, los responsables del mal social por el que se nos acusa de no obtener resultados, con o sin razón, no son primordialmente los agentes externos, sino nuestra incorrecta actuación para hacer llegar el mensaje: la incertidumbre y el error están intrínsecamente unidos al ejercicio médico. Pero también es intrínsecamente humano buscar soluciones, encontrar alternativas mejores y afrontar los retos.

El problema no es nuevo, pero se ha expuesto al “ojo público” y al debate en las tertulias cuando el Institute of Medicine de los Estados Unidos publicó que los “efectos adversos” (corrección política) y errores médicos son la octava causa de mortalidad en aquel país. ¿Escalofriante? No diría tanto, pero desde luego no podemos seguir escondiéndonos o no ofreciéndonos voluntariamente a nuestros conciudadanos para abordar el error médico e intentar buscar soluciones.

Por ello me propongo reflexionar (nuevo años después de lanzar esta primera serie en mi primer blog) y promover un debate a lo largo de las próximas entradas sobre las causas de los errores médicos, la implicación individual y grupal en su manejo, las medidas correctoras y preventivas que se pueden articular, así como la manera de colaborar con el resto de los que forma parte del sistema para evitar enfrentamiento y conseguir una sanidad más segura.