Desafíos éticos y de seguridad en la era de la inteligencia artificial generativa en salud

En un mundo donde la tecnología evoluciona a un ritmo vertiginoso, la inteligencia artificial (IA) generativa está marcando un nuevo capítulo en la sanidad. Con capacidades que van desde la generación de datos sintéticos hasta la creación de modelos predictivos, la IA generativa tiene el potencial de revolucionar la atención sanitaria. Sin embargo, este avance no está exento de desafíos éticos y de seguridad. En este artículo, exploramos estos retos y cómo pueden abordarse para asegurar una implementación segura y ética de la IA generativa en los sistemas de salud.

La IA generativa, especialmente aquellas basadas en modelos como GANs (Redes Generativas Antagónicas) y modelos de lenguaje avanzados, están transformando la investigación médica y la práctica clínica. Estos sistemas pueden generar datos de pacientes sintéticos, lo que mejora la investigación sin comprometer la privacidad de los pacientes. Además, están siendo utilizados para el desarrollo de fármacos personalizados y en la elaboración de diagnósticos más precisos.

Desafíos éticos:

  1. Privacidad y Confidencialidad: aunque la IA generativa puede generar datos sintéticos, la línea entre datos reales y sintéticos puede ser borrosa. Esto plantea preguntas sobre la privacidad y la confidencialidad de los datos de los pacientes.
  2. Consentimiento Informado: en la era de la IA, obtener consentimiento informado para el uso de datos de pacientes se vuelve más complejo. ¿Cómo se asegura que los pacientes comprendan el uso potencial de sus datos en modelos generativos?
  3. Sesgos en los Datos: los modelos generativos son tan buenos como los datos con los que se entrenan. Los sesgos en estos datos pueden llevar a conclusiones erróneas o a prácticas médicas ineficaces.

Desafíos de seguridad:

  1. Integridad de los Datos: asegurar que los datos generados por IA no sean manipulados es crucial, especialmente cuando estos datos podrían influir en decisiones clínicas.
  2. Ataques Adversarios: los sistemas de IA son susceptibles a ataques que pueden hacer que generen datos falsos o perjudiciales.
  3. Dependencia de Sistemas Automatizados: una excesiva dependencia de la IA en la toma de decisiones médicas puede llevar a errores no detectados y a una pérdida de habilidades clínicas críticas.

Para enfrentar estos desafíos, es esencial desarrollar un marco ético robusto y normativas de seguridad específicas para la IA en sanidad. La colaboración entre desarrolladores de IA, profesionales sanitarios, pacientes y reguladores es clave para establecer estándares y prácticas que salvaguarden la integridad y la eficacia de los sistemas de salud.

Metaverso, Sanidad y Salud

Podríamos definir los metaversos como entornos virtuales colectivos y compartidos en el ciberespacio (la nube) en los que se intercambian experiencias mediante el uso de representaciones virtuales de objetos y seres vivos (avatares) que confluyen con la realidad física.

Y aquí tenéis un ejemplo de un universo virtual completo (metaverso) en la película Ready Player One de Steven Spielberg.

Siguiendo a la carrera a Mark Zukerberg, que no sólo trabaja para crear un metaverso sino que ha dado el nombre de Meta a su propia compañía, se ha iniciado una competición por llevar la sanidad a universos virtuales.

Los dos objetivos primordiales son:

  1. Provision de asistencia sanitaria
  2. Formación y entrenamiento de profesionales

Las cuatro herramientas a las que se otorga mayor capacidad de influir en la prestación de servicio y en la promoción de la salud son:

  1. Telepresencia
  2. Gemelos digitales: reproducciones digitales de objetos, procesos o sistemas
  3. NFTs (non-fungible tokens) o certificado digital de autenticidad)
  4. Tecnología blockchain

Esta tecnología podría servir para crear centros sanitarios virtuales para la asistencia o juegos serios para la promoción de la salud.

En cualquier caso, nos guste o no, parece que la evolución es inevitable porque se alimenta de un par de deseos clave en la fantasía de nuestra especie: la deificación de homo sapiens y la trascendencia.

El potencial es enorme, pero los riesgos también.

Será necesario establecer una apropiada regulación sobre protección de derechos de los individuos y los grupos para evitar que unos pocos tengan el control sobre un recurso de extraordinario poder. Habrá que investigar los efectos psicológicos de habitar universos virtuales con capacidad para sobrepasar barreras hasta ahora infranqueables. Y, sobre todo, tendremos que asegurarnos de que obtener asistencia sanitaria en mundos virtuales es bueno para la salud de las personas y de las comunidades.

Es mentira, estúpido!

Los servicios sanitarios, todos, están diseñados para y su misión es la provisión de servicios, no la obtención de resultados favorables en la salud de las personas y las sociedades.

Esto genera 3 grandes problemas:

1. Son ingestionables
2. Son impredecibles
3. Son insostenibles (más con lo mismo o lo mismo con menos)

Lo que no mides no se puede mejorar.

Y como no medimos los resultados relevantes para los pacientes, ES MENTIRA que el sistema esté centrado en el paciente.

Y lo seguirá siendo. Hagamos todos los programas de crónicos que hagamos.

Reforma sanitaria y relación médico-paciente

Esta otra columna fue publicada por Diario Médico en 2009. Se trata de una reflexión sobre como la reforma sanitaria debe centrarse en la mejora de la relación médico paciente-mediante la tecnología:

Secularmente, todos los sistemas sanitarios se organizan sobre el pilar de la actividad clínica denominado relación médico-paciente, que evidentemente ha evolucionado en el pasado siglo hacia una mayor complejidad y calidad científico-técnica. Aun así, sigue tratándose de una relación bidireccional 1:1, 2:1, 3:1, incluso 10:1, que consume todo tipo de recursos intensivamente. Por tanto, resulta fácil deducir que ese acto, cada vez más demandado, es altamente costoso e ineficiente. Las razones son múltiples: la inflación entre el crecimiento en el número de pacientes y la complejidad de sus enfermedades y el aumento de la cantidad de profesionales cualificados disponibles; el aumento de salarios de los profesionales sin el equivalente incremento de su productividad; la inadecuada introducción de terapias; el envejecimiento de la población; el aumento de las enfermedades crónicas, y la mayor demanda de los ciudadanos.

Claro que no recuerdo un tiempo en que esa preciada joya, la relación médico-paciente, no estuviera en crisis. Si en algún momento no la hubo es porque no había una conciencia clara de que había que garantizarla de manera universal, no sólo por justicia individual sino por interés social. En realidad, la asistencia sanitaria es un asunto de seguridad nacional, cuyo valor crítico para la riqueza y el funcionamiento de un país sólo es reconocido públicamente cuando surge la amenaza de una pandemia como la que vivimos actualmente.

Según la OCDE, Estados Unidos gasta más del 16 por ciento de su PIB en atención sanitaria. Su modelo está en crisis y el presidente Barak Obama pone como ejemplo deseable el sistema español. Alemania supera el 10 por ciento. También está en crisis. España llega al 8 por ciento y decimos que el modelo no es sostenible. Así que ni el modelo Bismark ni el Beveridge ni el norteamericano, ni siquiera duplicar el gasto, sirven para superar ese estado crónico al que nos gusta llamar crisis. Así que les desanimo a pensar que bien mediante la contención del gasto o, justo lo contrario, incrementando la cantidad de recursos dedicados a la sanidad, vamos a llegar al sistema sanitario perfecto.

Miren a su alrededor. Somos la única especie que consume ávidamente con el fin de aumentar su calidad de vida. También lo hacemos de manera compulsiva con la sanidad, y si no la obtenemos en el tiempo y forma que deseamos, calificamos el evento de intolerable e injusto. Los servicios de urgencia crecen y crecen, tanto en países con buena atención primaria como en aquéllos que no, porque el primer nivel no está diseñado para responder a las demandas actuales del ciudadano. En realidad, la gente quiere ser escuchada, vista, explorada, diagnosticada y tratada ya. Ignorar las tendencias sociales y pensar que por indicaciones políticas o profesionales van a cambiar los comportamientos es a la vez cándido e inútil. Vivimos en la sociedad de la inmediatez, con comunicación y gratificación instantánea. Cada vez nos conformamos menos y queremos soluciones buenas e inmediatas al menor coste posible.

Calidad subjetiva
Lo cierto es que llegados a un determinado umbral de riqueza, la calidad pasa a ser un asunto subjetivo. Además, el impacto del progreso científico-técnico es marginal en los resultados de salud y transitorio en la valoración del ciudadano. Por ello no es suficiente con buscar la excelencia científico-técnica en la forma actual de la relación médico-enfermo, ni en su gestión, sino que tenemos que repensar e innovar la prestación de los servicios sanitarios con el fin de mejorar la accesibilidad y la calidad percibida.

Ahora todos se preguntarán ¿y cómo lo hacemos? En el actual intento de reforma sanitaria estadounidense la propuesta ha sido utilizar las tecnologías (fundamentalmente TIC) para aumentar la eficiencia del sistema y generar valor añadido. Y allá va el dinero para tecnología. Pero en mi opinión, ese esfuerzo Obama es insuficiente por superficial. Mi propuesta es utilizar la tecnología para transitar de una relación médico-paciente orientada a los profesionales a otra centrada en los ciudadanos. Hay que favorecer la innovación disruptiva sobre la innovación sostenida y así eliminar las rutinas que parasitan los actos médicos y convertir lo complejo en simple, no en más complejo. El fin es usar la tecnología para lo que sirve, para lo científico-técnico, y reservar más tiempo médico a aquello que los enfermos necesitan, lo que produce calidad percibida (sobre su propia salud), lo humano. Básicamente, porque los profesionales ya no tenemos otra opción para aumentar nuestra productividad (y si lo hacemos es disminuyendo la calidad del servicio), tal como expuso el neokeynnesiano William Baumol con su “enfermedad de los costes”.

Cierto que para acometer una empresa así necesitamos primordialmente liderazgo intelectual y profesional, porque no es fácil reingenerizar nuestros procedimientos clínicos, tal como se aplican ahora sobre la plataforma de la clásica relación presencial médico-paciente, y traer la tecnología para aliviarnos de la carga de ineficiencia que la impregna. Pero el liderazgo no debe ser sólo de los profesionales, porque este cambio encuentra numerosas barreras para su desarrollo: culturales (de ciudadanos y profesionales), económicas, políticas, legales y técnicas.

Combinar excelencia y sostenibilidad del sistema a largo plazo dependerá de la innovación en su esencia: la relación médico-paciente. De otra manera, inyectar dinero en gestión, investigación o tecnología sólo nos llevará a bombear nuevas burbujas.

El impacto de lo social en nuestra salud

Por mucho que nos empeñemos en «personalizar», los seres humanos somos animales sociales. Por mucho que nos empeñemos en la Medicina 4P, la Medicina debería ser 5P, porque lo «poblacional» es esencial para comprender nuestra forma de estar en el mundo, en la salud y en la enfermedad.

Algunos, como Nicholas Christakis, se han dedicado a estudiar las redes sociales en su más amplio sentido. Sí, existen redes sociales mucho antes de que aparecieran Facebook o Twitter. Cierto es que también son redes sociales y también pueden influir en nosotros.

Y además pueden servir para predecir epidemias. Se trata de una forma de entender los grupos sociales como seres vivos, a los que se puede estudiar, diagnosticar y, eventualmente, tratar.