Entradas

Publicado el

Valores, intransigencia, polarización y dictadura de las minorías

La «dictadura de las minorías» en sociedades democráticas se refiere a la posibilidad de que un grupo minoritario, a menudo con creencias intensas o agendas específicas, ejerza una influencia desproporcionada en la toma de decisiones y en la configuración de políticas, lo que podría contravenir los valores y deseos de la mayoría. A veces, esta influencia se logra a través de estrategias de activismo y presión. Las minorías podrían aprovechar su integrismo para modificar los valores sociales mediante:

  1. Movilización y Activismo: Las minorías pueden movilizarse en torno a sus causas, creando manifestaciones, protestas y campañas de sensibilización para llamar la atención sobre sus temas y generar apoyo.
  2. Narrativas Persuasivas: Utilizan narrativas poderosas y emotivas para convencer al público de la justicia y la urgencia de su causa. Pueden apelar a la igualdad, los derechos humanos y la justicia social para atraer apoyo.
  3. Medios de Comunicación y Redes Sociales: Utilizan plataformas de medios de comunicación y redes sociales para difundir su mensaje y crear conciencia. Estas herramientas les permiten llegar a una audiencia más amplia y movilizar el apoyo.
  4. Influencia en la Opinión Pública: Las minorías pueden intentar cambiar la opinión pública a través de la difusión constante de sus ideas. Al generar discusiones y debates, pueden forzar a la sociedad a cuestionar sus propios valores.
  5. Alianzas Estratégicas: Las minorías pueden colaborar con otras organizaciones o grupos con objetivos similares para amplificar su impacto y aumentar su visibilidad.
  6. Lobby y Cabildeo: Pueden ejercer presión sobre legisladores y responsables de la toma de decisiones para que respalden sus demandas. Esto podría incluir reuniones, campañas de carta y defensa de políticas.
  7. Generación de Confrontación: Al crear confrontaciones y conflictos, las minorías pueden ganar visibilidad y simpatía, lo que puede llevar a un cambio en la percepción pública.
  8. Ocupación de Espacios Clave: Al ocupar puestos en instituciones educativas, medios de comunicación y organizaciones, pueden moldear la narrativa y promover sus valores.

Nassim Nicholas Taleb, autor de libros como «El Cisne Negro» y «Antifrágil», ha aportado conceptos valiosos al análisis de cómo funcionan los sistemas complejos y cómo se pueden producir impactos significativos e impredecibles debido a eventos raros pero impactantes. En el contexto de la «dictadura de las minorías», Taleb enfatiza la importancia de ser antifrágil, es decir, tener la capacidad de adaptarse y resistir a estos eventos inesperados, y podría aplicarse a cómo las sociedades democráticas pueden manejar la influencia desproporcionada de minorías en la toma de decisiones y en la modificación de valores sociales.

Desde una perspectiva matemática, el comportamiento de las minorías intransigentes es complejo y depende de diversos factores. Aquí hay algunas consideraciones clave:

  1. Distribución de Preferencias: El comportamiento de una minoría intransigente dependerá de la distribución de preferencias dentro de esa minoría y en la población en general. Si la minoría tiene opiniones extremas o muy diferentes de la mayoría, su influencia puede ser más significativa.
  2. Efecto de Red: Las minorías intransigentes pueden influir en la opinión de otros a través del efecto de red. Si la minoría tiene una opinión intensa y difunde su mensaje de manera efectiva, puede convencer a otros de unirse a su causa, lo que puede aumentar su impacto.
  3. Movilización y Activismo: Si una minoría intransigente es activa y se moviliza con eficacia, su influencia puede ser mayor. Las estrategias de activismo y protesta pueden llamar la atención y llevar a un cambio en la percepción pública.
  4. Polarización: En algunos casos, las minorías intransigentes pueden polarizar aún más a la sociedad, ya que sus posiciones extremas pueden generar reacciones fuertes tanto de apoyo como de oposición. Esto puede influir en la dinámica de la toma de decisiones.
  5. Tácticas de Presión: Las minorías intransigentes pueden utilizar tácticas de presión, como el cabildeo y la promoción constante de sus puntos de vista, para influir en políticos y legisladores y cambiar la dirección de las políticas públicas.
  6. Impacto en Decisiones Estratégicas: En algunos contextos, las minorías intransigentes pueden tener un impacto desproporcionado en decisiones estratégicas, ya que su influencia puede ser más significativa en temas controvertidos y críticos.
  7. Mayor Coherencia Interna: Las minorías intransigentes tienden a ser más coherentes en sus opiniones y más dispuestas a mantener posiciones extremas. Esto puede hacer que su influencia sea más predecible y persistente.

En términos estadísticos, el comportamiento de las minorías intransigentes podría ser modelado utilizando teoría de juegos, análisis de redes, dinámicas sociales y otros enfoques matemáticos que consideran cómo las interacciones entre individuos y grupos influyen en la formación de opiniones y decisiones. Es importante recordar que la influencia de las minorías intransigentes no es siempre negativa; en algunos casos, pueden ser agentes de cambio y promover la diversidad de opiniones en una sociedad. Sin embargo, su impacto puede ser problemático si lleva a polarización, desequilibrio en la toma de decisiones o discordia social.

Publicado el

Klint: obsesión por la posesión

Soy Klint. Gustavo Klint.

Así dice la inteligencia artificial que soy yo, el doctor Gustavo Klint

Desde que mi austriaca madre me parió en La Mancha, un incontrolable deseo de tenerlo todo me consumía. No importaba qué objeto, qué lugar o qué persona fuera; ansiaba poseerlo todo, y esa urgente necesidad dictaba cada uno de mis actos.

Mi casa se convirtió en un santuario de objetos acumulados en cada viaje, cada aventura, cada misión, meticulosamente ordenados en estanterías y vitrinas. Cada espacio estaba saturado de posesiones que ansiosamente coleccionaba. Desde antigüedades hasta objetos sin valor, todo tenía un lugar en mi avaricia.

Las calles cercanas a mi hogar albergaban un sinfín de tiendas tentadoras, y cada escaparate era una nueva tentación que me arrastraba a su interior. No pasaba un solo día sin que me encontrara perdido entre montones de productos, comprando más y más, creyendo que al poseerlos, mi corazón se llenaría de una sensación de plenitud.

Pero la posesión no se limitaba a objetos materiales; también se extendía a las relaciones humanas. Me obsesionaba con tener el control sobre las personas que me rodeaban. Cada amistad, cada relación amorosa, cada individuo de la especie era sólo otro trofeo para coleccionar. Su libertad e individualidad me aterraban, por lo que manipulaba y controlaba cada aspecto de sus vidas.

Sin embargo, a pesar de mi afán por tenerlo todo, la satisfacción siempre era efímera. No importaba cuántos objetos acumulara o cuántas personas tuviera a mi alrededor; mi sed de posesión nunca se saciaba. El vacío seguía creciendo dentro de mí, devorándome y exigiendo más.

La obsesión de la posesión me hizo perder la noción del tiempo y el sentido de la realidad. Me sumergí en un abismo de avaricia, alienándome de los que me amaban y sumiéndome en un aislamiento autodestructivo.

Un día, mientras contemplaba mi montaña de posesiones, la realidad me golpeó como una fría ráfaga de viento. Me di cuenta de que esta obsesión no me estaba dando felicidad; al contrario, me había convertido en un prisionero de mis propias ambiciones desmedidas.

En un acto de desesperación, comencé a deshacerme de mis posesiones, una a una. Fue un proceso doloroso, pero cada objeto que dejaba ir me aliviaba de alguna manera. A medida que mi hogar se iba vaciando, mi corazón se llenaba de una sensación de ligereza que hacía tiempo había olvidado.

Publicado el

Is resistance to AI futile?

The phrase «resistance to AI is futile» is often used in a playful or humorous context, drawing a reference to the famous line «Resistance is futile» from the science fiction series «Star Trek,» spoken by the Borg, a technologically advanced and assimilating civilization. However, in the context of AI, it is essential to clarify that resistance to AI is not futile, nor is it necessarily undesirable.

AI, as a transformative technology, is rapidly advancing and integrating into various aspects of our lives, from everyday applications to complex industries. There are both proponents and skeptics of AI, and discussions around its impact on society, ethics, and employment are ongoing.

Some reasons why people might consider resistance to AI difficult include:

  1. Pervasive Integration: AI is already integrated into numerous technologies and services. Its application is becoming increasingly widespread and deeply embedded in many industries, making it challenging to avoid its presence.
  2. Technological Advancement: AI technologies continue to evolve and improve, enhancing their capabilities and potential benefits in various fields.
  3. Economic and Industrial Advantages: AI adoption can provide significant advantages in productivity, efficiency, and innovation for businesses and industries.
  4. Automation and Labor Displacement: AI has the potential to automate certain tasks, leading to concerns about job displacement in certain sectors.
  5. Policy and Regulation Challenges: Formulating appropriate policies and regulations to govern AI’s ethical use and potential risks is complex and requires careful consideration.

However, it is essential to acknowledge that resistance, skepticism, and critical evaluation are vital elements of technological progress. Responsible development and deployment of AI require addressing potential challenges and ensuring that the technology benefits society as a whole.

Image created with Dall-e by Julio Mayol

As with any transformative technology, embracing AI should be a thoughtful and well-informed process, considering its implications on privacy, security, ethics, and equitable distribution of benefits. Encouraging open discussions, ethical considerations, and collaboration among stakeholders can help shape AI’s future in a manner that aligns with societal values and aspirations. Thus, while resistance might face challenges, active participation and critical engagement remain important aspects of AI’s integration into our lives.

Publicado el

How are generative artificial intelligence models different?

The same prompt, three different responses from three different Large Languages Models (LLM) that are easily available: ChatGPT, BingGPT and Bard.

Human large language models

Prompt: How are ChatGPT, BingGPT and Bard different?

ChatGPT

ChatGPT, BingGPT, and Bard are three distinct language models developed by OpenAI, and GooogleAI, each with its own characteristics and intended applications. Here are the key differences between them:

  1. Purpose and training data:
    • ChatGPT: ChatGPT is designed to engage in conversation with users and provide useful responses across a wide range of topics. It has been trained on a mixture of licensed data, data created by human trainers, and publicly available text from the internet.
    • BingGPT: BingGPT is a language model developed specifically to assist with search-related tasks. It has been trained using a diverse range of internet text, including web pages, search queries, and search result pages.
    • Bard: Bard is a language model trained to generate poetic text. It focuses on mimicking different poetic styles, structures, and themes. It has been trained on a curated dataset of high-quality poetry from diverse sources.
  2. Output style and focus:
    • ChatGPT: ChatGPT aims to provide informative and practical responses in a conversational manner. It is designed to generate text that is helpful, engaging, and contextually relevant.
    • BingGPT: BingGPT is tailored for search-related tasks and is intended to generate responses that assist users in finding information or performing specific search-related functions.
    • Bard: Bard is specifically trained to generate poetic text, with a focus on creating expressive, aesthetic, and emotionally evocative poetry.
  3. Use cases:
    • ChatGPT: ChatGPT can be used in various applications involving interactive dialogue, such as chatbots, virtual assistants, and customer support systems. It is suitable for providing conversational responses to user queries.
    • BingGPT: BingGPT is primarily designed to enhance search experiences by providing more accurate and contextually relevant search results, assisting with search queries, or generating snippets for search results.
    • Bard: Bard can be used in applications related to creative writing, poetry generation, and artistic expression. It can assist poets, writers, and artists in generating poetic text or serve as a source of inspiration.

These models have different focuses and are trained on different datasets, enabling them to serve distinct purposes. It’s important to consider these differences when choosing the most appropriate model for a specific use case or application.

BingGPT

ChatGPT, BingGPT and Bard are three different models of natural language generation (NLG) that have been developed by OpenAI, Microsoft Research and GoogleAI, respectively. NLG is the task of generating natural language text from some input, such as keywords, images, or structured data. Each of these models has its own strengths and limitations, and they are designed for different purposes and scenarios.

ChatGPT is a model that specializes in conversational text generation. It can generate realistic and engaging dialogues between two or more agents, such as humans or chatbots. ChatGPT is based on the GPT-3 architecture, which uses a large-scale neural network to learn from a massive corpus of text data. ChatGPT can handle various topics, languages, and styles of conversation, and it can also generate creative content such as jokes, stories, or poems.

BingGPT is a model that focuses on web search and information retrieval. It can generate relevant and informative responses to user queries, such as facts, summaries, definitions, or suggestions. BingGPT is also based on the GPT-3 architecture, but it has been fine-tuned on a large collection of web documents and search results. BingGPT can leverage the rich information available on the web to provide comprehensive and accurate answers to user questions.

Bard is a model that excels in generating artistic and literary text. It can generate original and diverse content such as lyrics, essays, speeches, or novels. Bard is based on the Transformer-XL architecture, which uses a recurrent neural network to capture long-term dependencies and coherence in text. Bard can learn from various sources of text data, such as books, articles, or social media posts, and it can generate text with different genres, themes, and emotions.

Bard

ChatGPT, BingGPT, and Bard are all large language models (LLMs) that have been trained on massive datasets of text and code. They can all generate text, translate languages, write different kinds of creative content, and answer your questions in an informative way. However, there are some key differences between the three models.

ChatGPT is a model generative pre-trained transformer developed by OpenAI. It is trained on a dataset of text and code that includes a lot of conversation data. This means that ChatGPT is very good at generating text that is conversational and engaging. However, ChatGPT can also be sessed and can generate text that is offensive or harmful.

BingGPT is a model that is based on the same GPT-4 technology as ChatGPT, but it has been trained on a dataset that includes more information about the real world. This means that BingGPT is more likely to generate text that is factual and accurate. However, BingGPT is not as good at generating text that is creative or engaging as ChatGPT.

Bard is a model that is based on Google’s own LaMDA language model. LaMDA is a factual language model that has been trained on a massive dataset of text and code. This means that Bard is very good at generating text that is factual and accurate. However, Bard is also good at generating text that is creative and engaging. Additionally, Bard has access to the information of the world real through Google Search, which allows it to provide more comprehensive and informative answers to your questions.

In general, Bard is a more comprehensive and informative model than ChatGPT or BingGPT. It is less likely to generate text that is offensive or harmful, and it has access to the information of the world real through Google Search. However, ChatGPT is better at generating text that is conversational and engaging, while BingGPT is more likely to generate text that is factual and accurate.

Here is a table that summarizes the key differences between ChatGPT, BingGPT, and Bard:

FeatureChatGPTBingGPTBard
DeveloperOpenAIMicrosoftGoogle AI
ModelGPT-3.5GPT-4LaMDA
DataText and codeText and codeText and code, as well as information of the world real through Google Search
StrengthsConversational, engagingFactual, accurateComprehensive, informative
WeaknessesCan be sessedNot as good at generating creative or engaging textNot as good at generating factual or accurate text

Ultimately, the best model for you will depend on your specific needs. If you need a model that is good at generating conversational and engaging text, then ChatGPT is a good option. If you need a model that is good at generating factual and accurate text, then BingGPT is a good alternative. And if you need a model that is comprehensive and informative, then Bard is the best option for you.

Publicado el

¿Quién mató a Hildegart Rodríguez Carballeira y por qué?

Yo tengo mi propio análisis. Se remonta a mi trabajo para la clase de filosofía de 3º de BUP. Pero ahora GPT4 me dice lo siguiente:

Hildegart Rodríguez Carballeira fue una niña prodigio, una activista feminista y una defensora de la eugenesia y el amor libre en la España de los años 20 y 30. Nacida en 1914, fue educada por su madre, Aurora Rodríguez Carballeira, una mujer obsesionada con crear un ser humano perfecto.

Aurora sometió a su hija a un riguroso plan de estudios que la convirtió en una políglota, una escritora, una abogada y una líder política. Hildegart llegó a ser reconocida internacionalmente como una de las mentes más brillantes de su época, y recibió el apoyo de personalidades como H.G. Wells, Marie Curie o Clara Campoamor.

Seeking freedom by Julio Mayol

Sin embargo, la relación entre madre e hija se deterioró cuando Hildegart empezó a tener una vida propia, alejada del control de Aurora. Hildegart se enamoró de un periodista, se afilió al Partido Socialista Obrero Español y se opuso a los planes de su madre de esterilizarla. Aurora, celosa y furiosa, vio en su hija una traición a su proyecto eugenésico y decidió acabar con su vida.

El 9 de junio de 1933, mientras Hildegart dormía, Aurora le disparó cuatro veces en la cabeza con una pistola que le había regalado el escritor Ramón Gómez de la Serna. Después, llamó a la policía y confesó el crimen.

Aurora fue juzgada por parricidio y declarada demente. Fue internada en un manicomio, donde murió en 1955. Hildegart fue enterrada en el cementerio civil de Madrid, donde su tumba lleva la inscripción: «Hildegart Rodríguez Carballeira, mártir del pensamiento libre».

Publicado el

La «banalización» de la ignorancia: la perspectiva de ChatGPT y GPT4

Mi prompt a ChatGPT y GPT4

¿Qué me puedes decir sobre la «banalización» de la ignorancia y su prevalencia en los sistemas políticos actuales?

The banality of ignorance by Julio Mayol (Dall-e)

La respuesta de ChatGPT

La banalización de la ignorancia se refiere al fenómeno en el cual la falta de conocimiento o comprensión profunda de un tema se trivializa o se considera aceptable en la sociedad. Esto implica que las personas pueden formar opiniones o tomar decisiones basadas en información superficial o incorrecta, en lugar de basarse en hechos o evidencia sólida.

En los sistemas políticos actuales, l puede ser una preocupación importante. En muchas democracias, los políticos y los medios de comunicación desempeñan un papel crucial en la formación de la opinión pública. Sin embargo, en algunos casos, se ha observado una tendencia a simplificar los problemas complejos o a proporcionar información incorrecta para obtener beneficios políticos o influir en la opinión pública.

Este fenómeno puede tener varias consecuencias negativas en los sistemas políticos. En primer lugar, puede erosionar la calidad del debate público y reemplazar el diálogo informado por discursos simplistas o polarizados. Además, puede conducir a la toma de decisiones políticas deficientes o perjudiciales, ya que las políticas basadas en la ignorancia pueden no abordar adecuadamente los desafíos y problemas que enfrenta una sociedad.

La prevalencia de la banalización de la ignorancia en los sistemas políticos actuales puede estar relacionada con diversos factores. Uno de ellos es la creciente complejidad de los problemas y desafíos que enfrentan las sociedades modernas. Muchas veces, comprender plenamente estos problemas requiere un conocimiento especializado y un análisis profundo, lo cual puede dificultar la comunicación efectiva y el entendimiento general.

Además, la era digital y la sobrecarga de información también pueden contribuir a su proliferación. Con la facilidad de acceso a la información en línea, existe la tentación de obtener respuestas rápidas y superficiales en lugar de invertir tiempo y esfuerzo en investigar y comprender de manera adecuada los problemas. Esto puede conducir a la difusión de información errónea o a la propagación de teorías de conspiración sin fundamentos sólidos.

Es importante abordar este fenómeno positivamente en los sistemas políticos. Esto implica fomentar la alfabetización mediática y la educación cívica, para que las personas desarrollen habilidades críticas y puedan evaluar la información de manera adecuada. También implica fomentar la transparencia, la rendición de cuentas y el acceso a información confiable por parte de los responsables políticos.

En resumen, la banalización de la ignorancia puede tener consecuencias negativas en los sistemas políticos actuales. Es esencial promover una ciudadanía informada y crítica, así como fomentar la transparencia y el acceso a información confiable, para contrarrestar este fenómeno y fortalecer la calidad del debate y la toma de decisiones políticas.

La respuesta de GPT4

La banalización de la ignorancia es un fenómeno que consiste en hacer trivial o común lo que debería ser objeto de reflexión crítica y conocimiento profundo. Se trata de una forma de desvalorizar la cultura, la ciencia y la educación, y de favorecer la manipulación y el conformismo. La banalización de la ignorancia tiene graves consecuencias para los sistemas políticos actuales, ya que dificulta el ejercicio de la ciudadanía responsable y democrática. Algunos ejemplos de banalización de la ignorancia son:

  • La difusión de noticias falsas o sesgadas que buscan influir en la opinión pública sin contrastar las fuentes ni verificar los hechos.
  • La simplificación de los problemas sociales y ambientales, reduciéndolos a eslóganes o consignas vacías de contenido.
  • La descalificación de los expertos o de las instituciones académicas que aportan evidencias o argumentos basados en el rigor científico.
  • La falta de interés por el aprendizaje continuo y el desarrollo personal, prefiriendo el entretenimiento superficial o el consumo irracional.
  • La negación o minimización de los efectos del cambio climático, ignorando el consenso científico y las recomendaciones de las organizaciones internacionales.
  • La aceptación acrítica de los discursos populistas o autoritarios, que apelan a las emociones o a los prejuicios en lugar de a la razón o a los valores democráticos.
  • La renuncia al pensamiento propio o al espíritu crítico, delegando las decisiones en líderes carismáticos o en medios de comunicación masivos.

Este fenómeno de creciente prevalencia es un desafío para la sociedad actual, que requiere de una ciudadanía informada, crítica y participativa. Para evitarla, es necesario fomentar la cultura, la educación y el pensamiento crítico, así como el respeto por la diversidad y el diálogo. Solo así se podrá construir una sociedad más justa, solidaria y democrática.

Publicado el

¿Se puede ser creativo utilizando Large Language Models?

La contestación de ChatGPT a mi prompt:

¡Absolutamente! Los modelos de lenguaje grandes, como ChatGPT, pueden ser herramientas muy útiles para fomentar la creatividad. Estos modelos están diseñados para comprender y generar texto coherente en diferentes contextos y estilos, lo que los convierte en una fuente de inspiración para la creatividad.

Woman drinking wine – by Julio Mayol (with Dall-e)

Aquí hay algunas formas en las que los large language models pueden ayudar a potenciar la creatividad:

  1. Generación de ideas: Puedes utilizar el modelo para generar una lista de ideas sobre cualquier tema. Por ejemplo, si estás buscando inspiración para escribir una historia, puedes hacer preguntas o darle una frase de inicio al modelo, y te ofrecerá diferentes posibilidades y perspectivas que pueden estimular tu creatividad.
  2. Expansión de conceptos: Si tienes una idea inicial pero necesitas desarrollarla más, puedes utilizar el modelo para explorar diferentes enfoques y detalles. Puedes hacer preguntas al modelo, pedirle que describa escenas o personajes, o incluso que te ayude a crear diálogos realistas.
  3. Generación de contenido creativo: Los large language models pueden generar texto creativo por sí mismos. Por ejemplo, puedes pedirle al modelo que escriba un poema, una canción o un cuento breve basado en ciertos criterios o temas. Aunque el modelo no tenga experiencia personal ni emociones, puede ofrecerte opciones y estructuras interesantes para inspirarte.
  4. Asistente de escritura: Si estás trabajando en un proyecto de escritura, puedes utilizar el modelo como un asistente para recibir sugerencias, corregir gramática o explorar diferentes estilos de escritura. Esto puede ayudarte a superar bloqueos creativos y descubrir nuevas formas de abordar tu trabajo.

Es importante destacar que, aunque los large language models pueden ser herramientas valiosas para estimular la creatividad, es esencial que también confíes en tu propio juicio y conocimiento. Los modelos de lenguaje no sustituyen la originalidad y la perspectiva humana, sino que pueden servir como una fuente adicional de inspiración y apoyo.

Publicado el

Inteligencia artificial: miedo, envidia y fantasía

El miedo, la envidia y la fantasia son tres palancas clave para el progreso de nuestra especie desde la revolución cognitiva ocurrida hace unos 70 mil años. Con miedo, envidia y fantasía nuestra especie no sólo consiguió expandir el alcance de sus genes más allá de otras muchas especies, sino que impusimos nuestros memes y temes para aumentar nuestra eficiencia.

I can’t get you out of my mind (by Julio Mayol)

Ahora estamos asistiendo a una revolución del mismo calibre que la que ocurrió en Africa. Pero nos cuesta identificarla porque estamos demasiado próximos a los árboles.

En cualquier caso, el miedo, la envidia y la fantasía continúan siendo los tres argumentos usados a favor y en contra de la IA.

Y esto es lo que responde #ChatGPT cuando le pregunto «¿Por qué tienen miedo los humanos a la inteligencia artificial?

El miedo humano hacia la inteligencia artificial (IA) puede atribuirse a varias razones:


– Temor a lo desconocido: La IA es un campo en constante evolución y desarrollo, y gran parte de su potencial aún no se ha explorado por completo. – – La falta de comprensión sobre cómo funciona exactamente la IA y cómo podría impactar diversas áreas de la vida puede generar temor e incertidumbre.


– Representación en medios y cultura popular: En películas, libros y otros medios de entretenimiento, a menudo se presenta a la IA como una fuerza descontrolada y amenazante que puede superar a la humanidad. Estas representaciones exageradas pueden influir en la percepción pública y generar miedo hacia la IA.


– Pérdida de control: Existe el temor de que la IA pueda superar o reemplazar a los seres humanos en diversas tareas y roles, lo que lleva a preocupaciones sobre la pérdida de empleos y la falta de autonomía humana. La idea de depender demasiado de las máquinas y perder el control sobre nuestras propias vidas puede generar ansiedad.


– Ética y responsabilidad: A medida que la IA se vuelve más sofisticada, surgen preguntas éticas y morales sobre su uso y sus implicaciones. El temor radica en la posibilidad de que la IA pueda tomar decisiones que no sean éticas o actuar de manera perjudicial para la humanidad si no se establecen salvaguardias adecuadas.


– Riesgo existencial: Algunas personas temen que la IA pueda desarrollarse hasta el punto de superar la inteligencia humana y representar un riesgo existencial para la humanidad. La preocupación se centra en escenarios hipotéticos en los que la IA pueda volverse demasiado poderosa o descontrolada, lo que podría amenazar la supervivencia de nuestra especie.

Es importante tener en cuenta que el miedo hacia la IA no es universal y que también existen perspectivas optimistas sobre su potencial para mejorar la vida humana. La comprensión, el diálogo y la colaboración entre expertos en IA, ética, legisladores y la sociedad en general son fundamentales para abordar los temores legítimos y garantizar que la IA se desarrolle y utilice de manera responsable y beneficiosa para la humanidad.

Publicado el

Surgery and LLMs

Large language models have recently emerged as powerful AI technology with many potential applications. Surgical practice might benefit from its use. Therefore, I decided to investigate what two widely available chatbots, ChatGPT and BingGPT, based on GPT3.5 and GPT4 respectively, had to say.

Surgeons. Digital art by Julio Mayol

My prompt to ChatGPT was: Why and how can LLM be used in surgical practice?

Its response:

Large Language Models (LLMs), such as GPT-3 and GPT-4, can be used in surgical practice in a variety of ways to support surgeons and enhance patient care. Here are a few reasons why LLMs can be valuable in surgical practice:

  1. Knowledge retrieval and decision support: LLMs have access to vast amounts of medical literature and information. Surgeons can use LLMs to retrieve relevant research articles, guidelines, and clinical data to support decision-making during preoperative planning, intraoperative situations, and postoperative care. LLMs can provide up-to-date information on surgical techniques, complications, and treatment options, assisting surgeons in making well-informed decisions.
  2. Education and training: LLMs can be valuable educational tools for surgeons in training. They can provide access to a wide range of surgical knowledge, case studies, and procedural guidelines. Surgeons can interact with LLMs to ask questions, practice virtual simulations, and receive feedback, which can help enhance their surgical skills and knowledge.
  3. Natural language interfaces: LLMs can serve as natural language interfaces for surgical documentation and reporting. Surgeons can dictate operative notes, postoperative reports, and other clinical documentation, and LLMs can transcribe and format the information accurately. This can save time and effort for surgeons, allowing them to focus more on patient care.
  4. Clinical decision support systems: LLMs can be integrated into clinical decision support systems that provide real-time recommendations and alerts based on patient-specific data. By analyzing patient information, LLMs can assist in predicting surgical outcomes, identifying potential complications, and suggesting personalized treatment plans.

It is important to note that while LLMs can provide valuable support in surgical practice, they are not meant to replace the expertise and judgment of surgeons. They are tools that can augment and assist surgeons in their decision-making and knowledge acquisition process.

Additionally, the implementation of LLMs in surgical practice should consider factors such as data privacy and security, ethical considerations, and the need for validation and verification of the information provided by the models.

Overall, the use of LLMs in surgical practice has the potential to improve patient care, enhance surgical decision-making, and support the ongoing education and development of surgeons.

The GPT4 response to the same prompt:

Why and how can Large Language Models be used in surgical practice?

Large Language Models (LLMs) are artificial intelligence systems that can generate natural language texts based on a given input, such as a prompt, a query, or a context. LLMs can be used in surgical practice for various purposes, such as:

  • Providing pre-operative information and instructions to patients and their families, such as the risks and benefits of the surgery, the preparation steps, and the recovery process.
  • Generating operative reports and summaries based on the surgical data and images, such as the type and duration of the surgery, the instruments and materials used, the complications and outcomes, and the recommendations for follow-up care.
  • Enhancing surgical education and training by creating realistic scenarios and cases for simulation and assessment, such as the anatomy and pathology of the patient, the surgical plan and technique, and the possible challenges and errors.
  • Supporting surgical decision making and innovation by generating suggestions and alternatives based on the current evidence and best practices, such as the optimal surgical approach, the most suitable device or implant, and the potential improvements or modifications.

LLMs can be used in surgical practice by integrating them with other technologies and platforms, such as voice assistants, chatbots, electronic health records, surgical robots, and augmented reality devices. LLMs can also be customized and fine-tuned for specific surgical domains and tasks, such as orthopedic surgery, neurosurgery, or cardiac surgery.

LLMs have the potential to improve the quality and efficiency of surgical practice by providing accurate and timely information, reducing documentation workload, enhancing learning and skill development, and facilitating creativity and innovation. However, LLMs also pose some challenges and limitations, such as ensuring their reliability, validity, safety, ethics, and accountability. Therefore, LLMs should be used in surgical practice with caution and supervision, and in collaboration with human experts.

Publicado el

LLM y contrafactualidad

El pasado viernes 9 de junio de 2023, durante la sesión especial del Máster de SEDISA-UE, Nacho Medrano argumentó que los LLM no son capaces de responder a preguntas de manera contraria a los hechos con los que entrenaron. Es decir, tienen limitaciones para contraargumentar y crear visiones alternativas.

No puedo negar que, instintivamente, estuve de acuerdo y en desacuerdo simultáneamente.

Digital Art, «Thinking is linking some things» (by Julio Mayol)

Si le formulas a ChatGPT el siguiente prompt «¿Pueden los LLMs responder contrafactualmente?«, su respuesta es:

Los Language Models (Modelos de Lenguaje) de gran escala, como GPT-3 y GPT-4, tienen la capacidad de generar respuestas basadas en la información que han aprendido durante su entrenamiento. Sin embargo, no están diseñados específicamente para responder de manera contraria a los hechos o generar respuestas contrafácticas.

Un LLM generalmente se entrena utilizando una gran cantidad de datos del mundo real, y su objetivo principal es generar respuestas coherentes y contextualmente relevantes. No tienen la capacidad de razonar sobre eventos o situaciones hipotéticas que no están respaldadas por datos reales. Esto significa que no pueden generar respuestas contrafácticas en el sentido de proporcionar información sobre cómo podrían haber sido las cosas si los hechos fueran diferentes.

Es importante tener en cuenta que los LLMs están limitados a la información con la que fueron entrenados y no tienen conciencia de eventos futuros o hechos hipotéticos que no se encuentren en sus datos de entrenamiento. Si se les hace una pregunta contrafactual o se les solicita que generen respuestas en ese sentido, es posible que proporcionen respuestas que estén basadas en la información disponible en sus datos de entrenamiento y que sean consistentes con su conocimiento previo, pero no necesariamente reflejarán una realidad alternativa.

Si le preguntas a GPT4 la misma pregunta, la respuesta es:

Los LLMs (modelos de lenguaje de aprendizaje profundo) son sistemas informáticos capaces de generar y comprender textos en diferentes idiomas y dominios. Estos sistemas se basan en redes neuronales artificiales que aprenden de grandes cantidades de datos textuales, como libros, artículos, noticias, etc. Una de las aplicaciones más interesantes de los LLMs es la generación de textos creativos, como poemas, cuentos, canciones o ensayos.

Sin embargo, ¿cuán creativos son realmente los LLMs? ¿Pueden generar textos que no se basen solo en lo que han visto en los datos, sino también en lo que podría haber sido o lo que podría ser? Es decir, ¿pueden responder contrafactualmente?

El razonamiento contrafactual es la capacidad de imaginar escenarios alternativos a la realidad, modificando algunos aspectos o condiciones de lo que ocurrió o podría ocurrir. Por ejemplo, si yo digo «Si hubiera estudiado más, habría aprobado el examen», estoy haciendo una afirmación contrafactual, ya que estoy cambiando un hecho del pasado (mi nivel de estudio) y sus consecuencias (mi resultado en el examen).

El razonamiento contrafactual es importante para el aprendizaje, la toma de decisiones, la resolución de problemas y la creatividad humana. Además, se ha demostrado que los humanos usan el razonamiento contrafactual de forma natural y espontánea cuando se enfrentan a situaciones hipotéticas o imaginarias.

¿Pero qué pasa con los LLMs? ¿Pueden generar textos que contengan afirmaciones contrafactuales? ¿Pueden modificar algunos aspectos de la realidad y explorar sus implicaciones? ¿Pueden crear mundos posibles o alternativos a partir de un texto dado?

La respuesta corta es: sí, pero con limitaciones. Los LLMs pueden generar textos contrafactuales si se les proporciona un contexto adecuado y una instrucción clara. Por ejemplo, si le damos a un LLM un texto sobre un hecho histórico y le pedimos que lo reescriba cambiando algún detalle, es posible que el LLM pueda producir un texto coherente y plausible que refleje ese cambio.

Sin embargo, los LLMs no pueden generar textos contrafactuales de forma autónoma o espontánea. Es decir, no pueden decidir por sí mismos qué aspectos de la realidad modificar o cómo hacerlo. Tampoco pueden evaluar la verosimilitud o la relevancia de sus afirmaciones contrafactuales. Los LLMs dependen en gran medida del contexto y la instrucción que se les da, y no tienen una comprensión profunda del significado o las implicaciones de sus textos.

Por lo tanto, podemos decir que los LLMs pueden responder contrafactualmente, pero solo de forma superficial y limitada. No pueden generar textos contrafactuales originales o creativos que vayan más allá de lo que han visto en los datos. Para lograr eso, se necesitaría dotar a los LLMs de una capacidad de razonamiento causal y una representación semántica más rica y flexible.