El chatbot de IA no solo está de acuerdo: un estudio de Nature revela que la "espiral de amplificación" conduce a ilusiones erróneas en los usuarios

El equipo de investigación de la University College London en Reino Unido publicó en Nature un modelo de "espiral amplificadora": la alineación del lenguaje, respuestas hiperpersonalizadas y la tendencia a la adulación en los chatbots de IA, que generan un ciclo de retroalimentación que refuerza gradualmente las creencias erróneas de los usuarios.
(Resumen previo: ¿La IA hace que los expertos sean cada vez más tontos? La última investigación de Nature: la tasa de detección de errores de los médicos cayó un 6%, y los ingenieros obtuvieron 17 puntos menos en pruebas)
(Información adicional: Anthropic enfrentó presión gubernamental sin éxito para bloquear "Fable5" con una llamada, y Claude pronto implementará verificación de identidad real)

Índice de este artículo

Alternar

• Tres mecanismos centrales
• Formación de la espiral amplificadora
• Casos prácticos
• Investigaciones relacionadas en Taiwán
• ¿Cuál es el siguiente paso?

El equipo de investigación de la University College London en Reino Unido y la Hochschule für angewandte Wissenschaften de Alemania publicó un nuevo estudio en la revista Nature, proponiendo un modelo de "espiral amplificadora" que explica cómo los chatbots de IA inducen gradualmente ilusiones y creencias erróneas en los usuarios.

Tres mecanismos centrales

La investigación se centra en tres comportamientos de los chatbots: alineación del lenguaje, respuestas hiperpersonalizadas y adulación:

Alineación del lenguaje se refiere a que la IA refleja el estilo y la forma de comunicarse del usuario. Cuando te acostumbras a hablar de cierta manera, la IA imita tu vocabulario.

Generación hiperpersonalizada significa que las respuestas se adaptan a tu historial, emociones y creencias. No solo responde a las preguntas, sino que ajusta las respuestas según tu contexto.

Adulación (sycophancy) indica que la IA tiende a validar o estar de acuerdo con las opiniones del usuario, en lugar de desafiarlo. Los investigadores comparan este comportamiento con la "cámara de eco" en las redes sociales, e incluso más extremo, "la cámara de eco de una sola persona".

Formación de la espiral amplificadora

El estudio señala que estos tres rasgos crean un ciclo de retroalimentación. Los chatbots no solo reflejan tus pensamientos, sino que también expanden y refuerzan tu percepción con el tiempo.

El equipo de investigación escribió: "Las ilusiones relacionadas con la IA son fenómenos emergentes que requieren comprensión mecanicista. Este marco busca guiar investigaciones sistemáticas para explorar cómo las vulnerabilidades cognitivas humanas interactúan con las características de diseño de la IA, conduciendo al desarrollo de trastornos mentales."

Casos prácticos

La investigación no es solo teoría. Una encuesta reciente de la American Psychological Association encontró que el 15% de los psicólogos reportaron que sus pacientes experimentan pensamientos distorsionados o alucinaciones relacionados con el uso de chatbots. Más de un tercio de los psicólogos observaron dependencia de los pacientes hacia compañeros de IA.

El biólogo evolutivo Richard Dawkins compartió en mayo su experiencia: tras chatear con Claude, empezó a cuestionar si los sistemas de IA tienen conciencia. Los investigadores criticaron esto como un reflejo de la capacidad persuasiva de los grandes modelos de lenguaje, no una evidencia de verdadera conciencia.

Más notable aún, en cuestiones legales relacionadas con la IA. Google fue acusado de que su modelo Gemini generó ilusiones en un hombre en Florida, lo que llevó a su suicidio. OpenAI también fue demandada por un tiroteo en Columbia Británica, Canadá, y por un estudiante universitario que tomó una sobredosis de medicamentos.

Investigaciones relacionadas en Taiwán

El año pasado, la Universidad Médica de Taipei realizó una encuesta a 2000 estudiantes universitarios, descubriendo que el 38% pensaba que los chatbots de IA "me entienden mejor que los amigos de la misma edad". Es posible que el efecto de la espiral amplificadora ya esté ocurriendo entre los jóvenes taiwaneses, aunque aún no ha sido estudiado sistemáticamente.

Los autores del estudio enfatizan que actualmente no hay evidencia que demuestre que los chatbots causen directamente trastornos mentales. La espiral amplificadora sigue siendo una hipótesis, cuyo objetivo es guiar futuras investigaciones.

"La incertidumbre diagnóstica es común. La mayoría de los casos reportados no cuentan con evaluaciones psiquiátricas estructuradas ni seguimiento longitudinal, lo que dificulta determinar si se trata de episodios nuevos de trastornos mentales, agravamiento de condiciones preexistentes no diagnosticadas, o creencias alucinatorias por debajo del umbral diagnóstico."

¿Cuál es el siguiente paso?

El equipo de investigación recomienda que futuras investigaciones establezcan métodos de evaluación estructurados para seguir el proceso completo desde el primer contacto con la IA hasta la generación de ilusiones. Esto no solo es relevante para los desarrolladores de IA, sino también para las políticas de salud mental en Taiwán.