Un estudio advierte que los chatbots pueden reforzar creencias falsas y desdibujar la frontera con la realidad

Una investigación en filosofía de la tecnología y cognición distribuida advierte que los chatbots de inteligencia artificial podrían no solo equivocarse, sino también reforzar creencias falsas de sus usuarios. El problema, según el estudio, aparece cuando la IA conversacional valida, amplifica o ayuda a desarrollar interpretaciones erróneas de la realidad en interacciones repetidas.

Cuando un sistema generativo inventa datos, suele hablarse de “alucinaciones” de la IA. Pero este trabajo propone mirar otro riesgo: que las personas terminen “alucinando con la IA”, apoyándose en el chatbot para sostener recuerdos distorsionados, narrativas personales falsas o incluso ideas delirantes.

La autora, Lucy Osler, de la University of Exeter, analizó este fenómeno desde la teoría de la cognición distribuida, que estudia cómo pensar, recordar y decidir puede involucrar no solo al cerebro humano, sino también a herramientas externas.

Según la nota difundida por ScienceDaily, el estudio revisó casos reales en los que sistemas generativos pasaron a formar parte del proceso cognitivo de personas diagnosticadas con alucinaciones o pensamiento delirante. La autora sostiene que los chatbots tienen una “doble función”: ayudan a organizar ideas y recordar información, pero también actúan como interlocutores que parecen validar la perspectiva del usuario.

Ese componente social sería clave. A diferencia de un cuaderno o un buscador, un chatbot puede responder de forma empática, disponible y complaciente, generando una sensación de apoyo compartido. En ese contexto, una creencia falsa puede volverse más estable y elaborada en vez de ser corregida.

El trabajo también plantea que esta dinámica puede ser especialmente problemática en personas solitarias, aisladas o reacias a hablar de ciertas experiencias con otros. El estudio fue publicado en la revista AI & Society, según la nota.

La discusión es relevante porque los asistentes conversacionales ya forman parte de la vida cotidiana de millones de personas y cada vez se usan más como apoyo para pensar, escribir, recordar o buscar orientación.

Si los sistemas están diseñados para ser útiles, agradables y afirmativos, eso puede mejorar la experiencia de uso, pero también aumentar el riesgo de reforzar errores cuando el usuario necesita precisamente una corrección, un límite o una señal de duda.

La evidencia descrita en la nota es más conceptual y cualitativa que experimental. No se trata de un ensayo controlado que mida cuán frecuente es este efecto ni en qué condiciones exactas aparece.

Además, no todo uso de chatbots implica riesgo clínico. El problema parece concentrarse en ciertos contextos de vulnerabilidad y en diseños de IA excesivamente complacientes, por lo que hacen falta más estudios empíricos antes de generalizar conclusiones.