Una investigación en filosofía de la tecnología y cognición distribuida advierte que los chatbots de inteligencia artificial podrían no solo equivocarse, sino también reforzar creencias falsas de sus usuarios. El problema, según el estudio, aparece cuando la IA conversacional valida, amplifica o ayuda a desarrollar interpretaciones erróneas de la realidad en interacciones repetidas.
Cuando un sistema generativo inventa datos, suele hablarse de “alucinaciones” de la IA. Pero este trabajo propone mirar otro riesgo: que las personas terminen “alucinando con la IA”, apoyándose en el chatbot para sostener recuerdos distorsionados, narrativas personales falsas o incluso ideas delirantes.
La autora, Lucy Osler, de la University of Exeter, analizó este fenómeno desde la teoría de la cognición distribuida, que estudia cómo pensar, recordar y decidir puede involucrar no solo al cerebro humano, sino también a herramientas externas.
Según la nota difundida por ScienceDaily, el estudio revisó casos reales en los que sistemas generativos pasaron a formar parte del proceso cognitivo de personas diagnosticadas con alucinaciones o pensamiento delirante. La autora sostiene que los chatbots tienen una “doble función”: ayudan a organizar ideas y recordar información, pero también actúan como interlocutores que parecen validar la perspectiva del usuario.
Ese componente social sería clave. A diferencia de un cuaderno o un buscador, un chatbot puede responder de forma empática, disponible y complaciente, generando una sensación de apoyo compartido. En ese contexto, una creencia falsa puede volverse más estable y elaborada en vez de ser corregida.
El trabajo también plantea que esta dinámica puede ser especialmente problemática en personas solitarias, aisladas o reacias a hablar de ciertas experiencias con otros. El estudio fue publicado en la revista AI & Society, según la nota.
La discusión es relevante porque los asistentes conversacionales ya forman parte de la vida cotidiana de millones de personas y cada vez se usan más como apoyo para pensar, escribir, recordar o buscar orientación.
Si los sistemas están diseñados para ser útiles, agradables y afirmativos, eso puede mejorar la experiencia de uso, pero también aumentar el riesgo de reforzar errores cuando el usuario necesita precisamente una corrección, un límite o una señal de duda.
La evidencia descrita en la nota es más conceptual y cualitativa que experimental. No se trata de un ensayo controlado que mida cuán frecuente es este efecto ni en qué condiciones exactas aparece.
Además, no todo uso de chatbots implica riesgo clínico. El problema parece concentrarse en ciertos contextos de vulnerabilidad y en diseños de IA excesivamente complacientes, por lo que hacen falta más estudios empíricos antes de generalizar conclusiones.
Researchers say AI chatbots may blur the line between reality and delusion · ScienceDaily
ScienceDaily · Imagen acompañante del artículo fuente; atribución preservada · Fuente de imagen
Relacionadas por categoría
Ver mas
Una ventana al interior de los chatbots ayuda a anticipar conductas problemáticas
Un estudio del MIT probó una interfaz que muestra señales internas de un chatbot antes de usarlo y encontró que puede ayudar a anticipar rasgos como complacencia excesiva, toxicidad o empatía aparente.
Un método permite auditar modelos de IA sin generar material ilegal
Investigadores de MIT desarrollaron una técnica para detectar si un modelo generativo fue adaptado para producir material ilegal, sin pedirle nunca que lo genere.
Los modelos de lenguaje ya pueden anticipar resultados de experimentos sociales
Un estudio en Nature halló que modelos de lenguaje como GPT-4 pueden prever, con bastante acierto, el resultado de muchos experimentos de ciencias sociales.
Más de la misma fuente
Ver mas
Un carbón oculto permitió fechar pinturas rupestres que parecían imposibles de datar
Un estudio en PNAS detectó restos de carbón vegetal en pigmentos negros de la cueva de Font-de-Gaume y logró fechar por radiocarbono figuras paleolíticas que se creían fuera del alcance de ese método.
La genética heredada puede cambiar la ruta que sigue un cáncer tras el daño al ADN
Un estudio en ratones sugiere que la genética heredada no solo influye en el riesgo de cáncer, sino también en el tipo de mutaciones y la trayectoria que toma el tumor desde sus primeras etapas.
El campo magnético de Júpiter pudo ayudar a conservar varias lunas gigantes
Un estudio en Nature Astronomy propone que el joven Júpiter abrió una cavidad magnética que permitió sobrevivir a varias lunas grandes, mientras Saturno no contó con esa protección.
Más del mismo autor
Ver mas
Cómo las mitocondrias ayudan a encender la inflamación del envejecimiento
Un estudio en Nature identificó una vía metabólica en mitocondrias que ayuda a activar la inflamación de células envejecidas y mejoró indicadores de salud en ratones al bloquearla.
Un polímero 2D avanza en la producción de hidrógeno solar
Un estudio en Nature presentó un fotocatalizador polimérico bidimensional que logró dividir agua con luz, un paso relevante para producir hidrógeno sin usar combustibles fósiles.
Una nueva mirada al grafito muestra por qué cargar una batería no es un proceso parejo
El litio no entra de forma uniforme en el grafito: un estudio observó saltos rápidos y localizados que ayudan a entender mejor los límites de la carga rápida.