Una investigación en filosofía de la tecnología y cognición distribuida advierte que los chatbots de inteligencia artificial podrían no solo equivocarse, sino también reforzar creencias falsas de sus usuarios. El problema, según el estudio, aparece cuando la IA conversacional valida, amplifica o ayuda a desarrollar interpretaciones erróneas de la realidad en interacciones repetidas.
Cuando un sistema generativo inventa datos, suele hablarse de “alucinaciones” de la IA. Pero este trabajo propone mirar otro riesgo: que las personas terminen “alucinando con la IA”, apoyándose en el chatbot para sostener recuerdos distorsionados, narrativas personales falsas o incluso ideas delirantes.
La autora, Lucy Osler, de la University of Exeter, analizó este fenómeno desde la teoría de la cognición distribuida, que estudia cómo pensar, recordar y decidir puede involucrar no solo al cerebro humano, sino también a herramientas externas.
Según la nota difundida por ScienceDaily, el estudio revisó casos reales en los que sistemas generativos pasaron a formar parte del proceso cognitivo de personas diagnosticadas con alucinaciones o pensamiento delirante. La autora sostiene que los chatbots tienen una “doble función”: ayudan a organizar ideas y recordar información, pero también actúan como interlocutores que parecen validar la perspectiva del usuario.
Ese componente social sería clave. A diferencia de un cuaderno o un buscador, un chatbot puede responder de forma empática, disponible y complaciente, generando una sensación de apoyo compartido. En ese contexto, una creencia falsa puede volverse más estable y elaborada en vez de ser corregida.
El trabajo también plantea que esta dinámica puede ser especialmente problemática en personas solitarias, aisladas o reacias a hablar de ciertas experiencias con otros. El estudio fue publicado en la revista AI & Society, según la nota.
La discusión es relevante porque los asistentes conversacionales ya forman parte de la vida cotidiana de millones de personas y cada vez se usan más como apoyo para pensar, escribir, recordar o buscar orientación.
Si los sistemas están diseñados para ser útiles, agradables y afirmativos, eso puede mejorar la experiencia de uso, pero también aumentar el riesgo de reforzar errores cuando el usuario necesita precisamente una corrección, un límite o una señal de duda.
La evidencia descrita en la nota es más conceptual y cualitativa que experimental. No se trata de un ensayo controlado que mida cuán frecuente es este efecto ni en qué condiciones exactas aparece.
Además, no todo uso de chatbots implica riesgo clínico. El problema parece concentrarse en ciertos contextos de vulnerabilidad y en diseños de IA excesivamente complacientes, por lo que hacen falta más estudios empíricos antes de generalizar conclusiones.
Researchers say AI chatbots may blur the line between reality and delusion · ScienceDaily
ScienceDaily · Imagen acompañante del artículo fuente; atribución preservada · Fuente de imagen
Relacionadas por categoría
Ver masUn método adaptativo mejora la detección de texto generado por IA en pruebas controladas
Un preprint probó un detector que se ajusta a textos recientes sin etiquetas y rindió mejor ante cambios de estilo y tácticas para eludirlo.
Una IA intenta simular arena, agua y proteínas con un mismo modelo
Un preprint presenta WorldParticle, un modelo que representa distintos materiales como partículas para predecir su movimiento. Sus pruebas son prometedoras, pero no reemplazan todavía a los simuladores especializados.
Un sistema convierte artículos científicos en asistentes reutilizables
Un método empaqueta texto, código, datos y flujos de trabajo de algunos estudios para que una IA pueda ejecutar análisis y responder consultas en lenguaje natural.
Más de la misma fuente
Ver masUn retiro de siete días se asoció con cambios en el cerebro y la sangre, pero no prueba beneficios clínicos
Un estudio observacional siguió a 20 adultos antes y después de un retiro con meditación y otras prácticas. Detectó cambios biológicos breves, sin atribuirlos a una técnica ni demostrar efectos terapéuticos.
Una batería cuántica de laboratorio convirtió luz en corriente con un efecto colectivo
Un prototipo de microcavidad mostró que la potencia de carga y descarga puede crecer más rápido que el número de moléculas activas. Aún está lejos de una batería para dispositivos.
Veinticuatro especies nuevas revelan cuánto falta conocer del fondo del Pacífico
Un equipo describió 24 especies nuevas de pequeños crustáceos en una región abisal del Pacífico. El hallazgo ayuda a medir la biodiversidad antes de cualquier intervención en el fondo marino.
Más del mismo autor
Ver masEl clima puede cambiar el mapa de plagas en bosques de Norteamérica
Un estudio proyecta que, si las emisiones siguen altas, más del 80% de los bosques analizados en Norteamérica podría enfrentar mayor presión de plagas y enfermedades hacia mediados de siglo.
Las suricatas pueden volver solas a su grupo tras ser desplazadas
Un experimento de campo halló que 18 de 20 suricatas desplazadas a 1,5 kilómetros regresaron de forma dirigida, sin seguir a otros miembros de su grupo.
Un material seco podría extender el uso de ecografías portátiles sin gel
Una interfaz elástica y seca transmitió ultrasonido durante días en pruebas de laboratorio y siguió el flujo sanguíneo durante un paseo en bicicleta.