La IA no alucina, el que alucina eres tú

Dr. Jorge Alberto Hidalgo Toledo, Human & Nonhuman Communication Lab, Facultad de Comunicación, Universidad Anáhuac México.

La inteligencia artificial no alucina sola. Sus errores necesitan de nuestra prisa, de nuestra fascinación por la respuesta inmediata, de esa antigua debilidad humana por creerle más a la forma que a la verdad. La máquina no ve fantasmas. Los fabrica estadísticamente cuando le pedimos certeza donde sólo hay probabilidad. El drama comienza cuando el sujeto, seducido por una sintaxis limpia y una voz sin titubeos, abdica de su tarea más humana: verificar, interpretar, hacerse cargo de lo que afirma.

La palabra “alucinación” aplicada a los modelos generativos resulta eficaz y tramposa. Sirve para nombrar esos momentos en que un sistema produce fuentes inexistentes, inventa relaciones causales, atribuye frases a autores que jamás las escribieron o construye respuestas perfectamente verosímiles sobre una base frágil. Pero también desplaza el problema hacia la máquina, como si estuviéramos ante un pequeño delirio autónomo, ante una imaginación sintética que se extravía por sus propios laberintos. No. La IA no alucina, no sueña, no recuerda, no miente con intención moral. Opera sobre patrones, distribuciones, regularidades textuales. Ensambla continuidad. Calcula plausibilidad. Produce lenguaje sin mundo vivido.

Ahí se abre la herida. Porque el ser humano sí habita el mundo que sus palabras afectan. La diferencia entre error maquínico y error humano no está sólo en la precisión del dato, sino en la responsabilidad que acompaña la enunciación. Paul Ricoeur comprendió que narrar nunca es reproducir mecánicamente lo sucedido, sino configurar sentido en el tiempo. Toda interpretación organiza, selecciona, da forma a la experiencia. Cuando delegamos esa configuración a un sistema sin biografía, ganamos velocidad, pero podemos perder espesor moral; perdemos nuestra agencia cognitiva. La máquina redacta; el sujeto responde ante la verdad herida por esa redacción.

La expansión de la IA no es marginal. El Stanford AI Index Report 2025 registra que 78% de las organizaciones reportaron usar IA en 2024, frente a 55% el año anterior, mientras la inversión privada global en IA generativa alcanzó 33.9 mil millones de dólares. La pregunta no es si estas tecnologías serán parte de la vida social. Ya lo son. La pregunta más grave es qué clase de cultura epistémica estamos construyendo alrededor de ellas: una cultura del discernimiento o una cultura del asentimiento automático.

La confianza no nace únicamente del dato. Nace de la puesta en escena. Una respuesta bien redactada tranquiliza. Una estructura ordenada produce la ilusión de fundamento. Una explicación fluida parece conocimiento.

Ahí se encuentra una de las trampas comunicacionales más delicadas de la IA generativa: su retórica de autoridad. John Searle mostró, con el célebre argumento de la habitación china, que manipular símbolos correctamente no equivale a comprenderlos. La IA contemporánea ha sofisticado esa habitación hasta convertirla en interfaz conversacional. Contesta como si comprendiera. Relaciona como si hubiera estudiado. Sugiere como si ponderara. Su cortesía discursiva puede adormecer nuestro juicio.

El problema adquiere densidad social cuando la respuesta generada se vuelve insumo para educar, informar, decidir, publicar o gobernar. Un estudio global de KPMG y la University of Melbourne encontró que dos de cada tres empleados reportan apoyarse en salidas de IA sin evaluar críticamente la información, y más de la mitad afirma haber cometido errores laborales por su uso.

En educación, el dato se vuelve todavía más inquietante: 83% de los estudiantes encuestados usa IA regularmente en sus estudios; alrededor de tres cuartas partes reconoce haber dependido de la IA sin evaluar la información o sentirse incapaz de completar tareas sin su ayuda. No estamos frente a una herramienta más. Estamos ante una prótesis cognitiva que puede fortalecer la agencia o atrofiarla.

La alucinación, entonces, no reside sólo en el modelo. También aparece en el sujeto que acepta sin contrastar, en la institución que adopta sin formar, en la empresa que automatiza sin gobernanza, en el aula que prohíbe sin enseñar criterio o que permite sin exigir trazabilidad. El error técnico se vuelve falla cultural cuando encuentra una comunidad dispuesta a consumirlo como verdad.

Hannah Arendt distinguía entre labor, trabajo y acción para mostrar que la condición humana no se agota en producir resultados, sino en aparecer ante los otros como sujeto responsable. La IA, sin embargo, llega a una cultura que ya venía confundiendo productividad con madurez intelectual. Nos promete reducción de fricción, aceleración de procesos, síntesis instantánea. Pero el pensamiento no siempre mejora cuando se vuelve más rápido. Algunas verdades requieren demora. Algunas preguntas necesitan silencio. Algunos juicios sólo emergen cuando la conciencia se resiste a cerrar demasiado pronto.

La investigación reciente de Kalai y colaboradores plantea que las alucinaciones persisten porque ciertos esquemas de entrenamiento y evaluación premian la respuesta antes que la abstención; decir algo con seguridad puede resultar más rentable que reconocer incertidumbre. Esa lógica no es ajena a nuestra cultura. También nosotros premiamos al que contesta rápido, al que parece seguro, al que no duda. La máquina aprendió de un ecosistema que desprecia la fragilidad del “no sé”. Quizá por eso sus errores nos incomodan tanto: no sólo exhiben sus límites, sino los nuestros.

En el campo informativo, la preocupación deja de ser abstracta. El Reuters Institute documentó que el uso semanal de sistemas de IA generativa en seis países casi se duplicó entre 2024 y 2025, pasando de 18% a 34%, y que 90% de las personas encuestadas había escuchado al menos de una herramienta de IA.

En paralelo, una investigación coordinada por la European Broadcasting Union y liderada por la BBC encontró que 45% de las respuestas de asistentes de IA a preguntas noticiosas contenía errores significativos y que 81% presentaba algún tipo de problema. La verdad pública empieza a depender de mediadores que redactan con elegancia incluso cuando fallan.

Aquí no cabe la tecnofobia. Tampoco la devoción ingenua. La IA puede ampliar nuestras capacidades de búsqueda, comparación, escritura, análisis y deliberación. Puede servir como interlocutor heurístico, como taller de hipótesis, como espejo de sesgos, como provocación intelectual. Pero sólo humaniza cuando permanece subordinada al juicio. La cuestión ética no está en usarla o no usarla, sino en cómo impedir que sustituya el esfuerzo interior de comprender.

UNESCO ha insistido en una visión centrada en la persona para la educación y la investigación con IA generativa, donde la formación de capacidades humanas no sea sacrificada por la eficiencia instrumental. Esa orientación debe traducirse en prácticas concretas: pedir fuentes verificables, contrastar afirmaciones, distinguir dato de inferencia, registrar el uso de IA, enseñar a leer la incertidumbre y sancionar la simulación académica. No por burocracia. Por respeto a la inteligencia humana.

La responsabilidad epistémica será una de las virtudes cívicas decisivas de esta época. No bastará con saber preguntar a una máquina. Habrá que aprender a desconfiar con método. Habrá que formar sujetos capaces de sostener una conversación con sistemas no humanos sin entregarles la soberanía de su criterio. Una ciudadanía digital madura no se define por el dominio operativo de plataformas, sino por la capacidad de responder moralmente por la información que produce, comparte y legitima.

La IA no está llamada a hacerse humana. Nosotros sí estamos llamados a no volvernos menos humanos frente a ella. Cada vez que aceptamos una respuesta sin verificarla, cada vez que publicamos una cita no contrastada, cada vez que confundimos fluidez con verdad, cedemos una porción mínima de nuestra dignidad cognitiva. La máquina no comprende porque no ha sufrido el peso de la palabra. Nosotros sí. Y por eso no podemos escondernos detrás de su error. La alucinación más peligrosa no será la del sistema que inventa una fuente, sino la del ser humano que, pudiendo despertar, eligió descansar en una respuesta ajena.