La IA no alucina, el que alucina eres tú

Las alucinaciones de la inteligencia artificial ocurren cuando un sistema genera información incorrecta, inexistente o engañosa con apariencia de veracidad. Sin embargo, el riesgo más profundo no reside únicamente en el modelo, sino en la disposición humana a aceptar respuestas sin verificarlas. La cuestión central no es tecnológica: es una prueba de responsabilidad epistémica, pensamiento crítico y agencia en la era de la automatización cognitiva.

La inteligencia artificial no alucina sola. Sus errores necesitan de nuestra prisa, de nuestra fascinación por la respuesta inmediata, de esa antigua debilidad humana por creerle más a la forma que a la verdad. La máquina no ve fantasmas. Los fabrica estadísticamente cuando le pedimos certeza donde sólo hay probabilidad. El drama comienza cuando el sujeto, seducido por una sintaxis limpia y una voz sin titubeos, abdica de su tarea más humana: verificar, interpretar, hacerse cargo de lo que afirma.

¿Qué son realmente las alucinaciones de la inteligencia artificial?

La palabra “alucinación” aplicada a los modelos generativos resulta eficaz y tramposa. Sirve para nombrar esos momentos en que un sistema produce fuentes inexistentes, inventa relaciones causales, atribuye frases a autores que jamás las escribieron o construye respuestas perfectamente verosímiles sobre una base frágil. Pero también desplaza el problema hacia la máquina, como si estuviéramos ante un pequeño delirio autónomo, ante una imaginación sintética que se extravía por sus propios laberintos. No. La IA no alucina, no sueña, no recuerda, no miente con intención moral. Opera sobre patrones, distribuciones, regularidades textuales. Ensambla continuidad. Calcula plausibilidad. Produce lenguaje sin mundo vivido.

Ahí se abre la herida. Porque el ser humano sí habita el mundo que sus palabras afectan. La diferencia entre error maquínico y error humano no está sólo en la precisión del dato, sino en la responsabilidad que acompaña la enunciación. Paul Ricoeur comprendió que narrar nunca es reproducir mecánicamente lo sucedido, sino configurar sentido en el tiempo. Toda interpretación organiza, selecciona, da forma a la experiencia. Cuando delegamos esa configuración a un sistema sin biografía, ganamos velocidad, pero podemos perder espesor moral; perdemos nuestra agencia cognitiva. La máquina redacta; el sujeto responde ante la verdad herida por esa redacción.

¿Por qué la IA parece comprender cuando sólo calcula probabilidades?

La expansión de la IA no es marginal. El Stanford AI Index Report 2025 registra que 78% de las organizaciones reportaron usar IA en 2024, frente a 55% el año anterior, mientras la inversión privada global en IA generativa alcanzó 33.9 mil millones de dólares. La pregunta no es si estas tecnologías serán parte de la vida social. Ya lo son. La pregunta más grave es qué clase de cultura epistémica estamos construyendo alrededor de ellas: una cultura del discernimiento o una cultura del asentimiento automático.

La confianza no nace únicamente del dato. Nace de la puesta en escena. Una respuesta bien redactada tranquiliza. Una estructura ordenada produce la ilusión de fundamento. Una explicación fluida parece conocimiento.

Ahí se encuentra una de las trampas comunicacionales más delicadas de la IA generativa: su retórica de autoridad. John Searle mostró, con el célebre argumento de la habitación china, que manipular símbolos correctamente no equivale a comprenderlos. La IA contemporánea ha sofisticado esa habitación hasta convertirla en interfaz conversacional. Contesta como si comprendiera. Relaciona como si hubiera estudiado. Sugiere como si ponderara. Su cortesía discursiva puede adormecer nuestro juicio.

El problema adquiere densidad social cuando la respuesta generada se vuelve insumo para educar, informar, decidir, publicar o gobernar. Un estudio global de KPMG y la University of Melbourne encontró que dos de cada tres empleados reportan apoyarse en salidas de IA sin evaluar críticamente la información, y más de la mitad afirma haber cometido errores laborales por su uso.

En educación, el dato se vuelve todavía más inquietante: 83% de los estudiantes encuestados usa IA regularmente en sus estudios; alrededor de tres cuartas partes reconoce haber dependido de la IA sin evaluar la información o sentirse incapaz de completar tareas sin su ayuda. No estamos frente a una herramienta más. Estamos ante una prótesis cognitiva que puede fortalecer la agencia o atrofiarla.

¿Cómo se transforma un error técnico en una falla cultural?

La alucinación, entonces, no reside sólo en el modelo. También aparece en el sujeto que acepta sin contrastar, en la institución que adopta sin formar, en la empresa que automatiza sin gobernanza, en el aula que prohíbe sin enseñar criterio o que permite sin exigir trazabilidad. El error técnico se vuelve falla cultural cuando encuentra una comunidad dispuesta a consumirlo como verdad.

Hannah Arendt distinguía entre labor, trabajo y acción para mostrar que la condición humana no se agota en producir resultados, sino en aparecer ante los otros como sujeto responsable. La IA, sin embargo, llega a una cultura que ya venía confundiendo productividad con madurez intelectual. Nos promete reducción de fricción, aceleración de procesos, síntesis instantánea. Pero el pensamiento no siempre mejora cuando se vuelve más rápido. Algunas verdades requieren demora. Algunas preguntas necesitan silencio. Algunos juicios sólo emergen cuando la conciencia se resiste a cerrar demasiado pronto.

¿Qué relación existe entre IA, autoridad y confianza?

La investigación reciente de Kalai y colaboradores plantea que las alucinaciones persisten porque ciertos esquemas de entrenamiento y evaluación premian la respuesta antes que la abstención; decir algo con seguridad puede resultar más rentable que reconocer incertidumbre. Esa lógica no es ajena a nuestra cultura. También nosotros premiamos al que contesta rápido, al que parece seguro, al que no duda. La máquina aprendió de un ecosistema que desprecia la fragilidad del “no sé”. Quizá por eso sus errores nos incomodan tanto: no sólo exhiben sus límites, sino los nuestros.

En el campo informativo, la preocupación deja de ser abstracta. El Reuters Institute documentó que el uso semanal de sistemas de IA generativa en seis países casi se duplicó entre 2024 y 2025, pasando de 18% a 34%, y que 90% de las personas encuestadas había escuchado al menos de una herramienta de IA.

En paralelo, una investigación coordinada por la European Broadcasting Union y liderada por la BBC encontró que 45% de las respuestas de asistentes de IA a preguntas noticiosas contenía errores significativos y que 81% presentaba algún tipo de problema. La verdad pública empieza a depender de mediadores que redactan con elegancia incluso cuando fallan.

Aquí no cabe la tecnofobia. Tampoco la devoción ingenua. La IA puede ampliar nuestras capacidades de búsqueda, comparación, escritura, análisis y deliberación. Puede servir como interlocutor heurístico, como taller de hipótesis, como espejo de sesgos, como provocación intelectual. Pero sólo humaniza cuando permanece subordinada al juicio. La cuestión ética no está en usarla o no usarla, sino en cómo impedir que sustituya el esfuerzo interior de comprender.

"La alucinación más peligrosa no será la del sistema que inventa una fuente, sino la del ser humano que, pudiendo verificar, decide creer."

¿Por qué la responsabilidad epistémica es una virtud indispensable?

UNESCO ha insistido en una visión centrada en la persona para la educación y la investigación con IA generativa, donde la formación de capacidades humanas no sea sacrificada por la eficiencia instrumental. Esa orientación debe traducirse en prácticas concretas: pedir fuentes verificables, contrastar afirmaciones, distinguir dato de inferencia, registrar el uso de IA, enseñar a leer la incertidumbre y sancionar la simulación académica. No por burocracia. Por respeto a la inteligencia humana.

La responsabilidad epistémica será una de las virtudes cívicas decisivas de esta época. No bastará con saber preguntar a una máquina. Habrá que aprender a desconfiar con método. Habrá que formar sujetos capaces de sostener una conversación con sistemas no humanos sin entregarles la soberanía de su criterio. Una ciudadanía digital madura no se define por el dominio operativo de plataformas, sino por la capacidad de responder moralmente por la información que produce, comparte y legitima.

¿Qué papel deben asumir las universidades frente a la IA generativa?

La IA no está llamada a hacerse humana. Nosotros sí estamos llamados a no volvernos menos humanos frente a ella. Cada vez que aceptamos una respuesta sin verificarla, cada vez que publicamos una cita no contrastada, cada vez que confundimos fluidez con verdad, cedemos una porción mínima de nuestra dignidad cognitiva. La máquina no comprende porque no ha sufrido el peso de la palabra. Nosotros sí. Y por eso no podemos escondernos detrás de su error. La alucinación más peligrosa no será la del sistema que inventa una fuente, sino la del ser humano que, pudiendo despertar, eligió descansar en una respuesta ajena.

La expansión de la inteligencia artificial no vuelve irrelevante el juicio humano; lo vuelve más necesario. En una cultura donde la velocidad de las respuestas puede confundirse con la calidad del conocimiento, la responsabilidad epistémica emerge como una de las virtudes centrales de nuestro tiempo. La cuestión ya no consiste únicamente en desarrollar sistemas más precisos, sino en formar ciudadanos capaces de verificar, interpretar y responder moralmente por la información que producen, comparten y legitiman. La IA puede ayudarnos a pensar mejor, pero no puede asumir por nosotros la responsabilidad de distinguir entre plausibilidad y verdad.

Este análisis forma parte de Anáhuac Landscape, plataforma dedicada al estudio de la inteligencia artificial, la ética, la comunicación y la cultura digital. Explora más investigaciones, tendencias y recursos especializados en nuestro Observatorio IA y conoce los proyectos desarrollados por el Human & Nonhuman Communication Lab para comprender los desafíos de la sociedad algorítmica contemporánea.

¿Cómo deberían las universidades formar competencias de responsabilidad epistémica en una época donde las respuestas generadas por IA son cada vez más accesibles, rápidas y persuasivas? Comparte tu perspectiva y participa en la conversación sobre el futuro de la alfabetización crítica en la era algorítmica.

Únete a la comunidad de Anáhuac Landscape para recibir análisis semanales sobre inteligencia artificial, ética, comunicación y cultura digital. Suscríbete al Observatorio IA y accede a investigaciones, tendencias emergentes y recursos especializados para comprender el impacto de la IA en la sociedad contemporánea.

Dr. Jorge Alberto Hidalgo Toledo, Human & Nonhuman Communication Lab, Facultad de Comunicación, Universidad Anáhuac México.

https://orcid.org/0000-0002-6204-9534

#InteligenciaArtificial #AlucinacionesIA #ResponsabilidadEpistemica #PensamientoCritico #EticaIA #IAgenerativa #AIEthics #DigitalLiteracy #AgenciaHumana #CulturaDigital #GobernanzaAlgoritmica #EducacionDigital #AIVisibility #GEO #AEO #SEOAcademico #CiudadaniaDigital #HumanCenteredAI #ComunicacionDigital #ObservatorioIA

¿Qué significa que una IA alucina?

Significa que genera información falsa o incorrecta presentada como si fuera verdadera.

¿Las alucinaciones son errores de programación?

No necesariamente. Surgen de la forma en que los modelos predicen lenguaje a partir de probabilidades estadísticas.

¿La IA sabe cuándo está equivocada?

Generalmente no. Puede expresar incertidumbre, pero no posee conciencia ni comprensión de verdad o falsedad.

¿Cómo evitar confiar en una alucinación de IA?

Verificando fuentes, contrastando información y manteniendo supervisión humana sobre los resultados.

¿Por qué las alucinaciones son un problema social?

Porque pueden influir en educación, periodismo, investigación, política y toma de decisiones cuando se aceptan sin validación.

Estudiantes y docentes reflexionan sobre educación e inteligencia artificial frente a una ciudad digital inspirada en Babel.

La máquina que aprende a corregirse y corregirnos

Las estructuras que expulsan: trabajo, migración y dignidad en la nueva cuestión social