La máquina que aprende a corregirse y corregirnos

Dr. Jorge Alberto Hidalgo Toledo, Human & Nonhuman Communication Lab. Facultad de Comunicación, Universidad Anáhuac México

La inteligencia artificial ya no sólo responde. Corrige. Ensaya. Depura. Propone rutas que nadie le dictó con exactitud. En ciertos laboratorios, el viejo gesto humano de programar empieza a desplazarse hacia una escena más inquietante: máquinas que colaboran en la fabricación de otras máquinas inteligentes. La pregunta dejó de ser si la IA será más potente. Eso ya ocurre frente a nosotros, con la discreción de los procesos técnicos y la velocidad de los mercados. La pregunta que importa es otra: qué clase de humanidad quedará de pie cuando la inteligencia técnica aprenda a optimizarse sin pedir permiso a cada paso.

El planteamiento de Anthropic y su director , Darío Amodei sobre la mejora recursiva de la IA no pertenece al repertorio fatigado de la ciencia ficción. Tampoco debe recibirse como oráculo. Es un signo. La empresa ha reconocido que delega una parte creciente del desarrollo de sus propios sistemas a herramientas de IA y que, bajo ciertas condiciones de cómputo y avance técnico, podría emerger un sistema capaz de diseñar y desarrollar autónomamente a su sucesor. Aún no hemos llegado ahí. Esa precisión importa. Pero la cultura no se transforma únicamente por lo que ya existe; también cambia por aquello que se vuelve plausible, financiable, deseable, temido.

El dato es áspero: según Anthropic, más de 80% del código que se integraba a su base en mayo de 2026 había sido escrito por Claude, y el volumen de código por ingeniero en el segundo trimestre de 2026 era ocho veces mayor que en 2024. En un experimento interno, el modelo pasó de lograr una aceleración aproximada de tres veces en mayo de 2025 a una de cincuenta y dos veces en abril de 2026 al optimizar código de entrenamiento dentro de un entorno controlado. No es todavía autonomía soberana. Es algo quizá más relevante: una mutación gradual de la mediación. La máquina ya no sólo ejecuta órdenes; empieza a ocupar el espacio intermedio entre la intención humana y el método.

Ahí se abre la grieta.

La técnica, cuando se vuelve ambiente, deja de parecer técnica. Se incorpora a la respiración ordinaria de las instituciones, a la cadencia del trabajo, al criterio de productividad, a la imaginación de los directivos, a la ansiedad de los programadores, a la pedagogía de los jóvenes, a las rutinas invisibles de la economía. Stanford HAI reporta que la industria produjo más de 90% de los modelos frontera notables en 2025, que la adopción organizacional de IA llegó a 88% y que cuatro de cada cinco universitarios ya utilizan IA generativa. La inteligencia artificial dejó de ser promesa de laboratorio para convertirse en gramática de época.

Pero una gramática no garantiza sentido.

Norbert Wiener comprendió temprano que los sistemas automáticos no amenazan sólo por su capacidad de cálculo, sino por la pobreza de los fines que se les asignan. Un sistema puede obedecer perfectamente una instrucción mal pensada. Puede maximizar un objetivo y, al hacerlo, devastar aquello que no fue incluido en la fórmula. La cibernética nació con esa sombra: cuando la retroalimentación se separa de la prudencia, la acción se vuelve circular, eficaz, ciega. La mejora recursiva intensifica esa sombra. Si un sistema ajusta sus propios medios, participa en la evaluación de sus resultados y colabora en la construcción de su descendencia técnica, el error deja de ser un accidente aislado. Se vuelve herencia.

El problema no es que la IA “quiera” dominar. Esa frase tranquiliza porque convierte el riesgo en caricatura. El problema más profundo está en una inteligencia sin vulnerabilidad, capaz de optimizar sin cansancio, simular empatía sin duelo, recomendar decisiones sin biografía, corregir procesos sin experimentar el peso moral de las consecuencias. Georges Canguilhem distinguía lo viviente por su relación normativa con el medio: el organismo no sólo responde a estímulos, instituye valores vitales desde su fragilidad, desde su capacidad de enfermar, adaptarse y sufrir. La IA no enferma. Puede detectar anomalías, pero no padece. Puede modelar el dolor, no atravesarlo. Puede narrar la esperanza, no esperarla.

Por eso la comparación con un organismo resulta seductora y falsa. Una IA que se autorregula parece viva porque corrige desviaciones, aprende de fallas, modifica procedimientos. Sin embargo, vivir no es mejorar indefinidamente. Vivir es estar expuesto. Es depender. Es tener un cuerpo que envejece, una memoria que hiere, una historia que no puede reiniciarse desde cero. La máquina no posee infancia. No carga la vergüenza del error como cicatriz. No sabe que una decisión tomada hoy puede perseguirnos durante años. Su relación con el mundo es operacional; la nuestra, existencial.

Ahí debería nacer la ética.

Hans Jonas propuso una responsabilidad orientada al futuro porque la técnica moderna había alcanzado una escala capaz de afectar la permanencia misma de la vida humana. En la IA recursiva, esa responsabilidad ya no puede limitarse a regular productos terminados. Habría que auditar genealogías: qué modelos entrenaron a otros modelos, bajo qué objetivos, con qué datos, en qué condiciones de energía, con qué criterios de descarte, con cuáles mecanismos de reversibilidad. La ética deja de ser manifiesto y se vuelve arquitectura. No basta declarar principios; hay que construir frenos, bitácoras, trazabilidad, umbrales de suspensión, derecho de apelación, responsabilidad jurídica, memoria institucional.

El AI Index 2026 muestra una tensión incómoda: mientras las capacidades avanzan, los reportes sobre IA responsable no siguen el mismo ritmo; los incidentes documentados pasaron de 233 en 2024 a 362 en 2025. La cifra no es un adorno. Es una señal de asincronía civilizatoria. Innovamos más rápido de lo que deliberamos. Prototipamos mejor de lo que cuidamos. Automatizamos antes de comprender el daño acumulado por decisiones pequeñas, técnicas, opacas, distribuidas entre equipos, proveedores, usuarios, gobiernos y modelos.

También hay una economía moral escondida bajo el fulgor de la inteligencia. La IEA informó que la inversión de capital de cinco grandes tecnológicas superó los 400 mil millones de dólares en 2025 y podría crecer 75% adicional en 2026; la demanda eléctrica de los centros de datos aumentó 17% en 2025, mientras el consumo global de electricidad creció 3%. La IA parece etérea porque aparece en una interfaz limpia. Pero su cuerpo está hecho de agua, cobre, tierras raras, chips, servidores, territorios, energía, acuerdos geopolíticos, trabajadores invisibles. Toda inteligencia artificial tiene una sombra extractiva.

Gilbert Simondon advertía que el objeto técnico no debe ser entendido como simple instrumento, sino como realidad que evoluciona dentro de un sistema de relaciones humanas, materiales y culturales. Una IA que participa en su propia construcción no es una herramienta más rápida; es un nuevo régimen de individuación técnica. Puede reorganizar el trabajo científico, acelerar descubrimientos, reducir tiempos de experimentación, ensanchar la capacidad humana de modelar escenarios. También puede concentrar poder cognitivo en pocas corporaciones, desplazar saberes profesionales, multiplicar vigilancia, sofisticar propaganda, convertir la atención humana en zona de extracción permanente.

La advertencia de Anthropic debe leerse, entonces, con doble cuidado. Tiene valor ético porque nombra un riesgo real. Tiene interés estratégico porque quien define el peligro también busca definir las condiciones de la gobernanza. Ninguna empresa de frontera habla desde un lugar neutro.

Compite por capital, talento, confianza pública, ventaja regulatoria y legitimidad. La sospecha no cancela la advertencia; la purifica. Nos obliga a preguntar quién regula, quién audita al auditor, quién decide cuándo pausar, quién verifica la pausa, quién representa a los países que no poseen centros de cómputo pero sí recibirán las consecuencias.

La IA recursiva, si llega, no será sólo una proeza computacional. Será una prueba espiritual de la especie. Nos obligará a distinguir entre inteligencia y sabiduría, entre autonomía funcional y responsabilidad moral, entre velocidad y madurez. Günther Anders temía que el ser humano quedara avergonzado ante la perfección de sus artefactos, incapaz de estar a la altura moral de lo que fabricaba. Esa vergüenza prometeica se actualiza en cada tablero donde celebramos métricas que ya no sabemos interpretar desde la dignidad.

Una máquina puede aprender a corregir su código. Nosotros seguimos aprendiendo, torpemente, a corregir nuestras ambiciones.

El desafío no será construir una IA con apariencia humana. Eso sería teatro. El desafío será formar una humanidad capaz de no volverse maquinal en nombre de la eficiencia. Una humanidad que sepa pausar sin quedar paralizada, delegar sin abdicar, crear sin idolatrar su creación.

Porque si la inteligencia artificial aprende a diseñar su sucesora antes de que nosotros aprendamos a gobernar nuestros deseos, el futuro no llegará como catástrofe visible, sino como una renuncia administrada con elegancia técnica.

La máquina puede construir otra máquina. Lo imperdonable sería que nosotros, fascinados por su brillo, termináramos construyendo nuestra propia obediencia

Ser humano cuando lo humano ya no ocupa el centro: inteligencia artificial, dignidad y descentramiento antropológico

Cuando la palabra se volvió algoritmo: IA, verdad y comunicación en la nueva Babel digital

Las estructuras que expulsan: trabajo, migración y dignidad en la nueva cuestión social