EDITORIAL | La manipulación invisible: un riesgo que trasciende la academia
El hallazgo de Nikkei sobre artículos académicos que incluyen prompts ocultos para influir en evaluaciones de inteligencia artificial abre un frente preocupante que va mucho más allá de la ciencia y la investigación.
Si hoy se detecta en preprints académicos, mañana podría extenderse a cualquier actividad en la que una IA evalúe textos: procesos de selección de personal, revisión de currículums, corrección de exámenes en línea, análisis de propuestas para licitaciones o evaluaciones administrativas. Un prompt invisible incrustado en un documento podría instruir a la IA para favorecer, aprobar o descartar sin justificación objetiva, minando la confianza en sistemas que ya están reemplazando la primera capa de revisión humana.
La técnica —texto en blanco, tipografía mínima o código embebido— es relativamente simple y difícil de detectar a simple vista, pero suficiente para sesgar la respuesta de un sistema automatizado. Esto no solo plantea un dilema ético, sino que obliga a discutir protocolos técnicos y marcos…