¿Qué son los neuroderechos y por qué son relevantes para la iniciativa de Ley General de Uso de IA en México?

Los neuroderechos son un conjunto de derechos destinados a proteger la identidad personal, la privacidad mental, la integridad cognitiva y la autonomía de las personas frente al uso de neurotecnologías e inteligencia artificial. Su incorporación en la propuesta de Ley General para Regular y Fomentar el Uso de la Inteligencia Artificial en México representa uno de los cambios jurídicos más relevantes en materia de derechos digitales y ha abierto un debate sobre el equilibrio entre protección ciudadana y libertad de expresión.

Foto: Soheb Zaidi // Uso gratuito bajo la Licencia Unsplash

Por Eduardo Portas Ruiz 

Profesor investigador del Centro de Investigación para la Comunicación Aplicada (CICA) y el Human & Nonhuman Communication Lab

Facultad de Comunicación de la Universidad Anáhuac México 

En X: @EduPortas

Mis perfiles en ORCID, Google Scholar, Research Gate, y Academia

Desde el 2023 diversos legisladores y foros mexicanos han puesto sobre la mesa la regulación de la IA en nuestro país. Ahora, a decir de la Presidenta Claudia Sheinbaum, el tema sí va en serio.

La mandataria avisó que al terminar el Mundial de futbol se avanzaría sustancialmente sobre el tema del uso de la IA en México y se encadenaría a la reglamentación de las redes sociales en nuestro país.

De acuerdo con el gobierno, el asunto de las redes es prioritaria. El de la IA también lo es, y para eso la presidenta citó la reciente encíclica Magnífica Humanitas del Papa León XIV.

Podemos asumir que la regulación de las redes sociales seguirá el paso que otros países ya han dado: prohibir su uso en menores de 16 años. Esta medida se fundamenta en una buena cantidad de estudios científicos que evidencian afectaciones graves al desarrollo psicológico y físico de las personas a partir del uso temprano de redes sociales. En pocas palabras, mientras más joven es la persona al usar redes, más daño se provoca con el uso intenso de las mismas. Los países comenzaron a modificar su marco regulatorio a partir de una serie de libros muy exitosos del psicólogo social estadounidense Jonathan Haidt, principalmente La Generación Ansiosa (2024).

Dicho eso, la regulación de la Inteligencia Artificial comprende otro universo de problemas y áreas de interés. Si bien algunos temas se traslapan entre ambos, como es el caso de la operación algorítmica, la IA es mucho más amplia y, a diferencia de las redes sociales, no ha sido satanizada.

Por el contrario, cuando se habla de IA en México se asocia con modernidad y avance, más aún cuando un gran volumen del hardware del cual se alimentan los centros de operación de las grandes compañías de IA se arma en México y se exporta hacia Estados Unidos, un sector que ha crecido exponencialmente en los últimos tres años en nuestro país (la otra parte del pastel la completan Vietnam y Taiwan).

Por eso llamó enormemente la atención el aparente sesgo de control y censura de la iniciativa que lleva por nombre Ley General para Regular y Fomentar el Uso de la Inteligencia Artificial en México. El documento puede ser descargado de manera íntegra aquí.

Uno de los apartados más importantes de la ley son los neuroderechos. Durante años las leyes mexicanas ignoraron la intersubjetividad de las personas. El mundo interior simplemente no existía. Esto cambió a partir de la NOM-035 enfocada en los factores de riesgo psicosocial de los trabajadores mexicanos. Por eso la mención de neuroderechos levantó más de una ceja entre los estudiosos legales.

En corto, de acuerdo con la iniciativa para regular el uso de la IA en México, la cual se encuentra en discusiones en Senado, los neuroderechos son:

Derechos destinados a proteger la identidad personal, la privacidad mental, la integridad cognitiva, la autonomía de la voluntad y la libertad de pensamiento frente al uso de neurotecnologías o sistemas de inteligencia artificial que, de manera directa o indirecta, recolecten, procesen o interfieran en información neuronal o en los procesos mentales de las personas.

Y después, en el artículo 17 de la iniciativa, se establece que los derechos que serán reconocidos y protegidos serán: I. Identidad personal y continuidad psicológica; II. Privacidad mental; III. Integridad cognitiva y protección frente a interferencias no consentidas; IV. Autonomía de la voluntad; V. Equidad y no manipulación neurotecnológica indebida.

Los más críticos han dicho que bajo esta excusa y el combate a la desinformación de contenidos elaborados por sistemas de IA generativa como imágenes, audios y textos, el fondo real de la iniciativa de ley es controlar la información que circula en las redes.

Es notorio que el gobierno se encuentra cada vez con mayor cantidad de negatividad en las redes sociales. A diferencia de hace unos años, el ánimo social expresado en las redes es cada menos a favor de la 4T, como lo demuestran mis propios datos extraídos de manera longitudinal de las redes más importantes en nuestro país. X, antes Twitter, es por mucho la red más tóxica, pero también la más crítica contra el gobierno.

Es por eso que más de un escéptico haya visto en estas dos iniciativas anunciadas por el gobierno una intentona para ir tras los canales y cuentas que lanzan críticas feroces a la 4T desde el anonimato.

Es cierto que muchas de estas informaciones son bulos. Es prácticamente imposible usar cualquier red social y evitar toparse con contenidos producidos por sistemas de IA que mienten o exageran algún aspecto de nuestra realidad y las acciones del gobierno.

Pero es muy distinto identificar estos contenidos a tratar ir detrás de las cuentas que los difunden, los cual se acerca peligrosamente a un Estado de Vigilancia orweliano. La propuesta ley no deja mucho margen para no pensar en este tema.

El artículo 211 considera como infracciones gravísimas

“emplear inteligencia artificial para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada. No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión de ideas realizadas de conformidad con la ley y los principios democráticos”.

Por otro lado, el artículo 144 prohíbe por completo

“sistemas de manipulación cognitiva o conductual dirigidos a influir, alterar o condicionar procesos mentales sin el consentimiento previo, libre, específico e informado de la persona, o en cualquier caso cuando involucren a niñas, niños o adolescentes, respecto de los cuales el consentimiento será nulo e irrelevante”.

Esto se vincula con el renglón de los neuroderechos. En la justificación del texto y la inclusión de los neuroderechos se subraya que

“al incorporar derechos como la privacidad mental, la integridad cognitiva, la autonomía de la voluntad y la protección frente a interferencias no consentidas, la Ley adopta un enfoque preventivo y prospectivo, anticipándose a riesgos emergentes derivados de la convergencia entre inteligencia artificial y neurotecnologías”.

La conclusión más alarmista de estos párrafos es que existe un gran campo de interpretación para que la ley sancione a personas que aprovechan las redes y la IA para difundir argumentos críticos contra el gobierno. Cabe destacar que el uso de la IA en México será regulado de manera conjunta por la Autoridad Nacional en IA, el SECIHTI, la Agencia de Transformación Digital y Telecomunicaciones, un Sistema Nacional de IA, y un Consejo Consultivo Nacional. Tres de estos organismos serán creados expresamente para robustecer el marco operativo de la ley y es prácticamente una obviedad afirmar que todos serán dirigidos por personas afines a la 4T.

El asunto delicado de implementar la ley de esta manera será determinar cómo se alteran o condicionan procesos mentales sin el consentimiento previo, libre, específico e informado de la persona, por ejemplo. O bien, exactamente qué va en contra de los “principios democráticos” en México.

Un análisis sintético del Observatorio de IA México se puede consultar aquí.

Otra iniciativa del 2024 del grupo morenista se puede visualizar en este link.

Mientras tanto, la ciudadania tendrá que estar muy atenta al avance de ambas regulaciones (IA y redes sociales) para proteger su derecho de la libertad de expresión.

De nuevo, la iniciativa de ley deja mucho qué reflexionar al respecto. En la propia justificación se establece que

“el artículo 6º garantiza el derecho a la información y el libre acceso a información plural y oportuna, así como la libertad de buscar, recibir y difundir información e ideas por cualquier medio; además, establece la obligación del Estado de garantizar el acceso a las tecnologías de la información y comunicación, incluida la banda ancha e Internet. Esto es constitucionalmente relevante porque la inteligencia artificial —en particular la IA generativa, los sistemas de recomendación y la moderación puede alterar los flujos informativos, amplificar desinformación, moldear percepciones públicas y afectar el derecho a recibir información veraz, plural y oportuna. Por su parte, el artículo 7º refuerza la inviolabilidad de la libertad de difusión de ideas, prohibiendo restricciones indirectas mediante controles o tecnologías que impidan la circulación de opiniones e información. De ahí que el diseño legal deba prever salvaguardas frente a usos dolosos, intencionales o perjudiciales de la inteligencia artificial que afecten la deliberación pública, la libertad de expresión y la integridad del debate democrático, incluidos aquellos supuestos vinculados con procesos democráticos y electorales, así como con la desinformación en dichos contextos”.

Entrelíneas y para lo que entienden este tipo de textos: controlar para "proteger".

Un listado en orden cronológico inverso de todos los textos escritos por Eduardo Portas en Anáhuac Landscape se puede ver aquí: https://eduportas.wordpress.com/anahuac-landscape/

FAQ

¿Qué son los neuroderechos?

Son derechos destinados a proteger la privacidad mental, la identidad personal, la autonomía y la integridad cognitiva frente al uso de neurotecnologías e inteligencia artificial.

¿Por qué aparecen en la ley mexicana?

Porque la iniciativa busca anticiparse a los riesgos derivados del desarrollo de sistemas avanzados de IA y tecnologías neuronales.

¿Qué protege la privacidad mental?

La información relacionada con los procesos cognitivos y neuronales de una persona.

¿La ley prohíbe toda manipulación mediante IA?

No. La iniciativa distingue entre usos permitidos y prácticas consideradas ilícitas o contrarias a principios democráticos.

¿Por qué existe debate?

Porque algunos especialistas consideran que ciertas disposiciones podrían generar interpretaciones amplias respecto a la libertad de expresión y la moderación de contenidos.