Los principios de uso y desarrollo de la Inteligencia Artificial según la 4T
- hace 2 días
- 4 Min. de lectura
Por Eduardo Portas Ruiz // Profesor investigador del Centro de Investigación para la Comunicación Aplicada (CICA) de la Universidad Anáhuac México
En X: @EduPortas
Después de un largo periodo de reflexión el gobierno de México finalmente puso en blanco y negro sus principios rectores sobre las buenas prácticas de diseño, implementación y evaluación de Inteligencia Artificial en nuestro país.
El entramado conceptual fue presentado por la Secretaría de Ciencia, Humanidades, Tecnología e Innovación (Secihti), y la Agencia de Transformación Digital y Telecomunicaciones (ATDT), lo que deja en claro quiénes fueron los más interesados en marcar su huella en este tema.
El gobierno de México llama a esta iniciativa Declaración de Ética y Buenas Prácticas para el Uso y Desarrollo de IA, la cual se sustenta en los Principios de Chapultepec (el acto se realizó en el bonito Auditorio Jaime Torres Bodet del Museo Nacional de Antropología).
En la práctica, es un decálogo no forzoso para que las instituciones y personas usen estas herramientas. En el mundo anglosajón les llamarían “guidelines”.
Las 10 líneas ameritan reflexión. Veamos textualmente una por una.
1. “La IA debe ampliar derechos, nunca reducirlos”.
De entrada nos enfrentamos a una contradicción. Si un usuario afecta los derechos de otro al usar la IA claramente ha reducido los del segundo. El enunciado abarca todo y nada y es altamente contradictorio, pues una condición no puede incluir a la otra al mismo tiempo.
2. “Toda decisión apoyada por IA, debe tener responsables humanos, sustentada en marcos institucionales claros”.
De nuevo, un misterio. Como todos saben, el principal uso potencial que tiene la IA es automatizar procesos mecánicos que antes debían realizar los seres humanos. Ese sencillo logro ha fundamentado el crecimiento de la nueva industria en trillones de dólares. Es un hecho que prácticamente todas las personas que usan (usamos) la IA desconocen el funcionamiento exacto de la herramienta desde sus entrañas. De hecho, gran parte del “mystique” de la IA implica dejarla trabajar mágicamente con miles de variables desconocidas para nosotros y producir uno o varios enunciados, cálculos u operaciones útiles en el mundo real. En segundo plan está el uso de agentes potenciados por IA, lo que constituye la próxima gran frontera del boom de este sector. Estos agentes permiten al usuario desconectarse por completo de la operación de una serie de pasos realizados por la IA, a veces con resultados sorprendentes. Finalmente, el asunto de los marcos institucionales claro es más que nada un deseo, pues muy pocas empresas e instituciones en México han formalizado reglamentos para usar la IA dentro de sus puertas.
3. “Si una decisión no puede explicarse, no debe automatizarse”.
Ver el punto anterior. La innovación de la IA es hacer los procesos más eficientes y rápidos para el usuario sin que éste sepa cómo funcionan los algoritmos de facto. Salvo un puñado de personas en el mundo — los científicos que programaron estas inteligencias — nadie sabe con precisión absoluta cómo toman sus decisiones. Aún así, son usadas todos los días por cientos de millones de personas que deciden ignorar la “caja negra” que las permite operar.
4. “La IA se gobierna mejor cuando se decide en colectivo”.
Un enunciado que podría haber salido de la Rusia de 1917. Siendo la 4T no se podía esperar otra cosa, para bien o para mal.
5. “La IA sólo es valiosa si genera bienestar para las personas”.
Como la mayoría de estos principios, suena muy bien en papel, pero al más mínimo movimiento se observa que es inoperante en el mundo real. Un ejemplo que todos conocen para explicar el asunto. Todos los días, millones (sí millones) de personas usan ChatGPT para fines terapéutico-psicológicos, de acuerdo con el mismísimo OpenAI. A estas personas claramente les beneficia, reciben un bienestar real que tal vez no podrían obtener bajo una consulta con un especialista de carne y hueso, ya no se diga pagarle. A pesar de esta realidad, un puñado de individuos se han quitado la vida a causa de la interacción que tuvieron con ChatGPT, bajo muy diversas circunstancias, como las peligrosas alucinaciones. Bajo este principio, entonces ¿deberíamos dejar de usar ésta y todas IAs que permiten dialogar sobre asuntos personalísimos que suscitan procesos terapéuticos desde la subjetividad del individuo?
6. “Antes de automatizar, hay que comprender a quién y qué afecta”.
Un enunciado que solo es compresible si lo que se busca es controlar el funcionamiento de una IA. Pero no pensemos mal.
7. “La tecnología estratégica debe responder a las necesidades del país”.
Una frase que nadie podría rechazar.
8. “El desarrollo de la IA requiere fortalecer la educación y el conocimiento en el país”.
De nuevo, otra de esas frases tan generales imposibles de cuestionar. Tan generales que dejan de ser útiles.
9. “La IA no puede ser ajena a la diversidad cultural y lingüística del país”.
Un renglón que hace obligatorio la inclusión y protección de las lenguas indígenas del territorio nacional.
10. “Los datos son un bien público que deben cuidarse con responsabilidad”.
De nuevo, un principio que podría haberse incluido en cualquier iniciativa que requiera la manipulación de data. Lo que no queda clara es lo del “bien público”. ¿Eso significa que las empresas que acumulen información de privados deben hacer sus datos públicos? Bajo esta lógica, sea un sistema de IA o no, los ciudadanos tendríamos derecho a solicitar la información que aglutinan los servidores de distintos servicios como Amazon, Google, Facebook, etc. Lo mismo tendría que aplicar con los centro de almacenaje de datos del propio gobierno. En este momento la realidad marca otra cosa.
En esencia, el decálogo busca avanzar de lo técnico a lo político y social. Algunos lo verán como una declaración de resistencia ética para evitar que la IA extienda las brechas sociales mexicanas en cuestión de desarrollo. En el mejor de los casos asegura que la última palabra siempre la tenga el humano, respaldado por una institución. En el peor, mete de freno de mano a la creatividad que subyace bajo los nuevos usos que las personas están dando a la IA.
El comunicado de prensa del Gobierno de México en donde se incluye el decálogo puede ser consultado aquí:
Si te interesó este texto, revisa mi perfil en Anáhuac Landscape