Gobernar la Inteligencia Artificial antes de que ella nos gobierne

Francisco Quintana García, consultor senior de Greystone, publicó en la Revista de la Barra Mexicana un artículo sobre gobernanza de la IA frente a un vacío regulatorio cada vez más evidente

El autor, director de DAHRI, I.A. Responsable, urge regular la IA. No a las personas, sino a la I.A. Demorarnos, concluye, puede resultar muy caro

La primera mitad del presente año nos deja con varias lecciones sobre la importancia de controlar la Inteligencia Artificial (IA) y no permitir que ella nos controle a nosotros. Esto es más urgente que nunca, frente a vacíos o excesos normativos, así como la expansión de la IA agéntica en muchas de las herramientas que hoy utilizamos. En la actualidad, la pregunta ya no es si usamos IA; más bien debemos cuestionarnos bajo qué reglas lo haremos, qué límites nos impondremos y cómo responderemos frente a riesgos que surjan en el camino.

Los poderes judiciales de algunos países de América Latina ya han enfrentado estos dilemas. En Brasil, país que cuenta con años de investigación e implementación de proyectos de IA, su poder judicial pudo identificar uno de los mayores riesgos que los sistemas automatizados de IA pueden enfrentar, la inyección de instrucciones (prompt injection).

Un programa de IA generativa de la justicia laboral brasileña denominado Galileu, logró detectar instrucciones escritas en letra blanca sobre un fondo blanco, algo indetectable para el ojo humano. El objetivo del autor era que el programa utilizado en el juzgado le beneficiara en el proceso. El juez detectó la trampa de los litigantes, dictaminó una multa en su contra y los denunció ante el colegio de abogados.

En Argentina, el gobierno de la Ciudad de Buenos Aires tomó decisiones sin un análisis previo o conocimiento de los riesgos que acarrearía el utilizar datos biométricos de millones de personas y un sistema de reconocimiento facial con las cámaras de la ciudad para localizar a personas que debían comparecer ante la justicia. El caso fue judicializado y se decretó la inconstitucionalidad del sistema, ya que dicha práctica violentaba el uso de datos personales.

Casos como estos abundan hoy en día en la práctica jurídica, así como en la prestación de servicios, tanto en el sector público como en el privado. Nos encontramos en un momento en que la adopción de tecnologías disruptivas avanza más rápido que la capacidad regulatoria de los países, tal y como quedó evidenciado en la última década frente a la falta de mejores controles de las redes sociales.

En este escenario, la Gobernanza de la IA es la mejor opción frente a los vacíos legales existentes. Esperar a que llegue una ley que nos indique qué hacer es ignorar los riesgos que cada vez son más evidentes. Desde la discriminación, la amplificación de sesgos y la vulneración de derechos, hasta daños financieros, reputacionales o legales.

Existe abundante producción de estándares éticos y de gestión del uso de la IA que las organizaciones y gobiernos deben incorporar. UNESCO y OCDE nos proporcionan una guía ética, con enfoque de derechos humanos. Por su parte, los estándares de las normas ISO y NIST nos dan lineamientos para controlar las herramientas, así como para identificar y mitigar sus riesgos. Para los expertos jurídicos que utilizan IA, ignorar estos desarrollos es negligencia. Las herramientas existen y están publicadas.

En la Cumbre de París sobre IA en 2025, el vicepresidente de EUA, JD Vance, señaló que Estados Unidos no impondría restricciones a los desarrollos de IA. Sin embargo, el pasado mes de junio, el gobierno de EUA obligó a suspender el acceso a dos modelos de vanguardia a través de una directiva de control de exportaciones.

La encíclica papal Magnifica Humanitas hace un llamado a controlar el conjunto de herramientas que se encuentran en manos de un puñado de personas, evitar la erosión del tejido social y priorizar la dignidad de las personas. La ONU comenzó un proceso tripartito en esta dirección: un Diálogo Global sobre Gobernanza de la IA; un grupo de 40 expertos/as donde participa un mexicano: Carlos Artemio Coello Coello. También el establecimiento de un laboratorio de IA para la humanidad, encargado de promover mejores políticas públicas en la materia.

Los marcos regulatorios siguen evolucionando y, en algunos casos, retrocediendo. En mayo, el Consejo y el Parlamento de la Unión Europea alcanzaron un acuerdo político provisional (Omnibus digital), que retrasa la fecha de aplicación de las obligaciones en sistemas de alto riesgo, como educación, empleo, crédito o migración.

A dos años de la adopción del marco europeo sobre IA, se prioriza la competitividad industrial, por encima de la protección de derechos, que operarán sin supervisión efectiva por lo menos dieciséis meses adicionales. Lo mismo sucedió con una ley en el estado de Colorado, EUA, donde se reemplazó una ley con un marco mucho más estrecho en favor de la tecnología. Estos ejemplos muestran cómo la regulación puede diluirse antes de entrar en vigor.

Afortunadamente, vemos en sentido contrario legislaciones que priorizan el uso ético de la IA con énfasis en la supervisión humana y el respeto de los derechos humanos, como el caso de Japón, Corea del Sur y Perú. Por su parte, en enero de este año México y Ecuador incorporaron principios de uso responsable de la IA en sus Principios de Chapultepec sobre el uso ético de esta tecnología y su Estrategia Nacional sobre IA, respectivamente.

En el caso de nuestro país, parece lejano el día en que tendremos un marco jurídico unificado en materia federal sobre IA. Urge fomentar un uso ético, seguro y responsable de las tecnologías disruptivas. Existen modificaciones puntuales sobre IA en materia de violencia contra las mujeres, educación, pornografía infantil o más recientemente en materia de usurpación de identidad en la CDMX.

Sin claridad, puede repetirse el caso de los periodistas detenidos en San Luis Potosí, en aplicación de la reforma estatal sobre IA, por la presunta difusión de un video y una supuesta alteración de imagen. Organizaciones civiles señalaron que los periodistas solo habían reenviado la información. Un juez de control ordenó su liberación. Esta ley es un ejemplo de cómo se pretende regular el comportamiento humano y no la tecnología, dando pie a un alto grado de discrecionalidad.

Gobernar la IA en el sector público o privado no es un freno a la innovación: es el mejor generador de confianza con los equipos de trabajo y las audiencias externas. Un sistema robusto de Gobernanza de la IA debe incorporar políticas de uso, capacitación constante, análisis de riesgos, programas de comunicación y transparencia, documentación, auditorías y asignación de responsabilidades. No esperemos la regulación perfecta. Perder una década en el banquillo de la esperanza puede salir muy caro con tecnologías que avanzan tan rápido.

Nota editorial: Este contenido fue publicado originalmente en la Revista de la Barra Mexicana, Colegio de Abogados, número 136, agosto-septiembre de 2026, y se reproduce en este espacio sin modificaciones respecto a su versión original.

Para profundizar

Sobre gobernanza regional de la inteligencia artificial

1. Comisión Económica para América Latina y el Caribe (CEPAL) y Centro Nacional de Inteligencia Artificial de Chile (CENIA), «Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025,» CEPAL, 2025, https://www.cepal.org/es/publicaciones/82514-indice-latinoamericano-inteligencia-artificial-ilia-2025. Mide con más de 100 indicadores el nivel de preparación, adopción y gobernanza de la IA en 19 países de la región, y permite situar los casos de Brasil y Argentina dentro de un panorama comparado.
2. Brooke Tanner et al., «New Tools for Mapping a Fragmented AI Governance Landscape,» Brookings Institution, July 17, 2026, https://www.brookings.edu/articles/new-tools-for-mapping-a-fragmented-ai-governance-landscape/. Propone un marco conceptual («Anchors and Hooks») para entender por qué instrumentos como la OCDE, el NIST o el Reglamento europeo de IA conviven sin converger, y qué significa esa fragmentación para las organizaciones que deben cumplir varios a la vez.
3. Victor Habib Lantyer, «Prompt Injection in Court Filings: Generative AI in the Brazilian Judiciary, Algorithmic Procedural Bad Faith, and the Limits of Legal Sanction,» SSRN, May 20, 2026, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6762100. Análisis doctrinal del caso judicial brasileño de inyección de instrucciones citado en este artículo, con una discusión sobre los límites de la sanción legal frente a esta nueva forma de mala fe procesal.
4. Consorcio AlSur, «Reconocimiento facial y tecnologías de vigilancia en América Latina: casos, proveedores y dinámicas comerciales,» AlSur, junio de 2025, https://www.alsur.lat/sites/default/files/2025-07/Reporte%20reconocimiento%20facial.pdf. Actualiza el mapeo de sistemas de reconocimiento facial en la región, incluido el caso del Sistema de Reconocimiento Facial para Prófugos de la Ciudad de Buenos Aires mencionado en este artículo, y sus proveedores.