América Latina necesita sus propias reglas para gobernar la inteligencia artificial

La región no necesita escoger entre innovación y derechos. Necesita reglas que distingan riesgos, asignen responsabilidades a quienes controlan y se benefician de los sistemas, y reconozcan que la capacidad institucional es tan importante como el texto de la ley.

La conversación jurídica sobre inteligencia artificial suele comenzar con una pregunta equivocada: ¿Hace falta una ley nueva?

En realidad, buena parte de los problemas ya encuentra respuesta en el derecho vigente: Protección de datos, consumo, competencia, propiedad intelectual, responsabilidad civil, normas laborales y debido proceso.

La pregunta útil es otra: ¿Dónde dejan de ser suficientes esas reglas y qué mecanismos adicionales permiten gobernar sistemas que aprenden, producen resultados probabilísticos y operan a escala?

Ese cambio de método es especialmente importante para América Latina. La región recibe tecnologías, modelos y estándares diseñados principalmente fuera de sus fronteras, pero los despliega en sociedades con alta informalidad, capacidades regulatorias desiguales, brechas digitales persistentes y una enorme diversidad lingüística y cultural.

Copiar una arquitectura normativa extranjera puede crear una apariencia de protección sin garantizar supervisión efectiva. No regular, por otra parte, deja a ciudadanos y empresas expuestos a decisiones opacas y reduce la confianza necesaria para invertir y adoptar IA.

Tesis central. El derecho latinoamericano de la IA debe ser interoperable con los estándares globales, pero proporcional a los riesgos locales y ejecutable con las instituciones disponibles.

Una región, varios ritmos regulatorios

Latinoamérica ya no está en una fase puramente declarativa. Perú cuenta con la Ley 31814 y, desde 2025, con un reglamento que desarrolla principios y obligaciones para el uso responsable de la IA. Colombia adoptó el CONPES 4144 como política nacional para crear capacidades de investigación, adopción y uso ético y sostenible.

México avanza hacia un marco nacional a partir de múltiples iniciativas y del trabajo de la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la IA del Senado, que consolidó seis diálogos temáticos con especialistas. Argentina, por su parte, ha privilegiado hasta ahora recomendaciones para el uso de IA en la gestión pública, programas de transparencia y protección de datos, regulación sectorial y proyectos legislativos todavía en discusión.

Esta diversidad no es necesariamente un defecto. Puede permitir experimentación y aprendizaje. El problema aparece cuando cada país utiliza definiciones, categorías de riesgo, deberes de transparencia y mecanismos de evaluación incompatibles.

Para una empresa regional, la fragmentación se traduce en mayores costos de cumplimiento; para una persona, en derechos distintos frente al mismo modelo según el territorio desde el que lo utilice.

La prioridad debería ser acordar un piso regional común, no una ley idéntica.

Regular el riesgo, no la etiqueta tecnológica

El enfoque europeo basado en riesgos ofrece una referencia útil, pero no debe importarse mecánicamente.

En América Latina, el riesgo no depende sólo de la capacidad técnica del sistema, sino también del contexto de uso. Un algoritmo relativamente sencillo puede causar un daño considerable si decide acceso a crédito, empleo, salud, educación, subsidios, justicia o servicios públicos esenciales.

Del mismo modo, la identificación biométrica en espacios públicos adquiere otra dimensión allí donde los controles institucionales y los recursos judiciales son débiles.

La regulación debería concentrar las obligaciones más estrictas en esos usos de alto impacto: Evaluación previa, documentación, pruebas de sesgo y robustez, trazabilidad, supervisión humana, monitoreo posterior e informe de incidentes.

Para aplicaciones de bajo riesgo bastarían deberes de información y buenas prácticas. Esta proporcionalidad protege derechos y evita que el costo regulatorio expulse a universidades, empresas emergentes y pequeñas compañías, dejando el mercado exclusivamente en manos de grandes proveedores globales.

Datos: del consentimiento formal a la responsabilidad demostrable

Los sistemas de IA tensionan un modelo de privacidad construido alrededor del consentimiento individual y de finalidades definidas de antemano.

En modelos entrenados con grandes volúmenes de información, los datos se reutilizan, se combinan y permiten inferir atributos que la persona nunca entregó expresamente. Además, la anonimización es relativa: nuevas fuentes de información pueden hacer posible la reidentificación.

NITRO recomienda: Soberanía digital: La nueva pregunta de negocio para empresas y operadores

La respuesta no puede ser acumular avisos de privacidad que nadie lee. Se requiere responsabilidad demostrable: Bases jurídicas claras; minimización; procedencia y calidad documentadas; controles de acceso; análisis de impacto; mecanismos de oposición y corrección; y límites especiales para datos biométricos, de salud, financieros, de niños y de comunidades vulnerables.

Para la región, esto incluye evaluar si los conjuntos de datos representan adecuadamente el español, el portugués, las lenguas indígenas y las realidades locales, o si amplifican sesgos importados.

Responsabilidad: la IA no debe convertirse en una coartada

Atribuir personalidad jurídica a un sistema de IA parece innovador, pero desplaza la pregunta esencial: quién responde y con qué patrimonio cuando ocurre un daño.

La salida más clara es distribuir la responsabilidad entre los actores de la cadena según su control, información y beneficio: Desarrollador, proveedor, integrador, empresa que despliega el sistema y, cuando corresponda, usuario profesional. La organización que decide utilizar un chatbot, un motor de decisión o un agente autónomo no puede presentar al software como un tercero independiente.

Para sistemas de alto impacto conviene complementar las reglas generales con presunciones probatorias, deberes de conservación de evidencia, seguros o fondos de cobertura y cláusulas contractuales que no trasladen todo el riesgo al cliente final.

La trazabilidad técnica importa, pero la víctima no debería tener que reconstruir por sí sola una cadena opaca de modelos, datos y proveedores para obtener reparación.

Contratos y agentes: autonomía operativa, responsabilidad humana

Los agentes de IA pueden negociar condiciones, hacer compras, ejecutar pagos o activar servicios dentro de parámetros definidos. Esto no vuelve inútiles a las categorías contractuales existentes.

Obliga a precisar identidad, autoridad, límites de mandato, evidencia de instrucciones y reglas para resultados imprevistos. En la mayoría de los casos, la voluntad jurídicamente relevante seguirá siendo la de la persona o empresa que configuró y puso en operación el sistema.

NITRO recomienda: Reforma a la Ley de Inversión Extranjera.- el riesgo está en los detalles

Para América Latina, la identidad digital interoperable y la calidad de la evidencia electrónica serán piezas decisivas. Sin ellas, la automatización contractual puede ampliar el comercio, pero también el fraude y la exclusión.

Los contratos con proveedores de IA deben cubrir niveles de servicio, seguridad, cambios de modelo, uso de datos, propiedad de resultados, auditoría, subcontratación, continuidad, reversibilidad y cooperación ante incidentes.

Autoría, entrenamiento y patrimonio cultural

En propiedad intelectual conviene separar dos debates. El primero es si un resultado generado con IA merece protección: El criterio más sólido sigue siendo identificar una contribución creativa humana verificable, evaluada caso por caso.

El segundo es si las obras usadas para entrenar un modelo fueron obtenidas y utilizadas legítimamente. Que una fotografía, una canción o un artículo esté disponible en internet no significa que sea jurídicamente libre.

La agenda latinoamericana debe añadir un elemento propio: La protección de expresiones culturales tradicionales, conocimientos indígenas y patrimonio colectivo. Un régimen diseñado sólo para autores individuales y obras registradas puede dejar fuera a comunidades cuyos contenidos alimentan modelos sin autorización, atribución ni beneficio compartido.

Transparencia sobre fuentes, mecanismos de reserva u oposición, licencias legibles por máquina y esquemas de remuneración pueden reducir ese desequilibrio.

Justicia y sector público: asistir no es sustituir

La IA puede acelerar investigación jurídica, clasificación de expedientes, traducción y preparación de borradores. También puede ampliar el acceso a servicios públicos.

Sin embargo, cuando incide en derechos, la decisión final debe seguir bajo responsabilidad humana y ser explicable, controvertible y recurrible.

Un sistema que predice a partir del pasado puede convertir desigualdades históricas en decisiones futuras y presentar esa repetición como neutralidad matemática.

Toda adquisición pública de IA debería exigir una evaluación de impacto, acceso suficiente para auditoría, registro de versiones, pruebas con población local, protocolo de intervención humana y un canal de reclamación.

La reserva comercial no puede anular el debido proceso. En justicia, seguridad, migración y protección social, el Estado no debe utilizar una herramienta que no pueda supervisar de manera efectiva.

Plataformas y consumidores: de la neutralidad a la diligencia

Las plataformas ya no son simples canales cuando recomiendan, jerarquizan, personalizan precios, moderan contenido o diseñan interfaces para influir en decisiones. La combinación de IA generativa, publicidad segmentada y patrones de diseño manipulativos profundiza la asimetría con el consumidor. Por ello, la diligencia debe crecer con la escala, el control y el riesgo de la plataforma.

La región necesita reglas claras para identificar contenido sintético y deepfakes, explicar los principales factores de los sistemas de recomendación, prohibir la explotación de vulnerabilidades y ofrecer procedimientos rápidos de reclamación.

La protección debe considerar al consumidor real de América Latina, que puede conectarse sólo por un teléfono prepago, compartir dispositivo, tener alfabetización digital limitada o depender de una plataforma para trabajar. La vulnerabilidad no es excepcional: muchas veces está incorporada en la arquitectura del mercado.

Una agenda mínima para América Latina

El punto de partida debería ser una taxonomía regional interoperable de riesgos y derechos mínimos: saber cuándo se interactúa con IA; recibir información comprensible; solicitar revisión humana en decisiones de alto impacto; impugnar resultados; corregir datos; y obtener reparación. Cada país puede implementar ese piso según su sistema constitucional y sus reguladores sectoriales.

En segundo lugar, hace falta un coordinador nacional con capacidad técnica, pero no un superregulador que reemplace a las autoridades de datos, consumo, competencia, trabajo, salud, finanzas o telecomunicaciones.

El modelo más realista es una gobernanza en red: criterios comunes, competencias sectoriales y un mecanismo de coordinación e intercambio de incidentes. Los sandboxes deben probar tanto el producto como la capacidad del regulador para supervisarlo.

NITRO recomienda: Una red sostenible tiene que cerrar tres cuentas: empresa, Estado y personas

En tercer lugar, regulación y política industrial deben avanzar juntas. El ILIA 2025 advierte que la región invierte en IA cuatro veces menos de lo que correspondería a su peso económico mundial; diez de los diecinueve países evaluados no contaban con unidades de procesamiento gráfico reportadas, y la alfabetización en IA supera ampliamente la formación profesional y el talento especializado.

Sin cómputo, datos de calidad, talento, conectividad y capacidad de auditoría, una ley ambiciosa será difícil de ejecutar y la región seguirá siendo principalmente consumidora de tecnología extranjera.

Confianza como infraestructura económica

El nuevo derecho de la inteligencia artificial no consiste en declarar a la tecnología culpable o inocente. Consiste en decidir qué riesgos son aceptables, quién debe prevenirlos, quién responde cuando se materializan y qué derechos conservan las personas frente a decisiones automatizadas.

La neutralidad tecnológica debe mantenerse, pero no puede confundirse con neutralidad frente al daño.

América Latina tiene la oportunidad de construir un modelo propio: Abierto a la innovación, compatible con los mercados globales y arraigado en sus realidades sociales.

El objetivo no debería ser ganar la carrera por aprobar la ley más extensa, sino crear la gobernanza más confiable y ejecutable. En una economía basada en datos y sistemas probabilísticos, la confianza no es un freno. Es infraestructura productiva.

Sigue a NITRO en LinkedIn.