La Constitución de la provincia de Jujuy, sancionada el 20 de junio de 2023, incorporó el derecho de toda persona a usar sistemas de inteligencia artificial (IA) o no humana y el deber del Estado de fomentar la investigación y desarrollo de estos sistemas aplicados a los servicios públicos, promoviendo la colaboración entre sector público y privado. En caso de conflicto de derechos surgidos por el uso de estos sistemas se priorizarán los derechos humanos y las libertades y garantías constitucionales.
Así lo dispone el artículo 76 que consta de cinco incisos, aprobado por la convención constituyente sin discusión, en el marco del Capítulo V "Nuevas declaraciones, derechos, deberes y garantías constitucionales". Entre otras novedades, se incorporó la democratización del conocimiento y la inclusión digital (art 72), la democratización de la tecnología y la innovación (art 73), la biotecnología (art 74), el acceso a mejoras tecnológicas que interactúen con procesos biológicos (art. 75) y la protección de datos personales y acción de habeas data. Encaramos aquí un balance de la norma sobre IA que incluye sus fortalezas y debilidades.
Al analizar la cuestión de la IA a partir de los documentos de la Convención Constituyente de la provincia de Jujuy de 2023, el Diario de Sesiones y los proyectos de reforma constitucional, se observa una preocupación por cuestiones como la inclusión digital y el acceso a las Tecnologías de la Información y Comunicación (TIC), la promoción de la igualdad y la participación plena de los habitantes en la vida socioeconómica.
Ahora bien, ¿cuáles fueron los principales argumentos que sostuvieron los artículos propuestos en la reforma? Según consta en los documentos de la Convención, hay fundamentos detallados para varios de los nuevos artículos, explicando las razones históricas, sociales, económicas, jurídicas y culturales para su incorporación al nuevo texto constitucional.
La IA es una nueva etapa
En el caso que nos ocupa prioritariamente aquí, la Inteligencia Artificial o no humana, se alegó que su inclusión responde a la evolución actual de la tecnología en la cual la IA "representa una nueva etapa con el potencial de revolucionar la vida humana". La IA está cada vez más presente y la cláusula busca "asegurar que todos puedan acceder a sus beneficios", evitando la brecha digital y fomentando el debate público sobre sus desafíos éticos y jurídicos.
Entre los fundamentos culturales y económicos se menciona que la IA plantea interrogantes sobre la autonomía y la identidad cultural, y se buscó que su uso respete la diversidad cultural. Económicamente, esta tecnología tiene el potencial de "impulsar el desarrollo económico", mejorar los servicios públicos y generar empleo, aunque también se predicen pérdidas de empleos, lo que exige una reforma para instaurar un estándar de acción para el Estado y los ciudadanos.
Los convencionales, en el trabajo en comisión, también esbozaron argumentos de carácter jurídico-políticos. La IA plantea desafíos legales y éticos que deben abordarse con principios claros para regular su desarrollo y uso, entre ellos legalidad, transparencia, responsabilidad, protección de datos, seguridad y no discriminación.
Además, los convencionales buscaron garantizar el acceso a la justicia para las personas que puedan ser afectadas negativamente por decisiones basadas en estos sistemas. En caso de que surja un conflicto de derechos por el uso de la IA, se aplicará el "principio de primacía de los derechos humanos" y de las libertades y garantías constitucionales a favor de las personas.
La Constitución aprobada reconoce el derecho de toda persona a utilizar sistemas de inteligencia artificial o no humana. Define estos sistemas como aquellos basados en métodos computarizados (algoritmos, datos, modelos) que imitan el comportamiento humano y automatizan procesos complejos, incluyendo desarrollos futuros en el campo.
Por su parte, el Estado se compromete a fomentar la investigación y el desarrollo de la IA con el fin de "modernizar, agilizar y mejorar los servicios públicos". Para ello, promoverá la colaboración entre los sectores público y privado. El Estado -además- fomentará la educación y el debate público sobre los desafíos éticos y jurídicos que plantean estos sistemas, incluyendo sus "efectos en la transformación del mundo laboral".
Las fortalezas
Tal vez la mayor fortaleza sea su naturaleza vanguardista. Incluir la IA a nivel constitucional eleva el tema a una categoría de derecho fundamental y establece un mandato claro para los poderes del Estado. En lugar de esperar a que surjan conflictos, la Constitución se anticipa, reconociendo la IA como una nueva etapa en la evolución de la tecnología, con un profundo impacto social y económico.
El artículo 76 no se limita a regular una tecnología, sino que consagra el "derecho de toda persona a utilizar sistemas de inteligencia artificial". Este enfoque es fundamental desde el punto de vista constitucional, ya que enmarca la tecnología como una herramienta para el desarrollo personal y social, en línea con otros derechos como el acceso al conocimiento y la innovación.
El texto constitucional no deja la regulación librada a un vacío legal. Al contrario. Exige que la ley sujete los sistemas de IA a un conjunto de principios robustos y alineados con los estándares internacionales: legalidad, transparencia, responsabilidad, privacidad, seguridad, no discriminación y rendición de cuentas. Esto crea un marco de protección sólido que deberá ser respetado por la legislación futura.
El inciso 5 del artículo 76 es una salvaguarda constitucional de vital importancia. Establece que, en caso de conflicto, se aplicará "el principio de primacía de los derechos humanos". Esta disposición asegura que el desarrollo tecnológico nunca podrá sobrepasar la dignidad y las garantías fundamentales de las personas, resolviendo de antemano cualquier tensión normativa a favor del individuo.
La Constitución consagra explícitamente "la acción de solicitud de revisión humana cuando sea necesario" y garantiza el acceso a la justicia en caso de vulneración de derechos. Esto aborda directamente uno de los mayores riesgos de la IA: las decisiones automatizadas que pueden afectar negativamente a las personas sin una explicación o vía de recurso claras.
La cláusula constitucional presenta una visión equilibrada del rol del Estado. Por un lado, debe fomentar la investigación y el desarrollo de la IA para mejorar los servicios públicos. Por otro, tiene el deber de fomentar la educación y el debate público sobre los desafíos éticos y jurídicos de estas tecnologías, incluyendo su impacto en el mundo laboral.
Debilidades y desafíos
En este aspecto se destacan al menos cuatro cuestiones. Si bien es propio de una Constitución establecer principios generales, la efectividad del Artículo 76 depende casi por completo de la ley que lo reglamente.
La frase "la ley sujetará estos sistemas a los principios de..." traslada toda la carga de la implementación al Poder Legislativo. Sin una ley robusta, detallada y oportuna, los derechos y principios consagrados corren el riesgo de convertirse en meras declaraciones programáticas sin aplicación práctica. Hasta la fecha los diputados provinciales no avanzaron con una ley marco o reglamentaria del art. 76.
La Constitución no crea, ni ordena crear, un organismo técnico específico para la supervisión y control de la IA. Si bien una versión previa del articulado mencionaba la sujeción a "auditorías regulares por parte de autoridades competentes", esta referencia fue eliminada del texto final. La falta de un ente regulador con la pericia técnica e independencia política necesaria podría dificultar la fiscalización efectiva y la aplicación de los principios de transparencia y rendición de cuentas.
Otro punto débil tiene que ver con la falta de precisión conceptual de términos como "transparencia", "responsabilidad" o "revisión humana cuando sea necesario", que son complejos en el contexto de la IA. La Constitución no los define, dejando un amplio margen de interpretación a la ley y, eventualmente, a los jueces. Esta vaguedad puede generar inseguridad jurídica para desarrolladores y usuarios, y podría dar lugar a litigios complejos para determinar el alcance exacto de estos principios. Otra tarea para los legisladores provinciales.
Finalmente es preciso considerar potenciales conflictos de competencia. La IA es una tecnología transfronteriza por naturaleza. Una regulación provincial, aunque pionera, podría entrar en conflicto con futuras leyes nacionales o con regulaciones federales existentes (como la Ley de Protección de Datos Personales a nivel nacional).
La provincia de Buenos Aires aprobó este año las Directrices de Uso de Inteligencia Artificial Generativa en la Administración Pública, "una guía de uso y pautas mínimas a tener en cuenta, por los distintos organismos de la Administración Pública bonaerense, que quieran servirse de un sistema de inteligencia artificial generativa", explicó la Subsecretaría de Gobierno Digital del Ministerio de Gobierno de aquel estado.
La legislatura de Mendoza inició en mayo un proceso para incorporar la IA a la labor parlamentaria, partiendo de "una guía internacional con 40 directrices desarrolladas por expertos parlamentarios y tecnológicos de 16 países, que ofrece recomendaciones prácticas y éticas para la incorporación de la inteligencia artificial en los procesos legislativos", iniciativa impulsada por la Westminster Foundation for Democracy.
Pero no hay antecedentes en Argentina de inclusión constitucional de disposiciones sobre IA ni de leyes provinciales que regulen la materia. Por otro lado, hay más de 60 proyectos en la Cámara de Diputados de la Nación y alrededor de 20 en el Senado relacionados con distintos aspectos de la IA, la mayoría sin avances en las comisiones. Esto muestra el potencial conflicto entre leyes locales y nacionales en una cuestión sensible que tensa la relación entre innovación tecnológica y resguardo de derechos fundamentales.
Los documentos preparatorios de la redacción final no abordan cómo se resolverían estas posibles superposiciones jurisdiccionales, lo que podría generar un desafío al federalismo. Esta es una reflexión basada en principios constitucionales generales, ya que las fuentes no tratan este punto.
En conclusión, enfocando la mirada en los antecedentes de la convención y en el resultado plasmado en la Constitución Provincial, las disposiciones sobre Inteligencia Artificial son una fortaleza innegable en términos de innovación y protección de derechos. El texto establece una base principista sólida, centrada en la persona humana y con visión de futuro.
Ahora es la Legislatura la que debe asumir la elaboración de una normativa que operativice estos principios y anticipe soluciones a posibles conflictos. (Iván Lello, docente/investigador Fhycs Unju).