La IA es cuestión de Estado en la Provincia de Buenos Aires

La Provincia de Buenos Aires se convirtió en la segunda jurisdicción del país en regular formalmente el uso de la inteligencia artificial dentro del Estado, luego de que lo hiciese Santa Fe a través de un decreto. La resolución bonaerense fija qué se puede hacer, qué queda prohibido y bajo qué condiciones se podrán desplegar sistemas de IA en ministerios, organismos y municipios.

El timing no es casual. La norma se publica pocos días después de que el municipio de Zárate designara a ZARA como “Directora General de Atención al Vecino No Humana”, con facultades para gestionar expedientes y firmar resoluciones administrativas. Es decir: en la misma provincia en la que un municipio por decreto le otorga rango de funcionaria a una IA, el gobierno provincial sale a marcar límites, hablar de riesgos, de derechos y de control humano.

¿Qué regula, concretamente, la resolución bonaerense? El texto alcanza todo el ciclo de vida de la IA en el Estado: desarrollo, investigación, contratación, adquisición, uso y despliegue de sistemas en cualquier organismo provincial, con el objetivo declarado de proteger derechos y garantías fundamentales de la ciudadanía. Obliga a que cualquier dependencia que quiera usar IA cumpla estándares de seguridad, transparencia, equidad, sustentabilidad y, sobre todo, control humano. A su vez, exige que cada sistema se registre en un padrón provincial específico, administrado por la Dirección Provincial de Innovación Digital.

El corazón de la regulación es el enfoque por riesgos. Buenos Aires adopta cuatro categorías —riesgo inaceptable, alto, limitado y nulo— siguiendo explícitamente el modelo del AI Act europeo, el reglamento de la Unión Europea que entró en vigor en 2024 y que también clasifica los sistemas de IA según el daño potencial a derechos, seguridad o el orden democrático. En la categoría de riesgo inaceptable quedan directamente prohibidos los sistemas que manipulan conductas con técnicas subliminales o construyen mecanismos de “scoring social”, es decir, puntuaciones automatizadas del comportamiento de las personas para condicionar beneficios o reputaciones. Que una provincia argentina vete por norma el crédito social no es un detalle técnico: es una forma de decir que ese imaginario no entra en el repertorio de herramientas del Estado bonaerense.

Los sistemas de alto riesgo, en cambio, están permitidos, pero bajo condiciones duras. La resolución coloca ahí a la identificación biométrica, los sistemas que gestionan infraestructuras críticas, las herramientas usadas en justicia, educación, empleo, democracia y administración pública. En todos esos casos, exige una evaluación de impacto algorítmico previa que mida riesgos legales, éticos, sociales y técnicos antes de que la herramienta se ponga en producción. Es decir: si un ministerio quiere usar IA para priorizar turnos médicos, ordenar expedientes o asignar beneficios, primero tiene que demostrar que entiende qué puede salir mal.

Para los sistemas de riesgo limitado (por ejemplo, chatbots informativos) la consigna es la transparencia: el ciudadano tiene que saber que está interactuando con una máquina y no con una persona. Después, para los de riesgo nulo, como automatizaciones internas sin impacto directo en personas, la regulación se limita a reclamar buenas prácticas técnicas. En todos los casos, la Provincia introduce obligaciones transversales: gestión continua de riesgos, medidas para evitar sesgos y discriminación (con foco en “sectores vulnerados”), resguardo de datos durante el tiempo suficiente para auditar decisiones y consentimiento informado cuando se traten datos personales.

Hay, además, dos gestos que muestran en dónde quiere pararse la Provincia en la conversación global. El primero es la mención explícita a marcos internacionales: la resolución reconoce como antecedentes al AI Act europeo, a los principios de la OCDE sobre IA confiable y a la Recomendación de la UNESCO sobre la ética de la inteligencia artificial, que insisten en un enfoque centrado en derechos humanos, transparencia, trazabilidad y responsabilidad de los actores que diseñan y despliegan sistemas algorítmicos. El segundo es la inclusión del criterio ambiental: se obliga a que los sistemas sean “sostenibles y sustentables” y se pide tomar medidas para limitar el impacto ecológico, un tema que recién empieza a discutirse con fuerza cuando se mira el consumo energético de los grandes modelos.

Si se lo compara con el AI Act, el movimiento bonaerense se parece más a una traducción local de una lógica ya instalada que a un invento de cero. Europa también prohíbe ciertas prácticas consideradas inaceptables (por ejemplo: manipulación dañina, explotación de vulnerabilidades, social scoring, recolección masiva de rostros para reconocimiento facial) y somete a requisitos estrictos a los sistemas de alto riesgo en servicios públicos, educación, seguridad o empleo. La Provincia toma esa matriz, la recorta al perímetro de la administración estatal y la inserta en su propio derecho administrativo. La gran diferencia es de alcance: mientras la normativa europea busca cubrir tanto sector público como privado en todo el mercado único, la resolución de Buenos Aires sólo aplica al Estado provincial y deja para otra discusión qué pasa con bancos, aseguradoras, plataformas y empresas que operan en su territorio.

La referencia al caso Zárate funciona casi como una nota al pie incómoda. Si una IA puede ser designada directora general con firma y facultades para resolver expedientes, ¿cómo clasificar ese sistema bajo la nueva resolución provincial? ¿Es un chatbot de riesgo limitado que sólo conversa con vecinos, o un sistema de alto riesgo que incide en derechos concretos y, por lo tanto, debería pasar por una evaluación de impacto, estar registrado y operar bajo supervisión humana efectiva? La norma no está pensada para prohibir experimentos como ZARA, pero sí para obligarlos a abandonar la ficción de la autonomía absoluta: detrás de cada resolución dictada por la IA, tiene que haber trazabilidad, responsables identificables y capacidad real de revisión por parte de funcionarios humanos.

La Resolución 9/2025 no resuelve todos esos dilemas, pero indudablemente mueve el tablero. Le da al ciudadano algunas herramientas mínimas (saber cuándo está frente a una IA, exigir que haya un registro y un responsable, reclamar que se evalúen impactos antes de usar modelos en áreas sensibles) y obliga al propio Estado a hacerse preguntas que venía esquivando: qué datos usa, con qué criterios entrena sistemas, quién audita los resultados, cómo se corrigen errores.

En cualquier caso, lo que deja claro la medida es que la discusión sobre IA en el Estado dejó de ser un tema de ciencia ficción o de marketing tecnológico. Se volvió derecho administrativo, política pública y, sobre todo, disputa por el poder de decidir qué algoritmos se aceptan, bajo qué condiciones y con qué garantías. En una provincia donde un municipio ya nombró a un chatbot como directora general, no es menor que el nivel provincial se apure en marcar que la tecnología puede ayudar a gobernar, pero no reemplazar a quienes tienen la obligación constitucional de hacerlo.