El Gobierno prevé crear una Agencia Estatal que tomará "medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial". Así lo recoge la Ley de Presupuestos Generales del Estado (PGE) que publica el BOE. 

Con un Reglamento europeo inminente sobre el asunto, España tiene una oportunidad de liderar el cambio hacia la vigilancia pública sobre aquellos algoritmos que inciden desde hace años en nuestra vida real.

No obstante, el nacimiento de este criatura, llamada Agencia Española de Supervisión de la Inteligencia Artificial, tardará aún meses; se requiere obligatoriamente de una ley específica para crearla, con un plan inicial de actuación que, de momento, no está definido. Además, en ningún caso podrá arrancar sin haber sido aprobados y publicados sus estatutos, como indica la Ley 40/2015 de Régimen Jurídico del Sector Público.

Esta nueva Agencia, recogida en la Disposición adicional centésima trigésima de la Ley de PGE, "actuará con plena independencia orgánica y funcional de las Administraciones Públicas, de forma objetiva, transparente e imparcial", es decir, de forma parecida a otras existentes como la Agencia Española de Protección de Datos (AEPD), con la que deberá coordinarse, entre otros entes públicos.

Igualmente, tendrá "personalidad jurídica pública, patrimonio propio y autonomía en su gestión, con potestad administrativa"; tendrá capacidad sancionadora, aunque no se especifica más.

Entre sus funciones se incluirán "el desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, así como aquellos impulsados por la Unión Europea, en particular los relativos al desarrollo normativo sobre inteligencia artificial y sus posibles usos".

La iniciativa política

Tal y como adelantaba anoche el periodista Carlos del Castillo en Eldiario.es, la idea de la creación de esta 'Agencia de Algoritmos' partió de una enmienda de Más País-Equo, y la partida presupuestaria inicial es de cinco millones de euros, que salen de la Estrategia Nacional de Inteligencia Artificial; en concreto del aporte a empresas privadas como apoyo a la red nacional de centros de excelencia.

La defensa de los derechos de los ciudadanos frente a determinados algoritmos de los que ya se ha demostrado sobradamente sus sesgos y errores  es un clamor de analistas y expertos desde hace varios años.

Las buenas intenciones con las que nace este proyecto chocarán, sin duda, con la opacidad con la que operan gobiernos y compañías que utilizan algoritmos -protegidos, sobre todo, por normas de propiedad intelectual, secreto empresarial o incluso materia reservada- para la toma de decisiones, algunas de ellas tan importantes como el precio de un seguro, la selección de empleo, la prevención de la criminalidad, la "intrusiva" identificación biométrica o simplemente el despliegue de información (o desinformación) en redes sociales y buscadores de internet.

Mientras, la UE ultima su próxima normativa sobre Inteligencia Artificial; al ser reglamento, significa que será de aplicación directa en todos los estados de la Unión Europea. Previsiblemente será esta Agencia la encargada de hacer cumplir las sanciones que prevé dicha norma, y que podrían alcanzar los 30 millones de euros o bien el 6% del volumen de negocio total anual mundial del ejercicio financiero anterior (artículo 71 de la propuesta de Reglamento mencionada), si se trata de una compañía.

¿Conseguirán esta "Agencia de Algoritmos" y el próximo Reglamento Europeo de Inteligencia artificial obligar a los gobiernos y a las empresas a ofrecer transparencia en los procesos automatizados? Desde ahora, es ya una cuestión de voluntad política.