Fronteras aificadas, los migrantes como conejillos de indias

A pesar de vulnerar los derechos humanos más fundamentales, los sistemas de inteligencia artificial se usan en las fronteras europeas para gestionar la llegada de personas migrantes.

Las personas migrantes sirven, a menudo, como banco de pruebas para tecnologías de control. A veces esas tecnologías se extienden después al resto de la población, pero no siempre. Las fronteras de Grecia, es decir, las fronteras de la Unión Europea, son uno de los ejemplos más evidentes.

Los nuevos campos de refugiados creados después del incendio del infausto de Moria, en Lesbos, en septiembre de 2021, se denominan Centros de Acceso Controlado Cerrado (CCAC por sus siglas en inglés). Dos de ellos se encuentran en las islas de Samos y Leros, en funcionamiento desde 2021. El proyectado en Lesbos aún está en construcción porque, tres años más tarde, con los barracones ya terminados, el Gobierno aún no sabe cómo garantizar los suministros de agua y electricidad, debido a que para su ubicación se eligió un paraje remoto en medio de un bosque no urbanizado.

Mientras que para la población general la vigilancia en tiempo real mediante inteligencia artificial todavía es una fantasía propia de las distopías de ciencia ficción, para los y las refugiadas de estos campos ya es una realidad cotidiana. En los CCAC, las personas viven bajo constante vigilancia y están sujetas al escaneo de iris y huellas dactilares de manera diaria, lo que genera una extensa base de datos biométricos no solo para el sistema de asilo griego, sino también para todos los países del área Schengen.

En los CCAC funcionan dos sistemas regidos por inteligencia artificial que llevan el nombre de Hyperion y Centauro. En la mitología helena, Hiperión es el dios de la observación. En los campos, Hyperion gestiona las solicitudes de asilo en todas las facetas que necesita el Servicio de Recepción e Identificación. Por un lado, es la herramienta principal para el control de acceso (entrada-salida) a las instalaciones mediante el uso de datos biométricos; por otro, es la base de datos mediante la que se aprueban o se rechazan las peticiones de asilo, tras la preceptiva entrevista. Así, los datos biométricos, familiares, legales y hasta políticos de una persona que solicita protección internacional se procesan con un mismo programa.

La vigilancia en tiempo real mediante inteligencia artificial ya es una realidad cotidiana para muchos y muchas refugiadas.

El sistema Centauro se parece aún más a las pesadillas que durante años hemos visto en novelas y películas. Se trata de un sistema digital de gestión de la seguridad que utiliza algoritmos de análisis en tiempo real del comportamiento de todas las personas que están dentro del campo. Y también en sus alrededores. Para ello se sirve de cámaras que envían imágenes en directo al centro de control, situado en Atenas. Allí se procesan y el sistema dictamina si alguna persona está teniendo algún comportamiento considerado como peligroso.

La Ley Europea de Inteligencia Artificial, aprobada el pasado 13 de marzo, sin embargo, prohíbe el uso de sistemas como Centauro de manera cotidiana. En su Anexo III, clasifica como sistemas de IA de alto riesgo aquellos que tienen implicaciones para los derechos fundamentales y limita el uso de sistemas de identificación biométrica (RBI) por parte de las fuerzas policiales a casos específicos. Así, si bien no se prohíbe del todo la identificación biométrica remota de multitudes, se restringe al uso a posteriori: es decir, no se puede vigilar el espacio público mediante el reconocimiento facial masivo antes de que se cometa un delito grave, solo después. Y, por estar considerado un sistema de alto riesgo, su uso requiere aprobación judicial y debe estar vinculada a un delito.

No obstante, AlgoRace, una iniciativa de la Asociación Antirracista por los Derechos Humanos centrada en el estudio de la IA, denuncia que “la lista de sistemas de alto riesgo no recoge aquellos que se usan en el contexto de la migración y, por lo tanto, [estos] no estarán sujetos a las obligaciones del Reglamento. Esta lista excluye sistemas calificados de peligrosos como la identificación biométrica, escáner de huellas o herramientas de previsión usadas para predecir, prohibir y restringir la migración”. En su análisis sobre la reciente Ley Europea señala que esta excluye a la población migrante de las garantías que establece para la ciudadanía europea, porque permite que las bases de datos procesadas con IA en materia de migración como Eurodac, el Sistema de Información de Schengen y ETIAS, no tengan que cumplir el Reglamento hasta 2030. Asimismo, el Gobierno griego no ha manifestado en ningún momento su intención de dejar de utilizar estos sistemas.

En el caso de Grecia, incluso antes de que se aprobara el marco legal europeo, Centauro vulneraba los derechos fundamentales contenidos en la legislación nacional griega, según la Autoridad para la Protección de Datos Personales. En febrero de 2022, la ONG Homo Digitalis, en colaboración con la Liga Griega por los Derechos Humanos y la organización jurídica de apoyo a los migrantes HIAS, presentó una denuncia contra el Ministerio de Migración y Asilo por el uso de Hyperion y Centauro. El pasado 3 de abril se dictaminó que dichos programas vulneran la protección de datos y se sancionó al Ministerio con una multa de de 175.000 euros, la más alta jamás impuesta a una entidad pública. El detallado análisis de la Autoridad subraya las importantes deficiencias en las que incurrió el Ministerio de Migración y Asilo “en la elaboración de una Evaluación de Impacto Integral y Coherente sobre la protección de datos”. Además, el dictamen señala que las vulneraciones “afectan a un gran número de sujetos con verdaderas dificultades para ejercer sus derechos”.

La demandante, Homo Digitalis, celebró el resultado en una nota de prensa en la que, no obstante, alerta sobre posibles incumplimientos por parte del Ministerio: “Una multa elevada por sí sola no significa nada. El Ministerio de Migración y Asilo debe cumplir en los próximos tres meses. En cualquier caso, esta decisión respalda y fortalece las acciones en el ámbito de la protección en las fronteras, con el fin de proteger los derechos de los grupos sociales vulnerables que son particularmente afectados por tecnologías altamente invasivas”, sostuvo la ONG.

Fronteras ultratecnológicas

2023 fue un año importante en el desarrollo, ascenso e implementación de sistemas impulsados y asistidos por inteligencia artificial en campos como la defensa, y también en lo relativo a las migraciones y el control de fronteras. Los campos que acogen a personas refugiadas no son el único ámbito en el que la población en movimiento es usada como conejillo de indias. En la actualidad hay numerosos proyectos financiados con fondos públicos europeos para desarrollar tecnologías que integran la IA con el objetivo de fortalecer la militarización de las fronteras.

Entre ellos se encuentran experimentos de monitoreo biométrico para detectar emociones, como iBorderCtrl; equipos para prever situaciones críticas en la frontera, como REACTION (acrónimo de Inteligencia Artificial en Tiempo Real para Vigilancia Fronteriza, en inglés); sistemas de vigilancia autónomos como ROBORDER; dispositivos autónomos aéreos, submarinos y terrestres, como BorderUAS; programas de intercambio masivo de datos como CERETAB; plataformas de mapeo capaces de procesar un gran volumen de datos como AIDERS o programas para la predicción de flujos migratorios como ITFLOWS, entre otros.

Estos sistemas son propensos a errores debido a los sesgos en el entrenamiento de sus algoritmos. Organizaciones como AlgoRace alertan desde hace tiempo de que los procesos de entrenamiento de las IA no están exentos de las opresiones sistémicas que produce el racismo, por lo que después producen resultados distorsionados.

Los sistemas de IA se sumarán a unas fronteras que ya cuentan con tecnología muy sofisticada. En Evros, la frontera terrestre entre Grecia y Turquía, funciona desde hace años el ABSS, siglas en inglés del Sistema de Vigilancia de Fronteras Automatizado, que cuenta con diferentes tipos de cámaras de vídeo, de detección de movimiento, cámaras térmicas, radares y demás. Aunque se trata de un sistema automatizado, la investigadora Lara Karamanidou explica que el sistema detecta la presencia de alguien cerca de la valla, pero es un mando policial en persona quien decide si envía a una patrulla o no. Es decir, funciona en base a decisiones humanas. Lo más relevante en la investigación de esta experta es la demostración de que más y mejor tecnología de fronteras no da como resultado un mejor cumplimiento de la ley.

A pesar de ello, Karamanidou no es derrotista. “Utilizan tecnologías de frontera desde hace décadas, pero la gente sigue cruzando. Esto demuestra que la tecnología nunca ha impedido completamente el movimiento. Es crucial recordar la determinación de las personas en tránsito y no presentar el movimiento como totalmente controlado por la tecnología y los operadores humanos de la misma, así como por quienes llevan a cabo la vigilancia y el control de fronteras”, explica convencida de que, de una manera u otra, la gente encontrará la manera de cruzar las fronteras, como ha pasado siempre. ◼