31.1.22

Inteligencia artificial en la frontera sur: opacidad y falta de garantías en la puerta de Europa

Por Pablo Jiménez Arandia

España usará sistemas de reconocimiento facial y recopilación de datos biométricos en los pasos de Ceuta y Melilla. Expertos y organizaciones de derechos humanos alertan de los peligros de estas herramientas.

La Unión Europea (UE) trabaja desde hace años en la construcción de una "frontera inteligente" en los límites del Espacio Schengen. Bajo este adjetivo se engloba el uso de tecnologías de inteligencia artificial para el control en las entradas y salidas de ciudadanos de terceros países. Este viejo sueño de las autoridades comunitarias parece haber pegado un acelerón en los últimos meses, para alarma de expertos y organizaciones de derechos humanos.  

En junio de 2020, con la pandemia monopolizando titulares y telediarios, los Estados miembros firmaron un contrato multimillonario que pasó más bien inadvertido: 302.500 millones de euros para el diseño e implementación de un ambicioso proyecto de control biométrico en las fronteras exteriores de la UE. Una pieza clave en el nuevo modelo fronterizo que el Parlamento europeo aprobó en 2017 con el nombre de EES, por sus siglas en inglés (Entry/Exit System). 

Este sistema pretende sustituir el actual control manual de pasaportes por un registro digital -con información como el nombre de la persona, su fecha de entrada y salida o el tipo de documento en posesión, entre otros datos- mediante la recogida de cuatro huellas dactilares y de imágenes del rostro a través de reconocimiento facial. 

Sobre el papel, el plan de Bruselas es implementar el EES durante este año -está por ver si los plazos se cumplen, algo que parece difícil- en todas sus fronteras exteriores: aeropuertos internacionales, puertos y pasos terrestres. El Gobierno español trabaja desde hace meses en la implantación de este sistema en Ceuta y Melilla. 

Según informó El País en diciembre, el Ejecutivo de Pedro Sánchez ha creado una comisión compuesta por varios ministerios para rediseñar ambos pasos fronterizos, cerrados por Marruecos desde el inicio de la pandemia y escenario de una crisis humanitaria en mayo pasado.

Voz de alarma de activistas y expertos 

Más de 40 organizaciones de derechos humanos y expertos en el impacto social de la inteligencia artificial acaban de lanzar un manifiesto alertando de los potenciales riesgos de este plan. Entidades como Oxfam Intermón, Red Acoge, DataForGoodBCN, Rights International, el Institut de Drets Humans de Catalunya (IDHC) y RegularizaciónYa alertan de la amenaza que el uso de estas tecnologías puede suponer en los derechos fundamentales de las personas que cruzan una frontera como la hispano-marroquí. 

Los firmantes señalan el peligro de que se ahonde en la discriminación de un colectivo, el de las personas migradas, ya de por sí vulnerable. Y critican la falta de transparencia y de garantías para el uso de estos sistemas. "La aplicación de mecanismos de inteligencia artificial en el control fronterizo supone un peligro de vulneración de derechos humanos, discriminación, criminalización y violación de la privacidad", apuntan.

La desconfianza en torno al uso del reconocimiento facial y el procesamiento de datos biométricos para este tipo de fines no sólo existe entre activistas y expertos. La propia Comisión Europea, en su propuesta de regulación sobre inteligencia artificial presentada en 2021, califica estos sistemas como de "alto riesgo". Aunque deja la puerta abierta a su uso en áreas vinculadas a la seguridad y la lucha contra el terrorismo. 

Ana Valdivia, investigadora en el King's College London sobre la digitalización de las fronteras europeas, señala que el EES es un paso más, aunque significativo, en la construcción de fronteras duras en los límites de la UE a través de tecnologías de última generación. Con el foco puesto en ciudadanos de terceros países que tratan de llegar a Europa por motivos económicos o humanitarios.

Desde 2003 la UE utiliza una base de datos comunitaria (Eurodac) que almacena las huellas dactilares de todos los solicitantes de asilo y migrantes irregulares que alcanzan suelo europeo. Este sistema ha permitido, explican las entidades firmantes del manifiesto, un aumento de los traslados de los demandantes de asilo de un Estado a otro en contra de su voluntad.

Valdivia apunta que este es un ejemplo de lo que podría pasar con la implantación del EES en lugares como Ceuta y Melilla. "Esta frontera bautizada como inteligente pretende poner más trabas y hacérselo más difícil a ciertas personas, dependiendo del estatus de su ciudadanía y de su tipo de pasaporte", señala. 

"Controles de gente blanca para gente blanca" 

Lejos de ser neutrales, los algoritmos toman sus decisiones en base al tipo de datos con los que han sido construidos y entrenados. De ahí el peligro, apuntan los autores del documento, de que estas tecnologías profundicen en la discriminación y criminalización que padecen las personas que cruzan una frontera como la hispano-marroquí.  

"Es de sobra conocido que los algoritmos de reconocimiento facial suelen arrojar falsos positivos y falsos negativos en rostros no caucásicos", señalan. En referencia a los errores de estos sistemas a la hora de identificar a personas racializadas a partir de sus datos biométricos, tal y como han demostrado numerosos estudios. 

Valdivia pone como ejemplo la poca precisión que el uso de huellas dactilares tiene para identificar a niños muy pequeños. Pero incide sobre todo en los efectos que un error puede tener en este contexto y en la falta de garantías que implicaría. "Una persona que haya cruzado a Francia desde España y se le deporte porque se le ha identificado erróneamente; esa persona está totalmente desprotegida", sostiene.  

Numerosos estudios han demostrado los errores de estos sistemas a la hora de identificar a personas racializadas a partir de sus datos biométricos

Anna Peñarroya trabaja como voluntaria de la asociación Solidary Wheels en Melilla desde hace más de un año, entre otras tareas acompañando a menores extranjeros que son internados en centros al cruzar la frontera. "Estos sistemas nos traen reminiscencias de las pruebas de determinación de la edad que le hacen a los niños cuando van indocumentados", asegura.

Estas pruebas, realizadas a partir de una radiografía de la muñeca del menor, han sido condenadas por el Comité de la Infancia de Naciones Unidas y cuestionadas por el Defensor del Pueblo en España, después de que se documentasen numerosos errores. Lo que no ha impedido que las autoridades españolas las siguen utilizando. 

Peñarroya coincide con Valdivia en la ausencia de garantías que estos sistemas supondrían: "La recopilación de datos biométricos implicaría un aumento de la arbitrariedad que ya existe en la frontera". "Son controles de gente blanca para gente blanca", sentencia.

Opacidad y falta de información  

Hasta ahora no se conoce información detallada sobre los algoritmos que la Unión Europea y España utilizarán en la frontera Sur. Por ejemplo en relación a las métricas de error o a las variables utilizadas para su diseño. Ni tampoco si el Gobierno español tiene previsto algún mecanismo de control o revisión de estos sistemas, tal y como recomiendan todas las guías de uso de estas tecnologías. 

A preguntas de CTXT, desde el Ministerio del Interior se han negado en varias ocasiones a responder a estas cuestiones, alegando siempre motivos de "seguridad". Fuentes de la cartera que dirige Fernando Grande-Marlaska admiten que España ya está trabajando en la implantación del EES en los pasos de Ceuta y Melilla, pero declinan dar más de detalles sobre si se cumplirán los plazos marcados desde Bruselas o si se crearán mecanismos para garantizar los derechos de las personas que crucen esta frontera. 

Las organizaciones firmantes del manifiesto reclaman al Gobierno que incorpore observadores de derechos humanos que vigilen el uso de estas tecnologías en las ciudades autónomas

Las organizaciones firmantes del manifiesto reclaman al Gobierno que incorpore observadores de derechos humanos que vigilen el uso de estas tecnologías en las ciudades autónomas. Y al mismo tiempo critican la opacidad mostrada hasta ahora por el Ejecutivo y por la propia UE. 

"El procedimiento adolece de una falta de transparencia tanto en la forma, como en el fondo. Tampoco se menciona la auditabilidad y la publicidad de los algoritmos", señalan, en referencia a la necesidad de que estos sistemas puedan ser revisados por organismos independientes.  

Una frontera convertida en "limbo" jurídico

Keina Espiñeira investiga desde hace años la realidad de la frontera entre España y Marruecos. Esta politóloga de la Universidade da Coruña señala que esta labor de fiscalización podría recaer sobre las diversas organizaciones que trabajan desde hace años en el terreno y que conocen de primera mano la realidad de las personas que transitan este enclave fronterizo.

Sin embargo, advierte Espiñeira, las condiciones de estas entidades para trabajar no han hecho sino empeorar en los últimos años. "Hay una criminalización de todo tipo de defensores de los derechos humanos que hacen esa labor de denuncia. No se facilita su labor, sino que se persigue. Las propias organizaciones marroquíes de derechos humanos tienen que trabajar en una cierta clandestinidad", señala. 

En el caso de España, aunque la situación no es igual, Espiñeira sí destaca la presión que las autoridades ejercen sobre estas entidades y sobre activistas. Y pone como ejemplo el caso de Helena Maleno, la defensora de los derechos humanos procesada por la justicia marroquí a partir de varios dosieres de la Policía Nacional española. 

Desde Solidary Wheels coinciden en este análisis. "Esta frontera es un lugar totalmente opaco. Llevamos años trabajando allí y no tenemos acceso a los puestos fronterizos. Cuando hay saltos en la valla por ejemplo no se nos permite trabajar", señala Peñarroya, que sostiene que este enclave se ha convertido en una suerte de "limbo" para las garantías jurídicas y el respeto a los derechos. 

"La recopilación de datos no es una práctica apolítica" 

La tensión diplomática entre España y Marruecos ha marcado en los últimos tiempos la realidad fronteriza de las ciudades autónomas. La pandemia provocó un corte repentino del flujo de trabajadores que diariamente cruzaban estos pasos. Una actividad comercial clave a ambos lados de la frontera. 

Señales en un paso fronterizo de Marruecos a Melilla. Foto: Solidarity Wheels.

El Ejecutivo español, según fuentes gubernamentales citadas por El País, tiene asumido que este tránsito comercial no volverá, lo que abre un panorama incierto una vez se restablezca el paso de personas. Sea cual sea este escenario, Espiñeira expresa sus dudas sobre cómo el EES se hará efectivo en un enclave como este. Y apunta que el país norteafricano lleva años "tensionando" tanto desde el punto de vista económico y político como de derechos humanos la relación con su vecino del Norte. 

"Resulta difícil hacer un plan sin una mesa de negociación con Marruecos", subraya esta experta, quien recuerda además cómo desde hace años Ceuta y Melilla se han ido configurando como "territorios de excepción frente a la política común europea" (ambas ciudades siguen sin formar parte del Espacio Schengen). En un contexto como este, parece complicado garantizar que el uso de estas herramientas digitales se haga "respetando plenamente los derechos fundamentales y la protección de datos", tal y como proclama la Comisión Europea. 

La relatora de Naciones Unidas sobre racismo, discriminación racial y xenofobia, Tendayi Achiume, publicó hace poco más de un año un informe concluyente sobre la utilización de herramientas de inteligencia artificial para la gestión migratoria. "La recopilación de datos no es una práctica apolítica, especialmente cuando poderosos actores del norte recogen información sobre población vulnerable sin que haya métodos regulados de control y rendición de cuentas", sostiene Achiume.

En declaraciones a The Guardian, esta abogada y activista recordaba entonces la importancia de "prestar mucha atención al dispar impacto de estas tecnologías y no asumir que por el hecho de ser tecnología, va a ser justa o neutral o objetiva de alguna manera".