El primer reglamento europeo para la inteligencia artificial (IA) sigue dando de qué hablar. Dentro de los cuatro niveles de riesgo aprobados por la normativa, aquellos sistemas que se colocan en lo más alto, generando un peligro inaceptable para los derechos de los ciudadanos, están los orientados a la vigilancia biométrica en espacios públicos. La localización de personas en tiempo real por medio de esta tecnología se considera un riesgo inadmisible. Sin embargo, la propia ley ha establecido una serie de excepciones que permiten su uso y aplicación.

Rocío Arce, abogada del despacho Círculo Legal Madrid, destaca que “determinar prácticas prohibidas para la IA, pero al mismo tiempo, establecer excepciones, resulta paradójico”. Los propios legisladores no se ponían de acuerdo, y finalmente, el enfrentamiento entre los que querían prohibir la identificación a tiempo real de sujetos particulares mediante el uso de la IA por su naturaleza como práctica invasiva de los derechos de los ciudadanos y los que la defendían por su eficacia en la práctica se ha saldado con un listado acotado de casos concretos en los que se permite el uso de prácticas que la propia norma reconoce como de máximo riesgo. La letrada considera que “la línea que separa la seguridad de la libertad es más fina que nunca”.

Un total de 16 delitos conforman esta lista, entre los que están “el terrorismo, la explotación sexual o el tráfico de drogas”, enumera Arce, que también señala que “se han incluido otros delitos que podrían considerarse de guante blanco”. Para la experta, “la localización de personas sospechosas en tiempo real se abre a delitos que no son de máxima gravedad, lo que pone en tela de juicio la proporcionalidad de la norma”.

Colisión de derechos

La contradicción entre la prohibición de usar la IA para la vigilancia biométrica a distancia y la justificación selectiva de su utilización para ciertos supuestos es “un arma de doble filo que provoca una colisión de derechos”, subraya Arce. La abogada sugiere que “se abre un juego de renuncias a derechos fundamentales como la libre circulación o la intimidad”.

Igualmente, Arce pone el acento en que “ya no se trata de ayudar a las autoridades a ubicar a personas en busca y captura, sino que se apunta directamente a personas que están bajo el radar, es decir, que son sospechosas, algo que destila una enorme subjetividad”.

Autorización previa

Dentro del reglamento de la IA se establece que la captación de imágenes en zonas públicas con fines de identificación únicamente podrá llevarse a cabo desde la autoridad policial y bajo autorización judicial. “El juez tiene la difícil tarea de evaluar el impacto en función de la casuística”, revela Arce.

Para la portavoz de Círculo Legal Madrid, “es necesario realizar con urgencia una ponderación de derechos para no colocar al ciudadano en una situación de desventaja”. En este sentido, la abogada reitera que “no podemos avanzar como sociedad si no logramos un punto de equilibrio”.