El sistema, capaz de identificar en segundos a personas
a partir de una imagen, ofrece a los agentes una nueva vía de
investigación, aunque despierta suspicacias sobre su transparencia.
 |
Antropología Forense de la Comisaría General de Policía Científica, en Madrid. Jaime Villanueva |
El algoritmo de ABIS, bautizado como Cogent, lo ha desarrollado la empresa francesa de tecnología militar Thales. El sistema coteja la imagen introducida por los agentes, extraída por ejemplo de una cámara de seguridad, con las fotografías disponibles en el sistema para buscar coincidencias. La base de datos con la que se contrastarán las imágenes constará de unos cinco millones de reseñas fotográficas faciales de detenidos y sospechosos que ya estaban fichados, según Interior (otras fuentes hablan de 5,6 millones de imágenes de 3,9 millones de personas arrestadas). Esos ficheros se están armonizando para que la herramienta sea capaz de leerlos.
A ese fondo de datos se sumarán las fotografías de quienes sean arrestados desde el momento en el que se empiece a utilizar el sistema. En ningún caso, señalan desde la Policía Nacional, se podrán usar registros de bases de datos civiles, como la que contiene las fotografías de los documentos de identidad y a la que también tiene acceso la policía. Interior lleva al menos tres años trabajando en el proyecto, que ha sufrido varios retrasos.
Cada persona tiene una disposición única de rasgos faciales. En una primera fase, los sistemas de reconocimiento facial extraen el rostro de la imagen mediante una tecnología llamada visión computacional; ubican en qué parte de la fotografía hay una cara. A continuación, aplican un algoritmo a ese rostro para obtener un patrón que lo represente y distinga de los demás. Los sistemas de inteligencia artificial permiten buscar ese patrón, que es único para cada individuo y que no varía con el paso de los años, en extensos bancos de imágenes y ofrecer los resultados que más se parezcan. Cada algoritmo (cada proveedor) tiene una fórmula propia para trazar los patrones y para buscar coincidencias.
Según ha podido saber EL PAÍS, la Agencia Española de Protección de Datos (AEPD) está en contacto con Interior “para abordar varios proyectos del Ministerio que podrían tener un impacto en materia de protección de datos”, entre ellos ABIS. La agencia, que hasta julio no sabía de la existencia del proyecto, deberá determinar si el tratamiento de este tipo de datos personales supone o no un riesgo tolerable para los derechos y libertades de la ciudadanía. ¿Puede la policía quedarse para siempre con datos faciales de sujetos o se le deben aplicar límites temporales? ¿Bajo qué supuestos puede usarse el sistema? ¿Quién tiene acceso a esos datos? ¿Qué garantías se establecen para el uso proporcionado de la herramienta?
En cuanto se acabe de
constituir la base de datos, compuesta por registros aportados por los
distintos cuerpos policiales (como Guardia Civil y Mossos), se
desplegarán estaciones de trabajo en los servicios centrales de la
policía científica para que comprueben su uso con casos reales. Interior
no concreta cuándo estará operativo, pero según fuentes conocedoras del
proceso, su puesta a punto podría llevar todavía meses.
 |
La aplicación de sistemas automáticos de reconocimiento facial en labores policiales está abriéndose paso en Europa, donde varios países, como Francia, Holanda o Alemania han realizado pruebas piloto o ya cuentan con herramientas en uso. Esta tecnología se empezará a usar a principios del año que viene en las fronteras de la UE para registrar solo a los ciudadanos no comunitarios que entren en territorio comunitario. En el Reino Unido se ha ido más allá y la policía ha colocado frente a las bocas de metro londinenses furgones con cámaras dotadas de estos sistemas.
En EE UU, uno de los países en donde esta tecnología goza de mayor implantación, varias ciudades han decidido aplicar moratorias a su uso tras las protestas del movimiento Black Lives Matters,
que identifica el reconocimiento facial como un elemento de segregación
policial. Otros países, como Rusia o China, aprovechan el potencial de
vigilancia de esta tecnología. Las grandes ciudades del gigante asiático
están inundadas de cámaras que cuentan con sistemas de reconocimiento
facial en vivo capaces de encontrar a cualquier ciudadano en cuestión de
horas.
Una herramienta revolucionaria
El inspector Sergio Castro, de la Sección de Antropología Forense de la Comisaría General de Policía Científica de Madrid, dirige el equipo de siete personas en el que en un primer momento recaerá la labor de manejar la herramienta ABIS. “Es probable que si el sistema tiene éxito nos refuercen con más efectivos o se produzca una descentralización”, apunta. Una vez esté en marcha, también se decidirá sobre los criterios de funcionamiento y usuarios del sistema (es decir, si los distintos cuerpos dispondrán o no de equipos propios para utilizar ABIS).
Castro no contiene el entusiasmo cuando habla de la nueva herramienta que han puesto en sus manos. Su departamento cuenta con dos vías principales para identificar sospechosos: análisis de huellas dactilares y análisis de ADN. El reconocimiento facial abrirá un tercer camino, que además no es invasivo: a diferencia de los otros dos, no requiere tener muestras físicas del sujeto.
Hasta ahora, cuando se carecía de candidato o sospechoso, las imágenes de la cámara de un banco en el que se hubiera producido un atraco servían de poco. Era inviable ponerse a buscar quién aparece en el metraje sin tener alguna pista que acotara la búsqueda. Ahí es donde entran las herramientas automáticas de reconocimiento facial. “Cuando le presentas una imagen de una persona, el sistema te ordena las fotografías de reseña policial [unos cinco millones, según Interior] desde la que más se parece a la que menos. Entonces el operador recorre las primeras posiciones en busca de una coincidencia”, indica Castro.
La labor del agente es clave: dependiendo de lo nítida que sea la imagen y del grado de ocultación del rostro (gafas, barba, diferencias de pose, etcétera), puede que la correcta esté la trigésima. Es siempre una persona, y no el ordenador, quien determina si hay o no parecido. “Si encontramos una coincidencia, entonces hablamos de un candidato potencial. Se podría iniciar una investigación en busca de pruebas”, remarca el inspector. Ese proceso puede acabar o no en detención, dependiendo de las evidencias halladas.
En un segundo paso, si se quiere validar al candidato para la investigación o su detención, se procede a hacer un estudio forense, igual que sucedía hasta ahora con las huellas dactilares o el ADN. “Mi equipo haría un estudio uno a uno del sujeto ofrecido por la herramienta automática. Se busca una fiabilidad muy alta, porque nuestra pericial puede condicionar una sentencia, y para eso hace falta mucha calidad de imagen”, subraya. En un 90% de los casos, las identificaciones que tienen que hacer son peticiones judiciales; el resto son solicitudes de oficio de otros departamentos de la policía, que disponen de las imágenes del autor de un hecho delictivo y necesitan confirmar fehacientemente si se trata de la persona que investigan o no para ponerlo posteriormente en conocimiento de los juzgados.
La
base de datos que contendrá las reseñas fotográficas faciales de todos
los sospechosos es la misma en la que ya se almacenan las huellas
dactilares y las muestras de ADN. Estos dos últimos tipos de datos
personales se comparten con los socios europeos en virtud del Schengen
Information System (SIS). Bruselas pretende incluir en un futuro en ese
mismo paquete los datos faciales. “El sistema ABIS de España puede
conectarse con bases de datos europeas, como Eurodac, EU-Lisa o VIS, ya
que están diseñados los enlaces correspondientes. No es un sistema
aislado, sino que está interconectado con los países de la Unión
Europea”, explican fuentes de Thales.
Los riesgos de las tecnologías biométricas
Entre los principales riesgos del uso de estas tecnologías, está que los algoritmos fallan. Y no es lo mismo que se equivoquen al recomendar una película que identificando a un sospechoso. El del estadounidense Robert Williams es el primer caso documentado de detención irregular por culpa de un sistema de reconocimiento facial: la herramienta lo confundió con otro y los agentes, lejos de comprobar si se parecía al sospechoso, lo llevaron al calabozo. Estos sistemas están entrenados con datos de personas blancas, por lo que fallan mucho más con negros y asiáticos. Hay estudios del Gobierno de Estados Unidos que prueban que esta tecnología es 100 veces más proclive a confundir individuos negros que blancos.
El borrador de reglamento de la Inteligencia Artificial que se está negociando en Bruselas adopta un enfoque basado en los riesgos potenciales que pueda entrañar la aplicación de estas tecnologías. El reconocimiento facial entra en la categoría de “riesgo alto”, aunque se abre la puerta a su uso siempre que sea con “fines de prevención, detención o investigación de crímenes graves o terrorismo”. Quedan expresamente prohibidas las herramientas de “vigilancia indiscriminada”, y, por tanto, en principio no se pueden colocar estos sistemas en las calles para identificar a la gente. Esa no es en ningún caso la intención de Interior, según fuentes del Ministerio.
La aplicación de algoritmos a asuntos públicos debe estar auditada y monitorizada. Según Interior, el sistema, desarrollado por Thales, ha sido validado por la Guardia Civil y el Cuerpo Nacional de Policía. “En los trabajos de validación han participado los especialistas de científica y criminalística de las fuerzas y cuerpos de seguridad del Estado”, apuntan esas fuentes. El algoritmo Cogent, el corazón del sistema ABIS, ha superado también pruebas del test de vendedores de NIST, una organización estadounidense independiente. “Es el garante de que el algoritmo evaluado cumple con los estándares y requisitos que se demandan para los distintos casos de uso”, señala Interior. “NIST no dice que los algoritmos sean buenos o malos. Y además la organización propone varias evaluaciones con distintos objetivos, y no sabemos a cuáles se refieren”, opina al respecto Carmela Troncoso, profesora de la Escuela Politécnica Federal de Lausana (Suiza) y autora del protocolo de rastreo seguro usado en las aplicaciones de rastreo de la covid.
Gemma Galdon, directora de Eticas Consulting, una consultora especializada en auditorías algorítmicas, tampoco cree que eso sea suficiente. “De acuerdo con la normativa europea, hay que justificar la proporcionalidad de las tecnologías de alto riesgo y establecer qué se espera conseguir con ellas. También es necesario saber qué precauciones se han tomado para evitar los sesgos algorítmicos: está demostrado que estos sistemas identifican mejor a personas blancas que al resto, por lo que hay que probar que no cometa errores con personas negras”, explica.
Fuente: El País
No hay comentarios:
Publicar un comentario