#ConMiCaraNo: Reconocimiento facial en la Ciudad de Buenos Aires

A comienzos de abril, el Gobierno de la Ciudad de Buenos Aires (GCBA) anunció la implementación de un software de reconocimiento facial, instalado sobre la infraestructura de las cámaras de seguridad (CCTV) y los centros de monitoreo en la ciudad. El objetivo del gobierno es identificar a las personas con pedidos de captura, como parte de una medida enmarcada en la lucha contra el delito.

Al día siguiente del anuncio, presentamos una solicitud de información ante el GCBA para obtener mayor precisión y detalles sobre el uso del reconocimiento facial en el espacio público. Se vuelve indispensable realizar las preguntas apropiadas sobre medidas que interfieren con el pleno goce y ejercicio de derechos fundamentales. Sobre todo teniendo en cuenta el antecedente de la implementación de tecnologías de vigilancia, como los globos aerostáticos y los lectores automáticos de patentes, de forma poco transparente de cara a la ciudadanía y sin el debido debate públicos.

El reconocimiento facial, en particular cuando se lo usa con fines de investigación criminal, tiene el potencial de interferir directamente con derechos como la privacidad, la libertad de expresión, reunión y asociación, la no discriminación y garantías constitucionales como el debido proceso y la presunción de inocencia.

Hacia el final del artículo vas a encontrar la información más actualizada que nos haya enviado el Gobierno de la Ciudad respecto a las diversas preguntas que fuimos presentando.

En mira de los recientes anuncios de @GCBA @diegosantilli, presentamos una solicitud de información pública para conocer en detalles los planes del gobierno en la implementación de tecnologías biométricas en el espacio público, especialmente en el uso de reconocimiento facial ? pic.twitter.com/Od6JUNLmKZ

— ADC (@adcderechos) 4 April 2019

Al día siguiente de la presentación del pedido, obtuvimos un primer contacto del Ministerio de Justicia y Seguridad pidiendo una prórroga para recopilar “la totalidad de la información requerida y dar cabal respuesta a la solicitud presentada”, postergando así hasta el 14 de mayo la fecha de vencimiento.

Mientras tanto, el Sistema de Reconocimiento Facial de Prófugos comenzó a funcionar el 24 de abril, con la publicación de la Resolución 398/19 del Ministerio de Justicia y Seguridad y su Anexo. Esa misma semana el GCBA realizó un nuevo anuncio público. Finalmente, el 21 de mayo recibimos la documentación con las respuestas.

En principio, el Gobierno remite a los considerandos de la Resolución y su anexo como respuesta a ” la totalidad de los puntos que contiene el cuestionario inicial”, sin embargo, ampliaron la contestación para abordar cada punto de nuestras preguntas. A pesar de ello, entendemos que las respuestas brindadas no respondieron a la totalidad de los interrogantes que planteamos.

A continuación reseñamos los aspectos principales de las preguntas formuladas y las respuestas producidas por el gobierno.

¿Cómo sustenta legalmente el GCBA la implementación de reconocimiento facial y cuál es su finalidad?

El “Sistema de Reconocimiento Facial de Prófugos” (SRFP) se incorporó al “Sistema Público Integral de Video Vigilancia” (creado por la Ley 5688), con la Resolución 398/MJYSGC/19. La finalidad, determinada en el artículo 2 del Anexo de la Resolución, establece que será utilizado “únicamente para tareas requeridas por el Ministerio Público Fiscal, el Poder Judicial de la Nación, Provincial y de la Ciudad Autónoma de Buenos Aires, como así también para detección de personas buscadas exclusivamente por orden judicial, registradas en la Base de Datos de Consulta Nacional de Rebeldías y Capturas (CONARC)”.

La primera inquietud que surge es que además de la “detección de personas buscadas exclusivamente por orden judicial” se habla de “tareas requeridas”, la falta de precisión en la finalidad del Sistema es problemática, en principio, al permitir una interpretación abierta por parte de las entidades Estatales mencionadas.

¿Qué dependencia del Gobierno está encargada de la administración del sistema?

“La operación del SRFP está a cargo del Centro de Monitoreo Urbano de la Policía de la Ciudad de Buenos Aires.” esto quedó también establecido en el artículo 6º del Anexo.

¿A qué base de datos biométricos accede la dependencia encargada del Gobierno de la CABA, para confrontar los rostros capturados para el funcionamiento del Sistema?

El SRFP utiliza la base de datos de Consulta Nacional de Rebeldías y Capturas (CONARC), de carácter pública y administrada por el Ministerio de Justicia de la Nación, junto con los datos biométricos del Registro Nacional de las Personas (RENAPER).

Según la respuesta del GCBA “los archivos que se generan se encuentran en poder de la autoridad policial y su tratamiento queda sujeto a sus protocolos de seguridad, privacidad y confidencialidad, encontrándose prohibida su cesión a ninguna otra autoridad administrativa de la CABA”.

Además, añaden que al finalizar el tratamiento de los datos, “por agotamiento o cese de la orden judicial que motivó la creación del registro, los archivos son destruidos”.

Aspectos técnicos sobre la tecnología de reconocimiento facial

Debido a que el reconocimiento facial utiliza algoritmos para evaluar los rasgos de cada persona y contrastarlos para determinar el nivel de probabilidad en la identificación, es importante conocer la tasa de error que puede llevar a falsos positivos, es decir, que el sistema identifique mal a una persona, y en el caso del SRFP, como si fuera una presunta prófuga.

El software de reconocimiento facial puede llegar a tener altos porcentajes de falsos positivos, como en el caso de las pruebas realizadas por la Metropolitan Police de Londres entre 2016 y 2018, las cuales resultaron en un 96% de personas mal identificadas como presuntas criminales.

Para profundizar sobre las potenciales injerencias del Sistema en derechos fundamentales, preguntamos cómo se evaluaron las tasas de error, si se llevaron a cabo análisis sobre la discriminación (tanto racial como de género) que puede resultar de los falsos positivos y las auditorías técnicas realizadas en todas las etapas de desarrollo del Sistema. Además consultamos si se llevaron a cabo análisis de impacto en protección de datos personales y/o derechos humanos respecto al uso de la biometría en el espacio público.

El GCBA afirmó en su respuesta que “De forma previa a la implementación del sistema, la mayor preocupación de las autoridades ministeriales se centró en maximizar sus potencialidades y beneficios para la seguridad pública al tiempo que minimizar sus impactos negativos en términos de derechos humanos. Por tal motivo se llevaron a cabo las pruebas correspondientes a fin de reducir en la mayor medida admisible la tasa de error, junto con otras restricciones impuestas en torno a la conformación del registro de datos y las medidas de control del personal con acceso al sistema”.

Insisten asimismo en que “el SRFP, en rigor, escanea y contrasta exclusivamente los datos biométrico de las personas incorporadas a la base del CONARC y con la única finalidad de identificar a un posible prófugo y cooperar con el Poder Judicial en su detención, luego de lo cual se destruye el registro de la base”.

Frente a nuestro pedido de que informen sobre las condiciones y términos en que fue pactada la contratación de la tecnología de reconocimiento facial, junto con el costo incurrido en la implementación del Sistema, el Ministerio se limitó a señalar que “No correponden a la competencia del suscripto”.

Sin embargo, de la consulta del Boletín Oficial y del Sistema de Compras Públicas de la Ciudad, encontramos que el 3 de abril fue publicado el pliego de bases y condiciones para la “contratación directa de un servicio de análisis integral de video” a integrarse “nativamente con la plataforma de gestión y control de video que actualmente utiliza la Policía de la Ciudad en el Anillo Digital, Centro de Monitoreo Urbano, y Comando de Operaciones, entre otros”.

Entre los requerimientos técnicos del pliego se establece que el servicio debe:

• Permitir la detección facial contando con una base de datos fotográfica de individuos los cuales serán buscados en las imágenes en vivo capturadas por las cámaras de video pertenecientes a la Policía de la Ciudad. La base de datos de búsquedas será provista por el Ministerio de Justicia y Seguridad (MJYSGC), al momento de la adjudicación.
• Contar con una base de datos fotográfica de hasta cien mil (100.000) rostros para su posterior identificación formando una lista negra de personas buscadas.
• Contar con alertas sobre identificaciones positivas sobre las reglas aplicadas y sobre la identificación de rostros.
• Resguardar las alertas en forma encriptada.

La contratación directa del servicio fue adjudicada a la empresa DANAIDE S.A., el 22 de abril, por un total de 1.511.300 dólares, bajo el proceso de compra 2900-0472-CDI19.

[Actualización 24/05: El Ministerio de Justicia y Seguridad complementó su respuesta original brindando una copia de las actuaciones sobre la adjudicación del servicio, las cuales se encuentran disponibles en el vínculo del párrafo anterior del Sistema de compras públicas.]

Rendición de cuentas y control

Es fundamental contar con protocolos y políticas estrictas para evitar abusos del Sistema, así como también medidas que transparente la manera en que la tecnología es utilizada. Es por esto que preguntamos por la existencia y diseño de dichas medidas y protocolos.

El Ministerio afirmó que “El uso indebido, irregular e incluso ilícito del SRFP por parte del personal policial o civil que presta servicio en el CMU de la fuerza se encuentra sujeto al régimen disciplinario ordinario previsto en la Ley N° 5688 y su reglamentación (Decreto N° 53/17) y en la Ley N° 471 de Relaciones Laborales en el ámbito del GCBA y sus normas reglamentarias.“

Próximos pasos

A raíz de la insuficiente precisión en algunos de los puntos de nuestra solicitud original, presentamos un nuevo pedido para seguir profundizando en la transparencia que merece el uso de tecnologías de vigilancia.

Actualización 16/07

Luego del segundo pedido de informes, el GCBA envió nueva información que complementa la respuesta sobre algunas de las inquietudes planteadas. Sin embargo, no todas las preguntas fueron contestadas, bajo la justificación de las excepciones del art. 6 (inc. b y e) de la Ley 104 y del art. 32 de la Ley 5688 (inc. 3, 5 y 6). En particular, no se dió respuesta al punto requiriendo la explicación detallada del funcionamiento del algoritmo de reconocimiento facial y la liberación del código fuente del software.

Entre la información enviada, destacamos los siguientes puntos:

• El software utilizado por el GCBA para el sistema de reconocimiento facial se llama “UltraIP®“, desarrollado por la empresa Danaide S.A. Un folleto con las características del software puede ser consultado en una versión archivada de la web oficial.
• El sistema de reconocimiento facial funciona en simultáneo en 300 cámaras de vigilancia, las cuales se van rotando sobre la totalidad de las cámaras en operación, tanto en estaciones de la red de subtes como en la superficie.
• Las alertas generadas por el sistema reciben “un tratamiento idéntico al de una llamada al servicio de emergencias policiales”. A pesar de haber solicitado una copia de dichos protocolos, la respuesta oficial estableció que son de uso reservado de los miembros de la fuerza de seguridad. En un reciente caso que fue reportado en Twitter, se pudo conocer cómo lucen las alertas recibidas por los oficiales de la policía. En la calle, los oficiales reciben una notificación a su teléfono mediante un canal de Telegram a donde el sistema envía las alertas.

Le doy mi DNI y me muestra que había salido la alerta. Yo, como buen trabajador del área de sistemas, asumí que el mismo había dado un “inexistente” falso positivo… Menuda sorpresa me lleve cuando el oficial me muestra la alerta con la foto de mi DNI!!! Wtf!?!? pic.twitter.com/L3AYLGA3Rl

— Leo Colombo Viña (@LeCoVi) 27 June 2019

• Respecto a las pruebas efectuadas para reducir la tasa de error admisible, el GCBA aclara que “se llevaron a cabo pruebas sobre una población controlada de personas seleccionadas dentro del equipo de trabajo”, entre los que se incluyen empleados de la Policía de la Ciudad y del Ministerio de Justicia y Seguridad de CABA. Además, “se consideraron personas con características físicas disímiles y con diferentes accesorios que impedían ver completamente sus rostros (como anteojos, gorros, capuchas, barba, bigotes, etc.)”, junto con tests que variaban el tipo de cámara, ángulo, iluminación y ambientes.
• Las alertas que crea el sistema solo son generadas cuando se alcanza un alto porcentaje de coincidencia biométrica, aunque el GCBA no aclaró cuál es el porcentaje específico para el cual se envían dichas alertas.
• Sobre la tasa de error (falsos positivos), determinaron que el sistema “se encuentra por encima del 90%” de aciertos en la identificación de personas. Sin embargo, de los datos brindados, no se puede contrastar la veracidad del porcentaje informado. Los detalles sobre las tasas de error los consultamos en forma explícita sin haber obtenido respuesta.
• Los principales errores que han aparecido en el funcionamiento del sistema se deben “en mayor parte, a errores cuyo origen está en la base de datos del CONARC”, siendo el caso mas frecuente la carga errónea del DNI de la persona requerida por la justicia.
• Entre el 24 de abril y el 4 de junio, el sistema de reconocimiento facial “logró identificar a 595 personas requeridas por los poderes judiciales de las distintas jurisdicciones del país”. Las órdenes judiciales correspondían a delitos contra la propiedad, las personas, la Administración Pública, la ley de estupefacientes (23.737), contra la fe pública, contra la seguridad pública y contrabando.
• De los 595 casos, en 5 ocasiones la alerta que generó el sistema “no correspondía a personas incorporadas a la base de datos del CONARC”.
• Por otra parte, agregaron que “del universo de personas identificadas, 263 casos correspondieron a requerimientos judiciales no vigentes” y que no fueron dados de baja del CONARC por parte del juzgado interviniente en la causa.
• Hasta el momento, el único personal que tiene acceso al sistema de reconocimiento facial es el que presta servicio en el Centro de Monitoreo Urbano de la Policía de la Ciudad, sin haberse expedido autorizaciones especiales a agentes o funcionarios ministeriales.