Contribución sobre los “Principios sobre la identificación para el desarrollo sostenible”

A mediados de marzo, presentamos una contribución al llamado realizado por el Banco Mundial solicitando comentarios respecto a los “Principios sobre la identificación para el desarrollo sostenible”. Los 10 principios fueron elaborados para impulsar y guiar el progreso de los Objetivos de Desarrollo Sostenible, en particular el 16.9, que propicia el acceso a una identidad jurídica para todos los seres humanos.

En línea con el trabajo sobre la temática de identidad digital que desarrollamos en la ADC, presentamos al Banco Mundial una serie de consideraciones y preocupaciones que nos surgen a raíz de las narrativas que buscan profundizar e implementar tecnologías en los sistemas de identificación, sin medir los riesgos que ello implica y al mismo tiempo evaluar alternativas que permitan minimizar el impacto en derechos fundamentales.

El informe enviado al Banco Mundial aborda diversos aspectos, particularmente enfocados desde la privacidad y la protección de datos personales, aunque sin dejar de mencionar riesgos específicos respecto a exclusión y las comunidades en situación de mayor vulnerabilidad. Al mismo tiempo, aprovechamos la reciente publicación de un caso de estudio sobre la situación en Argentina, titulado “La evolución de la identificación”, comisionado por el mismo Banco Mundial. Este caso de estudio muestra un estado de situación que dista de aquel analizado por nuestras investigaciones, por lo que sirvió para usar como ejemplo de las falencias del contexto Argentino y como no se ha cumplido ni con la misma filosofía que promueven los Principios.

A continuación compartimos la versión completa de nuestra contribución al Banco Mundial en español. Pueden acceder también a la versión original en inglés mediante este enlace.

---

El texto de los Principios menciona que su foco está puesto en la “identificación”, pero a lo largo del texto también se encuentran menciones a “identidad”. Estos conceptos deben ser tratados acorde con sus respectivos matices, para evitar ser malinterpretados como si fueran sinónimos. La identidad no es solamente el “conjunto de atributos que describen de forma inequívoca a una persona o entidad”, sino un concepto mucho más complejo que se arraiga tanto en el contexto socio-económico como en la suma de las experiencias que una persona ha atravesado a lo largo de su vida, resultando en las características que componen los aspectos de su personalidad. En este sentido, “identidad” excede la noción de estatus legal.

En este contexto, también debemos resaltar que la identidad no debe ser vista como un mero tema burocrático con el cual hay que lidiar, sino en cambio enfocarse en los matices que surgen de una población diversa y su interacción con posibles implicancias sociales, económicas y culturales, con particular consideración en la implementación de tecnología para la introducción de sistemas de identificación.

Como explica más en detalle la organización de derechos humanos Privacy International: “el diseño de cualquier sistema que trata de restringir [el concepto de identidad] va a fallar de alguna manera en tratar de reconocer por completo la magnífica diversidad de los seres humanos cuando se trata de identidad. El cambio, la fluctuación, la riqueza contextual de la “identidad” no es fácil de abarcar en estos sistemas digitales. Ese es el desafío de estos sistemas – y, desafortunadamente, un diseño imperfecto puede dejar un legado que continúa por generaciones.”

Principio 1: Garantizar una cobertura universal para los individuos desde el nacimiento hasta la muerte, sin discriminación.

Principio 4: Creación de una plataforma que sea interoperable y que responda a las necesidades de los diversos usuarios.

A pesar de que el Principio 1 menciona la universalidad y la no discriminación, deben incorporarse un lenguaje más sólido para abarcar los riesgos de exclusión que acarrean los sistemas de identificación. En particular cuando se trata de sistemas basados en tecnologías biométricas. A medida que la industria tecnológica promueve sus propias soluciones y desarrollos hacia los gobiernos que están ansiosos por cumplir con los Objetivos de Desarrollo Sostenible, hay un creciente riesgo en la implementación de sistemas de identificación que no habrán considerado los problemas de sesgos y cómo el sistema puede afectar a su propia población. La tecnologías biométricas, en particular el reconocimiento facial, puede impactar en forma desproporcionada y negativa a mujeres, la comunidad LGBTIQ+, adultos mayores y personas con discapacidad.

Asimismo, en relación a las consideraciones que deben incorporarse sobre las personas con discapacidad, debe prestar especial atención ante el creciente desarrollo de plataformas digitales y aplicaciones que forman parte de los sistemas de identificación. Estas herramientas deben ser desarrolladas desde el inicio considerando los casos de uso de personas con discapacidad, con el fin de cumplir con estándares de accesibilidad.

Los estándares de accesibilidad también deben tenerse en cuenta al momento de desarrollar las mismas plataformas que serán la base de los sistemas de identificación. Estos sistemas no deben discriminar en función de la capacidad de los individuos.

En relación a los aspectos sobre interoperabilidad del Principio 4, las características técnicas que facilitan la comunicación e intercambio de información entre distintas bases de datos, no deben ignorar el propósito para el cual esos datos fueron recolectados originalmente. Ampliaremos sobre este punto en el Principio 8.

Principio 5. Uso de estándares abiertos y garantía de neutralidad tecnológica y de proveedores.

Junto a los estándares abiertos, debe ponerse mayor énfasis en la necesidad de contar con auditorías de seguridad independientes y en el rol de los expertos en seguridad. Ningún sistema es infalible y, en un mundo cada vez más digital, los sistemas deben estar inspeccionados y estudiados minuciosamente, particularmente teniendo en cuenta los contextos socioculturales.

En este sentido, se espera que los sistemas sean diseñados incorporando consideraciones de seguridad digital tanto a nivel de su infraestructura como a nivel de la interacción con el usuario. Las auditorías independientes y transparentes de las tecnologías que incorporan los sistemas de identificación son esenciales para generar confianza e introducir mayor rendición de cuentas. La seguridad digital debe abordarse como un análisis de riesgo contínuo, constantemente evaluando posibles consecuencias y riesgos de vulnerabilidades, como también ha señalado la OCDE (Organización para la Cooperación y el Desarrollo Económicos). Los procesos de auditoría deben también incluir consideraciones sobre cómo los sistemas de identificación pueden ser abusados por el mismo personal en los organismos estatales o las empresas.

Al momento de abordar la neutralidad de los proveedores y la tecnología, no podemos obviar el poder de lobby del sector privado y las relaciones cercanas que construyen las empresas con los representantes gubernamentales.

Respecto a evitar la dependencia de un único proveedor de tecnología, vale la pena ilustrar con la situación en Argentina. Para el desarrollo del Sistema de Identidad Digital (SID) en 2017, el Ministerio del Interior y la ex Secretaría de Modernización decidieron adquirir la tecnología de reconocimiento facial a la misma empresa con la cual el Ministerio del Interior había contratado en años anteriores para el resto de su infraestructura, con el fin de asegurar la máxima compatibilidad. 

“Solo intente nuevamente” no puede ser una respuesta oficial cuando un sistema biométrico falla en verificar una identidad, como compartió un ciudadano luego de intentar utilizar el Sistema de Identidad Digital en varias ocasiones y pedir explicación al respecto de sus fallos, un sistema implementado no solo para uso Estatal, sino además para acceder a servicios como los de la industria fintech.

Los sistemas de identificación no deben depender exclusivamente de una sola tecnología o solución (por ejemplo, reconocimiento facial en el caso del Sistema de Identidad Digital), deben incorporarse alternativas en las estructuras de estos sistemas, no solo como una manera de respetar el principio de neutralidad tecnológica, sino también como una medida para mitigar problemas de sesgos y discriminación, a la vez que se puede promover la accesibilidad.

Principio 6. Protección de la privacidad del usuario y control mediante el diseño de sistemas

La incorporación de la Privacidad por diseño en el Principio 6 es un buen punto de partida, el cual debe ser abordado en conjunto con las evaluaciones de impacto en privacidad, como un requisito para cada etapa de investigación, desarrollo e implementación de los sistemas de identificación. Estas evaluaciones de impacto en privacidad deben a su vez ser revisadas mientras se encuentren activos los sistemas de identificación.

Debe brindarse mayor claridad cuando se mencionan “normas globales” para la protección de datos personales en “Proporcionalidad y divulgación mínima”. Teniendo en cuenta los rápidos cambios tecnológicos que los sistemas de identificación han sufrido en los últimos años, los Principios deben remarcar estándares y normas más adecuadas para la era digital.

En tal sentido, podemos mencionar dos instrumentos que fueron desarrollados para abordar los desafíos de las protección de datos personales a la luz de las innovaciones tecnológicas. En primer lugar, la versión modernizada de la “Convención para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal“, conocida como Convenio 108+, elaborada por el Consejo de Europa. En segundo lugar, los “Estándares de protección de datos personales para los estados iberoamericanos“, elaborados por la Red Iberoamericana de Protección de Datos (RIPD). Ambos instrumentos proporcionan un abordaje a la privacidad y los datos personales más detallado, propicio para analizar cómo las implementaciones de tecnologías modernas en los sistemas de identificación pueden interferir con los derechos fundamentales.

Principio 8. Salvaguarda de la privacidad de los datos, la seguridad y los derechos de las personas naturales a través de un marco jurídico y normativo amplio.

Creemos que la privacidad debe tener un rol transversal en los sistemas de identificación, como el derecho fundamental que facilita el ejercicio y goce de otros derechos.

En este sentido, los conceptos de consentimiento y finalidad, como son abordados por las regulaciones sobre protección de datos, deben tener especial énfasis en los Principios. Esto cobra aún mayor importancia cuando tomamos en consideración el contexto de los países en los que los sistemas de identificación son obligatorios y esenciales para el desarrollo de la vida diaria, sin el cual no se puede llevar una vida normal en una sociedad moderna. A medida que los individuos no pueden escapar de esta realidad, es acuciante la necesidad de incorporar consideraciones sobre cómo estos sistemas pueden volverse contra los ciudadanos, y en particular las comunidades vulnerables.

Asimismo, señalamos con atención la mención sobre “autorregulación” o “autoconducta” como modelos de marcos normativos. El sector privado, en especial la industria de soluciones biométricas, ha cobrado un rol central en el impulso hacia sistemas de identificación digitalizados adoptados por los gobiernos. Las empresas son los principales actores desarrollando soluciones que luego son promocionadas a los funcionarios gubernamentales para implementar sistemas de identidad digital y modernizar las infraestructuras detrás de los sistemas. Aspectos sensibles como la protección de datos personales, la seguridad, la no discriminación y los sesgos, no pueden dejarse librados para que el sector privado los resuelva. Al contrario, estos aspectos requieren del involucramiento de múltiples sectores, con el fin de alcanzar una representación lo más completa posible.

Para ejemplificar cómo el Principio 8 puede ser interpretado vagamente para analizar un sistema de identificación en uso actualmente, es importante mencionar el caso de estudio sobre Argentina publicado por el Banco Mundial, junto con varios aspectos que no fueron señalados en el informe.

A pesar de que Argentina fue uno de los primeros países en América Latina en establecer registros civiles, el Documento Nacional de Identidad (DNI) como lo conocemos hoy en día surgió a partir de un decreto que se remonta a la dictadura militar de Juan Carlos Onganía en 1968. En este contexto, las expresiones utilizadas por esta norma cobran un nuevo matiz. Su mismo título, “Identificación, Registro y Clasificación del Potencial Humano Nacional”, revela un objetivo de control más que de un mero reconocimiento de la identidad legal. La falta de un debate democrático sobre la introducción de este sistema de identificación, el cual no era posible en su momento dado el contexto político, fue dejado de lado en los años consecutivos dada la omnipresencia del DNI en la vida diaria de los argentinos.

Las posteriores reformas del sistema de identificación fueron realizadas mediante decretos y resoluciones ministeriales. La introducción de las tecnologías biométricas, y recientemente del Sistema de Identidad Digital, no fueron discutidas democráticamente, de manera abierta, inclusiva y transparente. Al contrario, fueron decisiones unilaterales por los funcionarios públicos de turno en el Poder Ejecutivo. 

Además, al momento de abordar la protección de datos personales, si bien la ley argentina se basa en estándares europeos, hay ciertos artículos en la legislación que brindan mucha discreción al Estado para la recolección, tratamiento y cesión de datos personales. Los artículos 5.2.b y 11 de la Ley 25.326 estipulan excepciones que habilitan a las autoridades gubernamentales a no requerir el consentimiento de los titulares de datos personales cuando se recolectan sus datos bajo el ejercicio de “funciones propias del Estado”, así como tampoco se requiere al momento de cederse esos datos entre organismos Estatales.

Gracias a estas excepciones, lo que debe ser comprendido como un sistema de identificación que es requerido para desarrollar la vida cívica en la sociedad argentina, fue expandido hacia otros fines. Tal es el caso de SIBIOS, una base de datos biométricos federal al cual pueden acceder múltiples organismos estatales (en particular, las fuerzas policiales a lo largo del país), sin una orden judicial, sin justificación sobre un peligro inminente en una investigación judicial e incluso sin tener que notificar a la persona sobre la cual se cedieron dichos datos, con quién se los compartió y para qué fin.

Estas políticas no pueden ser entendidas como “marco jurídico y normativo integral”, como menciona el estudio del Banco Mundial, o incluso en cumplimiento con la esencia misma de los Principios en cuestión.

Sugerencias

1. Introducir mayores consideraciones para reforzar la protección de datos personales en los sistemas de identificación

El consentimiento debe ser, como mínimo, dado de manera libre, informada y con la posibilidad de revocarlo. El consentimiento nunca debe presumirse o realizarse en forma automática.

Deben establecerse limitaciones fuertes específicamente para la cesión de datos personales en sistemas de identificación, no solo entre el sector privado, sino también entre agencias y organismos Estatales. Estas limitaciones deben establecerse por ley y ser transparentes, con el fin de establecer casos de uso precisos y específicos, para evitar abusos e interpretaciones sumamente amplias que permitan el uso de los sistemas de identificación y sus datos de maneras que sus usuarios no consintieron inicialmente.

Los individuos deben tener el derecho de no ser sujetos a decisiones automatizadas que impacten, directa o indirectamente, en sus derechos. En estos casos, debe introducirse supervisión humana. Asimismo, las personas deben tener la posibilidad de pedir una explicación, de manera transparente y sin trabas, sobre las decisiones que fueron tomadas sobre ellos y/o con sus datos, junto con mecanismos apropiados de reclamo para revertir decisiones.

2. Brindar claridad sobre el concepto detrás de “marcos jurídicos y regulatorios comprensivos”

Para poder construir las bases legales y operacionales que permitan establecer confianza y rendición de cuentas entre los diversos actores involucrados en los sistemas de identificación, deben establecerse leyes y regulaciones comprensivas.

En un nivel elemental, esto implica que las legislaciones deben ser discutidas y decididas bajo estándares democráticos. Los gobiernos deben evitar el uso y abuso de la toma de decisión unilateral para implementar nuevos sistemas y tecnologías que presenten riesgos para los derechos fundamentales.

Los sistemas de identificación, en su centro, deben construirse con una perspectiva democrática, bajo un marco de apertura, inclusión y transparencia, donde las partes involucradas que se verán afectadas pueden dar forma al resultado final.

En una sociedad cada vez más digital, marcos jurídicos comprensivos que impacten, directa o indirectamente, sobre sistemas de identificación, incluye contar con legislación específica, no solo para el sistema de identificación per se, sino también para toda la tecnología utilizada, como debe ser el caso con las tecnologías biométricas.

3. Introducir Evaluaciones de Impacto en Privacidad y Evaluaciones de Impacto en Derechos Humanos

La incorporación del Evaluaciones de Impacto en Privacidad (AIP), o incluso más específicamente la Evaluación de Impacto en Datos Personales (EIDP), sirven como un proceso de base para construir y demostrar el cumplimiento de estándares. Como estos análisis pueden escalarse, deben llevarse a cabo a lo largo de las diferentes etapas –creación, desarrollo e implementación– de los sistemas de identificación, así como también realizarse periódicamente a lo largo de la vida del sistema.

Los pasos básicos de una evaluación sobre datos personales incluyen:

• Brindar una descripción sistemática del procesamiento de datos personales. Incluyendo la naturaleza, alcance, contexto, finalidad, descripción funcional de las operaciones, y los activos de los que dependen dichos datos;
• analizar la necesidad y proporcionalidad. ¿Las finalidades son específicas, explícitas y legítimas? ¿El sistema es adecuado, relevante y limitado a los datos necesarios?
• administrar los riesgos a los derechos y libertades de los titulares de datos personales. Identificar el origen, naturaleza, particularidades y severidad de los riesgos, así como también las consideraciones desde el punto de vista de los titulares de datos.
• Involucrar a las partes interesadas, como Oficiales de Protección de Datos y las perspectivas de los titulares de datos.

Para mayor detalle sobre este marco, puede consultarse la guía elaborada por el Grupo de Trabajo Artículo 29.

Por otra parte, tanto empresas como gobiernos deben llevar a cabo evaluaciones más amplias sobre el impacto en derechos humanos cuando trabajen en el desarrollo e implementación de sistemas de identificación. Por ejemplo, para identificar posibles sesgos y discriminación en los algoritmos que utiliza el sistema, para luego tomar medidas que mitiguen ese riesgo.

Las Evaluaciones de Impacto en Derechos Humanos consisten generalmente en cinco etapas:

1. Planificación y alcance: Actividades, contexto de derechos humanos y actores clave, desarrollar términos de referencia.
2. Recolección de información y elaboración de una base: Incluyendo la selección de indicadores.
3. Analizar impactos: Tipos de impacto en derechos humanos y evaluar su severidad.
4. Mitigación de impactos y administración: Acciones tomadas para resolver los impactos, monitoreo y acceso a reparaciones.
5. Reporte y evaluación: Desafíos y aproximaciones.

El Instituto Danés de Derechos Humanos brinda una guía detallada para cada etapa, con el fin de adaptar e implementar el marco de evaluación para cada contexto específico en donde se lleve a cabo.

Fotografía de portada por Kaique Rocha desde Pexels.