“Oversight Board” de Facebook: una perspectiva desde América Latina y El Caribe

Las organizaciones que firman este documento forman parte del consorcio «Al Sur», un grupo organizado de la sociedad civil en América Latina que busca fortalecer los derechos humanos en el entorno digital. La razón principal de esta declaración es hacer presente nuestros comentarios conjuntos al llamado público hecho por Facebook para contribuir a su borrador «Draft Charter: An Oversight Board for Content Decisions».

Este «Oversight Board», que podemos traducir como una suerte de «Comité de supervisión», ha sido planteado por Facebook como un órgano independiente al que las personas pueden apelar las decisiones de moderación de contenido de la compañía. Esta iniciativa nace luego de las intensas críticas en el mundo (y de las que Latinoamérica y el Caribe no se han restado), sobre la falta de transparencia con la que Facebook desarrolla y aplica sus estándares comunitarios, lo que ha tenido como efecto el uso de la plataforma para campañas de desinformación, incitación a distintas formas de violencia, etcétera.

Valoramos que una plataforma del tamaño e importancia de Facebook (2,167 millones de usuarios en el mundo) se haya abierto a discutir la urgente necesidad de cambiar la forma en que hasta ahora se ha planteado la moderación de los contenidos. Pero, como veremos a continuación, creemos que este “Oversight Board” puede y debe tener un papel más activo en hacer dialogar las reglas de la comunidad de Facebook con estándares de derechos humanos. Sus decisiones deben tener como fin último la mejora de las políticas comunitarias como los procedimientos para aplicarlas, así como también se debe avanzar decididamente en su transparencia y la representatividad de regiones como la de Latinoamérica y el Caribe.

Así, nuestras recomendaciones se resumen en cinco puntos:

Alcance de su mandato

Sin importar la estructura o forma orgánica que adquiera el “Oversight Board” propuesto, y en orden a satisfacer su legitimidad y tener posibilidad práctica de cumplir con su mandato, creemos que el alcance último del “Oversight Board” debe comprender el de hacer recomendaciones de cambios a las políticas de la empresa y los procedimientos de aplicación de éstas, haciendo dialogar los estándares internacionales de derechos humanos con las reglas de comunidad de la empresa.

Así, proponemos un cambio de la idea original planteada en el borrador de Facebook, y planteamos directamente que el “Oversight Board” tenga la facultad de impactar directamente el diseño regulatorio de las políticas de contenido de la misma plataforma. Entendemos que, para cumplir debidamente con este rol, el “Oversight Board” puede y debe analizar casos específicos ilustrativos, sobre todo, los más complejos y difíciles. Incluso debería sugerir a la empresa cambios en decisiones con efectos reparatorios para esos casos concretos. No obstante, su objetivo central serán las mejoras a las políticas y los procedimientos de cómo la empresa toma decisiones en relación con la moderación de contenido, teniendo la capacidad de establecer cuál debería ser el proceso a seguir, paso por paso, para tomar este tipo de decisiones, con fundamento en lo ya desarrollado en la materia por los estándares internacionales de derechos humanos. Por ejemplo, el llevar a cabo un análisis y ponderación de derechos que se apegue a los tests de necesidad, proporcionalidad e idoneidad.

En esta propuesta, es importante repensar los insumos con los que contará el “Oversight Board” para hacer su trabajo, en tanto que los casos ilustrativos pueden no advertir a tiempo tendencias preocupantes en el uso de la plataforma y en la moderación de los contenidos. Proponemos, entonces, que además se abran otras instancias donde especialistas en la materia, con conocimiento de los contextos regionales pertinentes, puedan presentar evidencia preocupante de uso y moderación de contenidos en Facebook y que puedan afectar a grupos específicos que, por su vulnerabilidad u otros factores de marginalización, no puedan o no quieran acceder a este mecanismo.

Desde esta perspectiva, creemos fundamental que el organismo asuma tres tareas urgentes:

1) Transparencia algorítmica. Muchas de las decisiones que afectan las reglas de comunidad y, por ende, la moderación de contenidos, tienen efecto en las decisiones algorítmicas que la plataforma tiene sobre contenidos en particular. Este tipo de decisiones automatizadas son más opacas que la remoción de contenido per se (las explicaciones de cómo funcionan y cómo se evitan falsos positivos es más bien inexistente) y, por ende, afectan de igual manera la libertad de expresión.

2) Aspectos formales de la toma de decisiones. Es urgente que un organismo técnico, representativo e independiente como el “Oversight Board” pueda hacer recomendaciones acerca de aspectos formales en la toma de decisiones de su proceso de moderación de contenidos, pues estos afectan los resultados del mecanismo. Se debe repensar desde la forma en que se notifica a las personas usuarias que su contenido fue removido, pasando por el currículum de los moderadores, hasta las condiciones laborales de estos últimos.

3) Mecanismos de apelación. Creemos también importante que Facebook asuma con urgencia la tarea de reforzar los mecanismos comunes de apelación que tienen las personas usuarias, adoptando criterios de debido proceso y sugerencias desde estándares de derechos humanos que el mismo “Oversight Board” pueda hacer.

Asimismo, el alcance limitado del “Oversight Board” debe ser explícito en dos sentidos para las personas usuarias: (1) el rol de la justicia y del análisis de afectaciones a derechos humanos sigue siendo una tarea del Estado, apegado al contexto local, y (2), las tareas del “Oversight Board” no reemplazarán a los mecanismos de apelación sobre el resto de los contenidos (que, como afirmamos anteriormente, es urgente que mejoren).

De preferencia, las decisiones del “Oversight Board” tienen que ser vinculantes en primera instancia. Ello favorecería la legitimación de su establecimiento y la confianza de las personas usuarias respecto de su función, en tanto su implementación no estaría sujeta a la discreción de la plataforma. No obstante, si Facebook decide que así no sean, debiera al menos asegurar una explicación profunda y documentada al “Oversight Board” de su razonamiento en esas decisiones.

Derechos humanos por sobre valores corporativos

Creemos que debe dejarse atrás la idea de que el “Oversight Board” responda a los “valores” de Facebook. Más bien, debe avanzarse decididamente a que su criterio principal sean estándares internacionales de derechos humanos.

Los “valores” de una compañía representan solo a su organización y a su cultura empresarial que está, asimismo, limitada a una forma cultural. Por esta razón, de ninguna manera esos “valores” deben ser el estándar de decisiones del “Oversight Board”.

Asimismo, la legitimidad y efectividad del “Oversight Board” queda en duda si sus decisiones se basan conforme a los «valores» o «estándares» fijados por la misma plataforma. La mejor manera de cumplir con la aspiración de imparcialidad e independencia en las decisiones de este organismo, y de generar una mayor confianza en este sentido, es apegarse a un proceso que ya ha sido establecido y elaborado por los estándares internacionales existentes de derechos humanos (como nuestro Sistema Interamericano de Derechos Humanos), y que permita decisiones transparentes y replicables.

Alcance geográfico, diversidad y criterios de selección

Facebook plantea, en principio, un “Oversight Board” mundial con compromiso de “diversidad” con un número aproximado de 40 personas. En este sentido, y como parte de una comunidad del Sur Global y, aún más en particular, de América Latina y el Caribe, creemos que es importante garantizar la diversidad de la composición de este organismo, pero también su pericia técnica.

Desde el punto de vista de la diversidad, es necesario que haya una composición con equilibrio de género y etnia. Además, creemos que la composición debe ser representativa de manera proporcional al número de las personas usuarias que Facebook tenga en cada región y de su proyección de crecimiento. Del mismo modo, es importante la multidisciplinariedad en sus miembros de manera de entregar visiones diversas a los problemas.

Desde el punto de vista de pericia técnica, debe buscarse en esa proporcionalidad regional, personas que cumplan con estándares claros y transparentes de idoneidad profesional como, por ejemplo, demostrada experiencia en temas de derechos humanos y libertad de expresión. Estos criterios deben ser propuestos y revisados públicamente, de manera que sean idóneos y factibles de cumplir en todas las regiones, y sean transparentes a la comunidad de manera de mejorar la rendición de cuentas de los mismos integrantes seleccionados del “Oversight Board”.

Reglamento interno e independencia.

La independencia del “Oversight Board” debería ser garantizada por Facebook. Eso implica autonomía de este organismo para determinar las formas en que trabajarán, se comunicarán y las reglas con las que se regirán.

En este sentido, nos parece importante que una de las primeras tareas del «Oversight Board» sea trabajar en una propuesta de código de conducta que incluya procesos de denuncia y toma de decisiones. Este documento debe someterse a una consulta abierta. Su versión final debe ser pública, de tal forma de mejorar la transparencia y rendición de cuentas del organismo. Creemos importante que, en particular, el código de conducta debe estipular claramente asuntos como los conflictos de intereses de sus miembros.

Periodo de observaciones.

Una vez que el “Oversight Board” lleve algunos meses de funcionamiento, debe establecerse explícita y públicamente un periodo para hacer observaciones a su funcionamiento, de tal forma de tener información de todas las regiones que permitan ajustar y mejorar este mecanismo. Este periodo de observaciones debe ser abierto y participativo. Sus resultados deben ser públicos, con la información completa sobre la determinación de qué ajustes hacer, así como un plazo adecuado para llevarlos a cabo. Debe, asimismo, contemplarse un mecanismo de observación periódica sobre el funcionamiento del “Oversight Board”, con características de transparencia y publicidad.

Este documento fue firmado el 7 de junio del 2019 por las siguientes organizaciones: