La Comisión Nacional Consultiva de Derechos Humanos señala la “Riesgos para las libertades” causada por la videovigilancia algorítmica (VSA), en un aviso publicado en el Diario Oficial el martes, a menos de un mes de los Juegos Olímpicos de París.
VSA, probado en Francia en el marco de los Juegos Olímpicos (del 26 de julio al 11 de agosto), consiste en un software asociado a cámaras de vigilancia para identificar eventos considerados sospechosos o de riesgo, antes de alertar a un operador en tiempo real.
La CNCDH se ocupa en particular “dos observaciones” en cuanto a “el impacto del VSA en los derechos y libertades fundamentales”en una larga reseña sobre “vigilancia del espacio público”.
entre los ocho “eventos predeterminados”definido por la “ley JO” de abril de 2023, que el VSA debe detectar, está previsto asociar “una alerta ante una dirección anormal del tráfico de peatones”una persona que camina en dirección contraria a la multitud, por ejemplo.
Para la comisión, esta disposición constituye “una concepción excesivamente estandarizada del orden público” y “expone así al sistema a informes inapropiados que pueden dar lugar a detenciones indebidas”.
La comisión también está preocupada por la “participación sin precedentes de actores privados”
La CNCDH considera además que “será difícil garantizar en la práctica el control” de las garantías previstas por la ley, en particular ante la falta de recursos suficientes asignados a la Comisión Nacional de las Tecnologías de la Información y las Libertades (CNIL) y el temor de que los ciudadanos desarrollen “una sensación de mayor vigilancia” durante los Juegos.
El comité también está preocupado por la“participación sin precedentes de actores privados –diseñadores de software– en el ejercicio de una misión soberana” y posibilidades “discriminaciones” inducido.
VSA se basa en un software diseñado para “identificar situaciones preocupantes”, “Por tanto, la máquina podría verse inducida a asociar un determinado nivel de riesgo a determinadas características recurrentes” teléfono “usar capucha”advierte la Comisión.
En esta situación, este software está configurado para centrarse “por ejemplo, sobre el tipo de vehículo a detectar” pero, teme la comisión, “un agente encargado de su uso dentro del centro de supervisión urbana podría dirigirse indirectamente a determinadas categorías de la población que circula por la vía pública”.
Y “Monitorear la ausencia de sesgos parece actualmente una ilusión”lamenta la CNCDH, sin embargo “Se podría sacar a la luz la discriminación que se produce a través de su uso” y por lo tanto, “tomar todas las medidas apropiadas para remediar esto”.
