Las asociaciones piden que se prohíba el algoritmo antifraude utilizado por la Cnaf, por considerarlo discriminatorio.

Quince asociaciones señalan que es más probable que lo controlen si está desempleado, recibe el RSA o el subsidio para adultos discapacitados. El Fondo de Prestación por Hijos apoya un mayor riesgo de error para estos grupos con historias de vida complejas.

Denuncian software discriminatorio. Quince asociaciones anunciaron el miércoles 16 de octubre que se habían puesto en contacto con el Consejo de Estado para prohibir un algoritmo utilizado por la Caja Nacional de Asignaciones Familiares (CNAF), destinado a detectar fraudes entre los beneficiarios de prestaciones.

Las quince asociaciones recurrentes, entre ellas La Quadrature du Net, Amnistía Internacional Francia y la Liga de Derechos Humanos, recuerdan en su comunicado que, con el objetivo de luchar contra el fraude, el algoritmo Cnaf “Asigna a cada destinatario una puntuación de sospecha (…) Cuanto mayor sea, mayor será la probabilidad de ser controlado”.

Sin embargo, después de acceder a “código fuente” de una versión de este algoritmo, utilizada entre 2014 y 2018, dicen las asociaciones “entre los factores que aumentan la puntuación de sospecha se encuentran, en particular, tener bajos ingresos, estar desempleado, beneficiarse de la renta activa solidaria (RSA) o del subsidio para adultos discapacitados (AAH)”. “Las personas en dificultades se encuentran [donc] sobrecontrolado en comparación con el resto de la población”informan los recurrentes. Las asociaciones habían pedido en julio a la CNAF que dejara de utilizar este algoritmo, sin recibir respuesta.

Para demostrar que el algoritmo CNAF es ilegal y obtener su prohibición, las asociaciones presentan varios argumentos jurídicos. Según ellos, el volumen de datos procesados ​​es desproporcionado con respecto a la finalidad del algoritmo (lo que violaría el Reglamento General de Protección de Datos), el algoritmo es “tratamiento de datos personales mediante la toma de decisiones automatizadas” (también prohibido) y él “tiene el efecto de discriminación indirecta” contra algunos grupos, resume la Liga de Derechos Humanos en su expediente.

Para el director general de la Cnaf, Nicolás Grivel, el software sólo busca “Pagos atrasados ​​significativos y repetidos” entre los beneficiarios que tienen más probabilidades de cometer errores en su declaración. Los beneficiarios de algunos mínimos sociales, como el RSA o el bono de actividad, cuyos ingresos a menudo varían, tienen que completar declaraciones de impuestos trimestrales con formularios complejos y corren más riesgo de cometer errores. “Si una jurisdicción tomara una posición para (…) desarrollar el sistema”la Cnaf se activaría “en cumplimiento”Nicolas Grivel aseguró a la AFP.