Amnistía Internacional, en conjunto con otras catorce organizaciones no gubernamentales, presentó una queja formal contra la Caja Nacional de Subsidios Familiares (CNAF) ante el Consejo de Estado de Francia. Denuncian la utilización de un sistema algorítmico por parte de la CNAF, cuyo propósito es identificar posibles excesos o errores en los pagos de prestaciones sociales. Dicho sistema funciona mediante un proceso de puntuación que selecciona a los beneficiarios para someterlos a investigaciones adicionales, basado en una serie de criterios preestablecidos.
Según la denuncia, el uso de este sistema de puntuación afecta de manera desproporcionada a ciertos grupos de la población, particularmente a personas en situación de vulnerabilidad, tales como personas con discapacidad, familias monoparentales (principalmente mujeres) y personas que viven en condiciones de pobreza. Las organizaciones señalan que esta práctica genera una supervisión intensiva sobre dichos colectivos en comparación con otros sectores de la población.
Amnistía Internacional argumenta que este sistema podría ser contrario a las disposiciones legales sobre privacidad, ya que implica la recolección y uso masivo de datos personales. Además, se alega que este procedimiento introduce una diferenciación en el trato legal entre los beneficiarios de las prestaciones sociales, contraviniendo principios de igualdad. En este contexto, la queja incluye una solicitud para que el Consejo de Estado imponga una sanción de 1.024 euros por cada día de retraso en la cesación del uso del sistema, contados a partir de la fecha de la resolución judicial.
Noticia Relacionada
La queja también hace referencia al Reglamento 2024/1689 de la Unión Europea, el cual prohíbe el uso de sistemas de inteligencia artificial que atribuyan puntuaciones sociales a individuos, cuando dichas prácticas conduzcan a resultados discriminatorios. El considerando 31 del Reglamento establece que estos sistemas vulneran derechos fundamentales, tales como la dignidad y la igualdad ante la ley.
No obstante, las organizaciones demandantes subrayan que la Ley de Inteligencia Artificial de la Unión Europea, que entró en vigor en agosto de 2023, no aborda con suficiente precisión la definición de sistemas de puntuación social, lo que, según los denunciantes, genera incertidumbre jurídica sobre su aplicación a este caso concreto.
En este sentido, las organizaciones involucradas han solicitado que el Tribunal de Justicia de la Unión Europea (TJUE) se pronuncie sobre la clasificación de este sistema como un sistema de puntuación social. Asimismo, se espera que la Comisión Europea emita directrices adicionales antes de febrero de 2025, las cuales podrían clarificar el alcance y los riesgos asociados a la inteligencia artificial en este contexto.