¿Tu jefe es un algoritmo? France Travail y la vigilancia de los desempleados

El algoritmo que te juzgará (y no es un juez)

Imagina que estás en el paro y, de repente, un algoritmo decide si eres un vago o un buscador activo de empleo. Pues eso mismo está haciendo France Travail (antes Pôle emploi) en Francia: un sistema de profilación algorítmica para controlar a los desempleados. Y no, no es ciencia ficción, es una realidad que huele a violación del GDPR.

Según una investigación de La Quadrature du Net, France Travail está desarrollando un algoritmo que analiza datos personales de los desempleados para clasificarlos en categorías de riesgo. ¿El objetivo? Decidir quién merece más controles y sanciones. Pero, ¿y los derechos de los interesados? ¿Y la transparencia? Vamos a desgranarlo.

¿Qué es exactamente este algoritmo?

El algoritmo, aún en desarrollo, procesa datos como la edad, el historial laboral, la duración del desempleo, la formación, etc., para asignar una puntuación de 'riesgo de fraude' o 'baja empleabilidad'. Luego, los consejeros humanos usan esa puntuación para priorizar entrevistas y sanciones. Suena a 'Minority Report', pero con menos Tom Cruise y más burocracia.

El problema es que el algoritmo es una caja negra: no se sabe exactamente cómo pondera los datos ni si tiene sesgos. Y aquí entra el GDPR.

GDPR: el escudo contra los algoritmos locos

El Reglamento General de Protección de Datos (GDPR) de la UE es claro: las decisiones automatizadas que afecten significativamente a las personas deben ser transparentes, explicables y, en muchos casos, requerir consentimiento explícito o estar basadas en una ley. France Travail podría estar violando varios artículos.

Por ejemplo, el Artículo 22 prohíbe decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente a la persona. Si el algoritmo decide quién recibe más controles, eso es un efecto jurídico. Además, el Artículo 13 exige informar a los interesados sobre la existencia de decisiones automatizadas y la lógica aplicada. ¿Lo hace France Travail? Parece que no.

Y no olvidemos el Artículo 35: cuando el tratamiento presenta un alto riesgo para los derechos y libertades, se requiere una Evaluación de Impacto. ¿La han hecho? La Quadrature du Net sospecha que no.

¿Y qué pasa con los derechos de los desempleados?

Los desempleados tienen derecho a no ser tratados como números. El GDPR les otorga el derecho a obtener intervención humana, expresar su punto de vista e impugnar la decisión. Pero si el algoritmo es opaco, ¿cómo van a impugnar algo que no entienden?

Además, el principio de minimización de datos (Artículo 5) exige que solo se recojan los datos necesarios. ¿Es necesario perfilar a alguien por su edad o formación para decidir si merece un control? Suena a discriminación encubierta.

Analogía para el café: es como si tu casero usara un algoritmo para decidir si pagas el alquiler a tiempo basándose en tu color de pelo

Vale, exagero, pero la idea es la misma: usar datos personales para predecir comportamientos sin transparencia es peligroso. Y más cuando está en juego la prestación por desempleo.

Francia no es el único país. Otros estados miembros también experimentan con algoritmos de control. Pero el GDPR es claro: la tecnología debe servir a las personas, no al revés.

¿Qué podemos hacer?

Si eres desempleado en Francia (o en cualquier país de la UE), tienes derecho a saber si te están evaluando con un algoritmo. Puedes solicitar acceso a tus datos y a la lógica del tratamiento. Si sospechas que te han sancionado injustamente por una decisión automatizada, reclama ante la autoridad de protección de datos (en Francia, la CNIL).

Y si eres un ciudadano preocupado, apoya a organizaciones como La Quadrature du Net que luchan por la transparencia algorítmica. Porque, al final, un algoritmo no debería decidir tu futuro laboral sin que tú sepas cómo.

Más información en el texto oficial del GDPR.

FAQ