La réponse courte
La Quadrature du Net et la cellule investigation de Radio France ont révélé, le 20 juillet 2026, un algorithme de « ciblage du contrôle de la recherche d'emploi » testé par France Travail : entraîné sur quelque 60 000 contrôles passés, il note chaque demandeur d'emploi sur 26 variables et lui attribue un profil « suspect » ou « non suspect » pour orienter les contrôles. Les pondérations, les règles de décision et le code source restent, eux, inconnus — les demandes d'accès ayant été refusées.
Le débat public portera sur les libertés. Mais pour les directions techniques, l'histoire est ailleurs : un système qui note des personnes pour décider d'un contrôle est exactement le type d'usage que le règlement européen sur l'IA classe à haut risque. Documenter, tester le biais et garder une supervision humaine cessent d'être des bonnes pratiques pour devenir des obligations — un chantier de conformité au règlement européen sur l'IA à cadrer avant la mise en production, pas après.
Que révèle vraiment l'enquête ?
Le point de départ est un document interne daté du 10 décembre 2025, présenté au comité d'éthique IA de France Travail et obtenu par les enquêteurs. Il décrit un algorithme de « ciblage du contrôle de la recherche d'emploi » (CRE), conçu pour aider les conseillers à décider quels dossiers vérifier. Le principe : à partir de l'historique de quelque 60 000 contrôles déjà réalisés, le modèle apprend à distinguer les profils qui ont donné lieu à un manquement de ceux qui n'en ont pas donné, puis applique cette grille à l'ensemble des demandeurs.
Concrètement, chaque personne est passée au crible de 26 variables — ancienneté d'inscription, niveau de formation, métier recherché et tension du secteur, visibilité du CV, activités déclarées, historique des entretiens et des manquements, entre autres. Au bout de la chaîne, une sortie binaire : « suspect » ou « non suspect ». Ce n'est pas l'algorithme qui sanctionne — la décision reste humaine — mais c'est lui qui décide qui remonte en haut de la pile des contrôles. Selon l'enquête, le dispositif a vocation à s'appliquer très largement, potentiellement à plusieurs millions de personnes chaque mois si l'on inclut les allocataires du RSA désormais rattachés à l'opérateur.
Le plus frappant tient à ce qu'on ne sait pas. Les pondérations exactes, la logique de l'arbre de décision, le code source et la documentation technique ne sont pas publics ; les demandes d'accès ont été refusées. Or, sans ces éléments, il est impossible de vérifier de l'extérieur si le tri est équitable — un point qui, précisément, sépare un système défendable d'un système qui ne l'est pas.
Le biais que le document reconnaît lui-même
Détail rarement mis en avant, mais central : le document interne admet un risque de biais. Entraîné sur des contrôles passés qui visaient déjà certaines populations, le modèle tendait à surreprésenter les demandeurs d'emploi aux plus faibles indemnités. C'est le piège classique de l'apprentissage sur données historiques — le fameux biais de rétroaction : si hier les contrôles ciblaient surtout un profil, le modèle apprend que ce profil est « à contrôler », et le cercle se referme. L'algorithme ne crée pas le biais ; il l'industrialise à grande échelle et lui donne l'apparence de l'objectivité.
France Travail défend, de son côté, l'idée que des « critères objectifs » permettraient au contraire de supprimer les biais humains — un argument que les enquêteurs contestent, faute de pouvoir examiner le modèle. Les deux lectures ne sont pas conciliables sans transparence : on ne peut pas affirmer qu'un système est équitable et, en même temps, refuser d'en montrer les règles. Pour toute équipe qui construit ce genre d'outil, la leçon est nette : un modèle entraîné sur vos logs métier hérite de vos décisions passées, bonnes comme mauvaises, et il faut le prouver par des tests, pas par une intention.
Pourquoi c'est un cas « à haut risque »
Un système utilisé par une administration pour évaluer et cibler des personnes qui accèdent à des services publics relève de la catégorie que le règlement européen sur l'IA (AI Act) traite comme « à haut risque ». La qualification précise dépend de l'usage, mais la direction est sans ambiguïté : ce type de système appelle une documentation technique complète, des tests de biais et de robustesse, une supervision humaine effective, une traçabilité des décisions et une information des personnes concernées. Le calendrier européen se déploie par étapes — les obligations de gouvernance de l'AI Act s'appliquent à compter du 2 août 2026, le régime complet pour les systèmes à haut risque de ce type suivant en 2027 — ce qui laisse une fenêtre pour se mettre en ordre de marche, pas pour l'ignorer.
À cela s'ajoute le RGPD, qui ne disparaît pas derrière l'AI Act. Dans ses recommandations de juillet 2026, la CNIL rappelait que la documentation des choix de conception est le point de conformité le plus surveillé, et que le triple test de l'intérêt légitime encadre l'entraînement des modèles. Traduit pour une équipe produit : la base légale, l'analyse d'impact (AIPD) et la capacité d'expliquer une décision individuelle ne sont pas des formalités de fin de projet — ce sont des exigences qui façonnent l'architecture du système. C'est là que la frontière entre une brique data et IA bien conçue et une bombe à retardement réglementaire se joue.
Construire un scoring défendable : la checklist
La bonne nouvelle, c'est qu'un système de profilage responsable n'a rien d'hors de portée. Il repose sur une discipline d'ingénierie que l'on peut poser dès le premier sprint :
- Documentez vos données d'entraînement. D'où viennent-elles, quelle période couvrent-elles, quels biais historiques portent-elles ? Un modèle appris sur des décisions passées reproduit ces décisions — sachez lesquelles.
- Testez le biais avant et après la mise en production. Mesurez les écarts de traitement entre groupes, pas seulement la précision globale. Un modèle « performant » peut être systématiquement injuste envers un sous-ensemble.
- Gardez une supervision humaine réelle. « Un humain valide » ne suffit pas si l'humain suit l'algorithme à 99 %. Donnez-lui le contexte, le droit et le temps de diverger.
- Rendez chaque décision explicable. Pour une personne classée d'une certaine façon, vous devez pouvoir dire pourquoi, en langage clair — sinon le système est inopposable.
- Tracez tout pour l'audit. Version du modèle, données, pondérations, décisions humaines : de quoi répondre à un régulateur en heures, pas en semaines.
Ceci n'est pas un conseil juridique, et la bonne approche dépend de votre secteur, de vos données et de vos usages. Mais le signal de l'affaire France Travail est limpide : à l'ère de l'AI Act, la question n'est plus de savoir si un système qui note des personnes devra rendre des comptes, mais quand. Les équipes qui avanceront le mieux sont celles qui auront rendu leurs modèles traçables et testables avant qu'un tiers ne le leur demande.
Questions fréquentes
Que révèle l'enquête sur l'algorithme de France Travail ?
Publiée le 20 juillet 2026 par La Quadrature du Net avec la cellule investigation de Radio France, l'enquête décrit un algorithme de « ciblage du contrôle de la recherche d'emploi ». À partir d'un document interne daté du 10 décembre 2025 et présenté au comité d'éthique IA de France Travail, elle explique que le système, entraîné sur environ 60 000 contrôles passés, note chaque demandeur d'emploi sur 26 variables et lui attribue un profil « suspect » ou « non suspect » pour prioriser les contrôles.
Cet algorithme est-il un système d'IA à haut risque ?
Un système utilisé par une administration pour évaluer et cibler des personnes qui accèdent à des services publics relève de la catégorie que le règlement européen sur l'IA (AI Act) traite comme « à haut risque ». La qualification exacte dépend de l'usage précis, mais l'orientation est claire : documentation des choix de conception, tests de biais, supervision humaine, traçabilité et information des personnes deviennent des obligations. Les provisions de gouvernance de l'AI Act s'appliquent à partir du 2 août 2026, le régime complet pour ces systèmes suivant en 2027.
Comment concevoir un système de scoring ou de profilage conforme ?
En traitant la conformité comme une contrainte de conception dès le départ : documenter les données d'entraînement et les choix de modèle, tester le biais avant et après mise en production, garder une supervision humaine réelle sur les décisions, tracer qui est classé comment et sur quelle base, et réaliser une analyse d'impact (AIPD/RGPD). Le triple test de l'intérêt légitime rappelé par la CNIL et la capacité à expliquer une décision sont des points de contrôle prioritaires.
Sources
La Quadrature du Net — France Travail déploie un outil de profilage algorithmique à des fins de contrôle
Siècle Digital — France Travail teste une IA pour repérer les chômeurs qui ne chercheraient pas vraiment un emploi
Génération-NT — France Travail déploie une IA pour profiler les chômeurs « suspects »