Le problème n'était pas de prédire pour prédire
La main-d'œuvre représentait le premier poste de dépense de l'organisation concernée.
Ses opérations reposaient sur une forte disponibilité en effectifs, notamment sur des profils peu ou pas qualifiés, dans un secteur caractérisé par un turnover important et un recours fréquent au recrutement et à l'intérim.
L'objectif initial paraissait donc assez simple : pouvait-on prévoir suffisamment tôt qu'un salarié allait démissionner pour agir avant son départ ?
Le délai cible avait été fixé à six mois.
Mais la décision à prendre ensuite n'était pas la même selon le profil.
Pour un salarié présentant un potentiel d'évolution dans l'entreprise, l'intérêt était d'identifier suffisamment tôt la maturation d'un projet de départ pour examiner les réponses possibles : évolution vers le management, changement de poste, mobilité ou, lorsque cela était pertinent, adaptation de la rémunération.
Pour d'autres profils, l'objectif pouvait être différent : anticiper suffisamment le départ pour déclencher le recrutement d'un remplaçant, organiser un tuilage et diminuer la période de vacance.
Trois catégories d'indicateurs avaient donc été définies en amont :
- le taux de turnover ;
- les dépenses liées au recours à l'intérim ;
- les indicateurs associés au mal-être ou à la désorganisation du travail, notamment l'absentéisme et les arrêts maladie.
Ce cadrage est important, parce qu'on ne cherche pas à prédire pour prédire, mais produire suffisamment tôt une information sur laquelle l'organisation peut opérationnellement et légalement agir, avec un effet mesurable sur ses résultats.
La différence entre les deux questions a finalement déterminé tout le projet.
Deux modèles pour deux usages différents
Deux approches ont été testées.
La première reposait sur un arbre de décision, utilisé ici comme modèle explicable ou white box.
Dans cette implémentation, il était possible de suivre les variables mobilisées et de comprendre la logique qui conduisait au résultat. Cette lisibilité le rendait particulièrement intéressant pour rechercher non seulement une prédiction, mais des facteurs structurels sur lesquels l'organisation pouvait agir.
La deuxième approche utilisait un modèle de machine learning plus complexe.
L'objectif était différent : tester la capacité prédictive maximale disponible dans les données, y compris lorsque les relations entre variables étaient moins faciles à interpréter.
Et cette deuxième approche a effectivement mieux prédit, et que les éléments les plus intéressants ont commencé à émerger. Et les problèmes aussi, d'ailleurs.
Deux périmètres de données plutôt qu'un seul
Les données issues du SIRH et de l'ERP contenaient de nombreuses informations sur les salariés.
Certaines pouvaient être mobilisées sans difficulté particulière dans le cadre de l'usage envisagé.
D'autres correspondaient à des caractéristiques protégées par le droit en matière de non-discrimination ou étaient susceptibles de produire une différence de traitement juridiquement sensible : notamment l'âge, le sexe ou la nationalité.
Nous avons donc travaillé sur deux périmètres.
Le périmètre complet permettait d'étudier les relations présentes dans les données et de mesurer la capacité prédictive théorique du modèle.
Le périmètre filtré retirait les variables qui ne devaient pas intervenir dans les recommandations individuelles envisagées au titre de la protection contre les discriminations.
Cette séparation a permis de poser une question que l'on oublie facilement dans un projet de machine learning :
DONNÉE ÉCLAIRANTE ≠ DONNÉE DÉCISIONNELLE
Une donnée peut aider à comprendre la structure d'une population sans pouvoir servir à traiter différemment deux personnes. Il faut donc distinguer : ce que les données permettent de constater de ce qu'elles permettent légitimement de décider. Dans un projet algorithmique, cette distinction peut modifier non seulement la conformité du système, mais aussi sa performance technique et donc son business case.
Le modèle à 90 % posait précisément ce problème
Sur le périmètre complet, la black box atteignait un score de performance de 90 % sur la prédiction des démissions à six mois. Techniquement, le résultat était suffisamment élevé pour rendre le modèle très séduisant, et accélérer la bascule en prod.
Mais l'analyse des données produisait aussi et surtout un autre constat, à savoir qu'une part importante du signal prédictif provenait des variables écartées du périmètre décisionnel.
Le cas le plus significatif concernait la nationalité : l'analyse faisait en effet apparaître que les salariés non ressortissants d'un pays de l'Union européenne avaient, dans les données observées, tendance à rester plus longtemps dans l'entreprise même en l'absence de mesure spécifique de rétention.
Cette information pouvait présenter un intérêt descriptif pour comprendre la population étudiée, mais elle créait un problème majeur si elle était utilisée pour décider individuellement à qui proposer un effort de rétention.
Car le raisonnement devenait alors, même sans l'exprimer ainsi :
« Ce salarié présente moins de risque de départ parce qu'il appartient à tel groupe ; concentrons donc nos efforts sur l'autre groupe. »
Discrimination directe et indirecte : deux risques différents
Le droit français distingue les deux mécanismes.
La loi du 27 mai 2008 qualifie de discrimination directe la situation dans laquelle une personne est traitée moins favorablement qu'une autre dans une situation comparable sur le fondement d'un motif protégé, notamment l'origine ou l'appartenance ou non-appartenance, vraie ou supposée, à une nation.
Elle qualifie de discrimination indirecte une disposition, un critère ou une pratique apparemment neutre qui entraîne un désavantage particulier pour un groupe protégé, sauf justification objective par un but légitime et des moyens nécessaires et appropriés.
La distinction est essentielle pour un modèle prédictif.
Si la nationalité entre directement dans le calcul et conduit à traiter différemment les salariés, le risque relève d'abord de la discrimination directe.
Mais retirer la colonne « nationalité » ne suffit pas nécessairement.
D'autres variables peuvent reconstituer partiellement la même information.
C'est précisément ce que le Défenseur des droits appelle des proxys.
LES PROXYS : UNE DÉFINITION DU DÉFENSEUR DES DROITS
Dans sa
décision n° 2025-182 du 10 octobre 2025, consacrée à la diffusion algorithmique d'offres d'emploi, le Défenseur des droits explique qu'une discrimination peut provenir de caractéristiques protégées directement présentes dans les données, mais aussi, de manière moins visible, de proxys.
Il définit le proxy comme un élément apparemment neutre qui contient néanmoins une information pouvant être liée à un motif protégé. Il souligne également que le croisement de plusieurs indicateurs moins explicites peut aboutir au même résultat et que ces mécanismes sont particulièrement difficiles à identifier et à prévenir.
Autrement dit : supprimer le critère protégé ne démontre pas que le modèle a cessé de l'inférer indirectement.
Cette distinction justifie précisément le test du second périmètre : il ne suffisait pas de retirer certaines colonnes, mais de regarder ce que le modèle continuait effectivement à produire après leur retrait. C'est le type de vigilance que l'AI Act introduit par ailleurs autour des systèmes à haut risque, dont ceux concernant les ressources humaines.
Le Défenseur des droits a depuis montré que le résultat compte autant que l'intention
La décision de 2025 apporte un autre élément particulièrement intéressant pour ce cas.
Des associations avaient demandé à une plateforme de diffuser de manière aussi neutre que possible plusieurs offres d'emploi.
Pourtant, l'offre d'auxiliaire de petite enfance avait notamment été présentée à 94 % à des femmes, tandis que l'offre de pilote avait été présentée à 85 % à des hommes lors de l'une des expérimentations.
Le Défenseur des droits a conclu à une discrimination indirecte liée au sexe.
Ce qui est remarquable pour l'analyse d'un système algorithmique, c'est que l'institution ne s'arrête pas aux règles configurées en amont.
Elle constate que la plateforme n'avait présenté aucun mécanisme de contrôle des résultats des algorithmes et considère que des mécanismes de contrôle ou de correction des biais auraient dû être mis en œuvre.
qui reçoit effectivement quelle recommandation ;
quels groupes bénéficient d'une décision favorable ou défavorable ;
si les écarts persistent après retrait des critères protégés ;
et si des variables apparemment neutres reconstituent indirectement les mêmes segmentations.
C'est une évolution importante de la manière d'aborder la conformité algorithmique : elle oblige à regarder les résultats empiriques et pas seulement l'intention du concepteur.
Le Défenseur des droits et la CNIL avaient d'ailleurs déjà alerté dès 2020 sur le risque « d'automatisation des discriminations » : les biais présents dans les données ou dans la conception peuvent être reproduits, amplifiés et appliqués à grande échelle par un système algorithmique.
Que reste-t-il quand on retire le signal juridiquement inutilisable ?
C'est là que le double périmètre a produit son enseignement le plus important.
Une fois les variables sensibles retirées, la black box perdait l'essentiel de sa capacité prédictive utile.
La variable qui remontait alors principalement était la durée moyenne du contrat. Le résultat n'était pas faux, mais bon, entre nous, c'était beaucoup de lignes de code pour conclure que les gens finissent un jour ou l'autre par partir de leur poste.
Savoir qu'un salarié proche de la durée habituelle de présence dans l'entreprise est davantage susceptible de partir revient en partie à reformuler le phénomène que l'on cherche à prévoir.
On obtenait une information statistiquement corrélée, mais faiblement actionnable.
C'est une distinction essentielle :
UN BON PRÉDICTEUR NE FAIT PAS TOUJOURS UN BON LEVIER D'ACTION
Une variable peut améliorer fortement un modèle sans offrir à l'organisation une action utile.
À l'inverse, une variable moins prédictive peut avoir beaucoup plus de valeur si :
elle est compréhensible ;
elle peut faire l'objet d'une intervention ;
cette intervention est juridiquement acceptable ;
son coût est maîtrisé ;
et son effet peut être mesuré.
Le modèle complexe avait donc perdu ce qui faisait sa valeur économique initiale : il prédisait mieux que l'alternative sur le périmètre complet mais n'était pas le meilleur système pour décider.
La black box n'était pas illégale parce qu'elle était opaque
C'est une autre distinction importante.
L'opacité d'un modèle complexe ne constitue pas, à elle seule, une discrimination.
Le problème devient concret lorsqu'une décision est contestée.
En droit du travail ou de la fonction publique, le collaborateur ou candidat présente des éléments laissant supposer l'existence d'une discrimination. Il appartient ensuite à la partie défenderesse de démontrer que sa décision repose sur des éléments objectifs étrangers à toute discrimination. C'est le mécanisme prévu par l'article L.1134-1 du Code du travail.
Dans notre cas, le modèle qui produisait la meilleure prédiction était précisément celui dont une part importante de la performance dépendait des variables que l'organisation ne souhaitait et ne pouvait utiliser comme fondement de ses décisions individuelles.
L'opacité aggravait alors un problème déjà identifié.
Si une recommandation individuelle avait été contestée, il aurait fallu être capable de démontrer que la décision effectivement prise reposait sur des facteurs objectifs étrangers aux motifs protégés.
Un système dont le signal utile provient précisément de ces variables rend cette démonstration particulièrement fragile, même s'il améliore la capacité prédictive, sachant que cet enseignement peut ensuite irriguer les pratiques internes et accentuer des biais favorables ou défavorables dans les mesures mises en œuvre.
LA VRAIE QUESTION N'ÉTAIT DONC PAS :
« Peut-on expliquer chaque opération mathématique du modèle ? »
MAIS :
« Peut-on expliquer et défendre le fondement de la décision humaine que ce modèle contribue à produire ? »
Cette distinction est plus utile opérationnellement que l'opposition un peu bâteau entre « IA explicable » et « IA opaque ».
L'AI Act renforce aujourd'hui cette logique de contrôle
Le projet a été conduit avant l'entrée en application du cadre européen actuel.
Depuis, l'AI Act classe comme systèmes à haut risque certains systèmes utilisés dans le domaine de l'emploi et de la gestion des travailleurs, selon leur finalité exacte.
Pour les systèmes à haut risque, l'article 26 impose notamment au déployeur (c'est-à-dire, l'utilisateur du système, pas son fournisseur) d'organiser des mesures techniques et organisationnelles appropriées et de confier la supervision humaine à des personnes disposant de la compétence, de la formation, de l'autorité et du soutien nécessaires.
Le Défenseur des droits rappelle lui aussi que les algorithmes destinés à certains usages d'emploi et de recrutement relèvent du régime à haut risque de l'AI Act.
Cela ne signifie pas que toute analyse RH algorithmique est automatiquement classée à haut risque, mais que la finalité réelle du système et la décision à laquelle il contribue deviennent déterminantes.
Un outil utilisé pour comprendre collectivement les causes du turnover ne pose pas exactement les mêmes questions qu'un outil qui attribue individuellement à chaque salarié une probabilité de démission pour décider ensuite qui retenir, promouvoir, surveiller ou remplacer.
Le résultat utile venait finalement de la white box
La piste techniquement la plus impressionnante a donc été abandonnée.
Mais le travail sur les données n'avait pas été inutile.
Sur le périmètre filtré, l'arbre de décision avait fait ressortir un facteur beaucoup plus simple : le temps de trajet domicile-travail.
La corrélation avec les départs prématurés était particulièrement importante sur certains profils difficiles à recruter, dans un marché de l'emploi déjà tendu.
Et cette variable présentait quatre qualités que le modèle à 90 % n'avait pas réunies simultanément :
- elle était lisible ;
- elle était actionnable ;
- l'action envisagée ne nécessitait pas de traiter les salariés en fonction d'un critère protégé ;
- son effet pouvait être mesuré.
Le problème changeait donc complètement.
Il ne s'agissait plus de prédire :
« Qui va démissionner ? »
Mais de répondre à une question beaucoup plus opérationnelle :
« Peut-on diminuer l'un des facteurs associés aux départs sans augmenter la masse salariale ni modifier les implantations ? »
La solution : un algorithme de « chaises musicales »
Le client exploitait plusieurs sites.
Il existait donc une possibilité que la logique initiale de recrutement et d'affectation ait conduit certains salariés à travailler sur un site plus éloigné que nécessaire de leur domicile alors qu'un poste comparable pouvait être disponible ailleurs.
La solution déployée a consisté à utiliser un algorithme d'optimisation sous contraintes pour rapprocher salariés et sites.
Dans l'équipe, l'image utilisée pour expliquer simplement le principe était celle des « chaises musicales ».
On ne créait pas de nouveaux postes.
On ne construisait pas de nouveaux sites.
On ne modifiait pas la politique générale de rémunération.
On cherchait une meilleure combinaison entre :
- les lieux de résidence ;
- les besoins en effectifs de chaque site ;
- les compétences et contraintes opérationnelles ;
- et les préférences exprimées par les salariés.
Et c'est cette seconde approche sur le facteur structurel qui a produit le résultat opérationnel.
Sur les profils concernés, la rétention a progressé en moyenne de +7 points.
Sans modification générale de la politique salariale.
Sans investissement immobilier.
Et sans déployer le modèle qui obtenait pourtant la meilleure performance prédictive initiale.
Ce cas inverse la hiérarchie habituelle d'un projet IA
Il serait facile de raconter cette histoire comme un projet dans lequel « le droit a empêché de déployer une bonne IA ». Un juriste pas rigolo vous le dirait.
Ce serait manquer l'essentiel.
Le droit a obligé à distinguer la performance théorique de la performance réellement exploitable.
Cette distinction a révélé que le modèle à 90 % n'avait probablement pas le meilleur business case.
Pourquoi ?
Parce que sa capacité prédictive s'effondrait lorsqu'on retirait les variables qui ne pouvaient pas servir au traitement individuel envisagé.
Et parce qu'une approche techniquement beaucoup plus simple a fait apparaître un levier sur lequel l'organisation pouvait effectivement agir.
La question économique devient alors différente :
Quel intérêt y aurait-il à industrialiser, intégrer, surveiller et maintenir un modèle sophistiqué si une part déterminante de sa performance ne peut pas être convertie en action ?
C'est là que performance technique, droit et économie cessent d'être trois sujets parallèles.
Ils deviennent les trois dimensions d'une même décision.
Cinq enseignements opérationnels de ce cas
« Prédire les démissions » n'est pas une finalité suffisamment précise. Il faut savoir quelle décision sera prise ensuite, par qui et avec quelle conséquence pour la personne concernée.
Certaines variables permettent de comprendre une population. Cela ne signifie pas qu'elles peuvent légitimement servir à différencier les individus.
Si la performance disparaît avec elles, ce résultat doit être connu avant d'investir dans l'industrialisation. Et si elle subsiste, il faut encore vérifier si des proxys reconstituent indirectement le même signal.
La décision 2025-182 du Défenseur des droits est particulièrement claire sur ce point : un paramétrage apparemment neutre ne suffit pas si les résultats du système produisent un désavantage particulier et qu'aucun mécanisme de contrôle ou de correction n'est mis en œuvre.
Dans ce cas, une analyse explicable et techniquement moins ambitieuse a découvert un facteur directement actionnable. Le résultat opérationnel est venu d'un algorithme d'optimisation des affectations, pas du modèle prédictif à 90 %.
Le meilleur modèle était celui que nous avons décidé de ne pas déployer
C'est probablement le point le plus important du projet.
Nous avions obtenu un résultat qui, présenté isolément, aurait facilement pu devenir une démonstration commerciale :
90 % de performance prédictive sur les démissions à six mois.
Le choix aurait pu être de chercher à améliorer encore le modèle, de développer une interface, de construire des alertes et de l'intégrer aux processus RH.
Nous avons fait l'inverse.
Nous avons cherché ce que cette performance mesurait réellement.
Puis ce qu'il en restait une fois retirées les variables qui ne pouvaient pas soutenir les décisions envisagées.
Et enfin ce sur quoi l'organisation pouvait agir.
Le résultat le plus utile n'était donc pas la prédiction.
C'était l'arbitrage qui avait permis de l'abandonner.
Un modèle techniquement supérieur n'est pas nécessairement un meilleur actif.
Sa valeur dépend de ce qu'une organisation peut effectivement faire de son résultat, juridiquement, économiquement et opérationnellement.
Pour prolonger l'analyse
Ce type de cas relève moins d'une recherche abstraite du « meilleur modèle » que d'une revue de décision Data/IA : objectif métier, données utilisables, capacité prédictive réellement exploitable, risques de discrimination, contrôle humain, coût de déploiement et alternatives plus simples.
L'enjeu n'est pas d'ajouter systématiquement une couche de conformité à un projet déjà conçu.
Il est de déterminer assez tôt si le système que l'on envisage de construire mérite réellement de l'être.