IA et recrutement : pourquoi le tri de CV est un usage sensible

Pourquoi cet usage est traité à part

Le règlement européen sur l'intelligence artificielle range parmi les usages à haut risque les systèmes utilisés dans le domaine de l'emploi et de la gestion des travailleurs. Cela recouvre notamment la diffusion ciblée d'offres, le filtrage et l'évaluation des candidatures, ainsi que les décisions relatives à la promotion, à la rupture, à l'attribution de tâches ou à l'évaluation du comportement et de la performance.

La raison est simple : ces systèmes produisent un effet direct sur l'accès d'une personne à un emploi ou sur son évolution. L'erreur n'est pas rattrapable par l'intéressé, qui ne sait généralement même pas qu'un traitement automatisé est intervenu.

Vous l'utilisez probablement déjà

Peu de PME achètent un « outil d'IA de recrutement ». Beaucoup utilisent un SIRH, une plateforme d'offres d'emploi ou un ATS qui propose un classement des candidatures par pertinence, une note de correspondance au poste, ou un rapprochement automatique entre un profil et une annonce. Ces fonctions relèvent du même périmètre.

La première question à poser à votre prestataire est donc précise : votre solution établit-elle un classement, une note ou une présélection des candidatures, et sur quels critères ? Demandez la réponse par écrit et conservez-la : elle détermine la suite.

Le biais n'est pas une hypothèse théorique

Un système entraîné sur l'historique des recrutements d'une entreprise reproduit la composition de cet historique. Si les postes techniques ont été majoritairement pourvus par des hommes, le modèle apprend cette corrélation et la restitue comme un signal de pertinence. Personne n'a écrit de règle discriminatoire : elle est déduite des données.

Le mécanisme est identique pour l'âge, déduit des dates de diplôme, ou pour l'origine, déduite d'un lieu de résidence, d'un établissement de formation ou de la maîtrise orthographique d'une langue. C'est ce qui rend ces biais difficiles à détecter : ils ne s'expriment jamais directement sur le critère prohibé.

Et le droit français ne change pas parce qu'un logiciel est intervenu. La discrimination à l'embauche reste caractérisée par le résultat, pas par l'intention. L'employeur reste l'auteur de la décision.

Ce que l'entreprise utilisatrice doit assurer

Le fournisseur porte les obligations liées à la conception du système. En tant qu'utilisateur, vous en portez d'autres, distinctes et non transférables. Quatre points structurent la pratique :

• Une supervision humaine réelle. Une personne compétente doit pouvoir examiner, contredire et écarter la recommandation. Valider en bloc un classement de cinquante candidatures en trois minutes ne constitue pas une supervision.
• L'utilisation conforme à la notice. Un outil conçu pour aider au tri ne doit pas servir à décider seul, ni être détourné vers un usage que le fournisseur n'a pas documenté.
• La traçabilité. Conserver ce qui a été proposé, ce qui a été décidé, par qui, et selon quels critères. C'est cette trace qui vous défend en cas de contestation.
• L'information des personnes. Les salariés et leurs représentants doivent être informés avant la mise en service d'un tel système sur le lieu de travail. Les candidats doivent pouvoir savoir qu'un traitement automatisé intervient dans le processus.

Les trois réflexes à installer

Ne jamais éliminer sur la seule base du score. Le classement ordonne la lecture, il ne la remplace pas. Fixez une règle explicite : les candidatures sous un certain seuil sont relues, pas écartées automatiquement.

Documenter les critères du poste avant d'ouvrir l'outil. Une fiche de poste écrite en amont permet de vérifier que le classement correspond à ce que vous cherchiez, et pas à ce que le modèle a déduit de votre historique.

Mesurer périodiquement. Comparez, une à deux fois par an, la composition des candidatures reçues et celle des candidatures retenues. Un écart persistant sur un critère sensible est un signal à traiter, indépendamment de la cause.

Les six questions à poser à votre prestataire

Adressez-les par écrit et conservez les réponses : elles constituent la première pièce de votre dossier et engagent votre fournisseur.

• Votre solution classe-t-elle, note-t-elle ou présélectionne-t-elle les candidatures, et selon quels critères ?
• Considérez-vous cette fonctionnalité comme un système d'IA à haut risque au sens du règlement (UE) 2024/1689 ?
• Quelle documentation mettez-vous à disposition de vos clients utilisateurs, et sous quelle forme ?
• Quelles mesures de détection et d'atténuation des biais avez-vous mises en œuvre, et sont-elles auditées ?
• Quels journaux l'outil conserve-t-il, pendant combien de temps, et puis-je les exporter ?
• Puis-je désactiver la fonctionnalité de classement automatique tout en conservant le reste de la solution ?

Cette dernière question est la plus révélatrice. Un fournisseur qui ne sait pas y répondre n'a probablement pas traité le sujet pour ses autres clients non plus.

Le cas particulier des offres d'emploi ciblées

La diffusion d'annonces sur des plateformes qui optimisent automatiquement l'audience relève du même champ, et elle est presque toujours oubliée. Si l'algorithme d'une plateforme oriente votre offre vers une population plutôt qu'une autre, l'effet est comparable à celui d'un tri, mais il se produit avant même que les candidatures existent, donc sans laisser de trace exploitable.

La précaution raisonnable consiste à documenter les paramètres de ciblage que vous avez vous-même définis, et à vérifier périodiquement la composition des candidatures reçues au regard du bassin d'emploi visé.

Faut-il renoncer à ces outils

Non, et ce n'est d'ailleurs pas ce que demande la réglementation. Un outil de présélection correctement paramétré et réellement supervisé traite un volume de candidatures qu'une TPE ne peut pas absorber autrement, et il peut réduire certains biais humains, à commencer par la fatigue de lecture. Ce que le cadre exige, c'est de savoir ce que fait l'outil, de garder la main, et de pouvoir le démontrer.

La démarche commence par l'inventaire de ce que vous utilisez, sujet que nous traitons dans l'article consacré à la cartographie, et se poursuit par la formation des personnes qui opèrent ces outils au quotidien.