Qu'est-ce que l'IA explicable ?
Une IA explicable est un système dont on peut comprendre les résultats : quels éléments ont été pris en compte, lesquels ont pesé le plus, et pourquoi le résultat est celui-là. Le cadre de gestion des risques de l'IA du NIST (AI RMF 1.0) compte « explicable et interprétable » parmi les caractéristiques d'une IA digne de confiance, et distingue deux questions : l'explicabilité répond au « comment » (le mécanisme qui a produit le résultat), l'interprétabilité au « pourquoi » (ce que le résultat signifie dans son contexte).
En recrutement, cela veut dire qu'un score de correspondance n'est jamais un chiffre seul : il s'accompagne de ses composantes et de leurs raisons.
Quelle différence entre une boîte noire et une IA explicable ?
Exemple illustratif :
- Boîte noire : « Candidat B : 62 %. »
- Explicable : « Candidat B : 62 %. Compétences : 7 des 10 compétences requises (manquent Kubernetes, Terraform, anglais avancé). Expérience : 4 ans pertinents en infrastructure infonuagique, pour 5 demandés. »
La seconde version permet au recruteur de vérifier, de corriger une erreur de lecture du CV (le candidat a peut-être Terraform sous un autre nom), et d'expliquer un refus au candidat en termes utiles.
Pourquoi c'est important
- Vérifier : un recruteur ne peut pas assumer une décision qu'il ne comprend pas.
- Corriger : une explication rend visibles les erreurs d'extraction et les critères mal pondérés.
- Détecter les biais : si un facteur sans lien avec le poste pèse lourd, on le voit.
- Répondre au candidat : une explication permet un feedback honnête plutôt qu'une formule vide.
Exemples par juridiction
- Québec : l'article 12.1 de la loi sur la protection des renseignements personnels dans le secteur privé donne à la personne visée par une décision fondée exclusivement sur un traitement automatisé le droit de connaître, sur demande, les renseignements utilisés ainsi que les raisons et les principaux facteurs et paramètres ayant mené à la décision. Un système qui ne peut pas les produire rend cette obligation difficile à respecter.
- Ontario : depuis le 1er janvier 2026, l'usage de l'IA pour filtrer, évaluer ou sélectionner doit être divulgué dans les offres publiques des employeurs de 25 employés ou plus. La loi n'exige pas d'explication de chaque score, mais les candidats informés poseront la question.
- New York (ville) : la Local Law 144 exige un audit de biais annuel des outils automatisés de décision en emploi et la publication d'un résumé des résultats.
- États-Unis : le cadre du NIST est volontaire, mais il sert de référence à de nombreuses organisations.
Ce résumé est de l'information générale, pas un avis juridique.
Bonnes pratiques
- Demander à tout fournisseur : « Pouvez-vous m'expliquer pourquoi ce candidat a ce score ? » Si la réponse est non, c'est une boîte noire.
- Préférer des facteurs liés au poste (compétences, expérience) et savoir exactement lesquels entrent dans le calcul.
- Distinguer ce que voit le recruteur de ce que reçoit le candidat : certains facteurs internes n'ont pas leur place dans un feedback.
- Permettre de contester et de corriger le résultat.
- Relire les explications sur de nombreux candidats, pas seulement une à une : une tendance (par exemple, un facteur qui fait toujours baisser le même type de profil) est souvent invisible dans un cas isolé.
Avec RecruitEasy
RecruitEasy refuse le mode boîte noire, y compris pour un gros client. Chaque score de correspondance est décomposé : le recruteur voit la part des compétences, de l'expérience et de la localisation, les compétences couvertes et manquantes, et l'expérience jugée pertinente. Le feedback envoyé aux candidats, approuvé par un recruteur, ne reprend que les compétences et l'expérience : jamais la localisation. Le guide complet de l'IA en recrutement présente d'autres usages.