Partie 3 · exercices 9 à 12
Un outil de tri est-il juste ? Cela dépend de ce qu'on mesure
Situation d'entrée (imaginaire)
Deux candidats ont des CV presque identiques. Un logiciel de tri en retient un et écarte l'autre. Personne ne sait expliquer pourquoi.
Un outil qui apprend à partir de décisions passées peut reproduire des inégalités passées. Pour savoir si une décision automatique est juste, il faut d'abord mesurer, puis décider de ce qu'on appelle juste.
Un outil accepte ou refuse 500 candidatures à un poste. On sait ensuite qui convenait vraiment. Ces données sont inventées pour cet exercice.
| Groupe A | Groupe B | |
|---|---|---|
| Candidatures | 300 | 200 |
| Candidats qui convenaient | 200 | 120 |
| Candidats qui ne convenaient pas | 100 | 80 |
| Acceptés parmi ceux qui convenaient | 160 | 66 |
| Acceptés parmi ceux qui ne convenaient pas | 20 | 12 |
Trois taux utiles
Utilise le tableau.
Les acceptés sont ceux qui convenaient et ceux qui ne convenaient pas : additionne les deux lignes du bas.
📝 réponses dans ton compte rendu, exercice 9
Refusés à tort dans A : 200 − 160. Acceptés à tort dans A : on lit directement la dernière ligne du tableau.
📝 réponses dans ton compte rendu, exercice 10
Le programme suivant fait les trois calculs pour les deux groupes (fichier : taux.py). Il utilise un dictionnaire de dictionnaires et une boucle for.
groupes = {
"A": {"candidatures": 300, "convenaient": 200, "acceptes_ok": 160, "acceptes_pas_ok": 20},
"B": {"candidatures": 200, "convenaient": 120, "acceptes_ok": 66, "acceptes_pas_ok": 12},
}
for nom in groupes:
g = groupes[nom]
ne_convenaient_pas = g["candidatures"] - g["convenaient"]
acceptes = g["acceptes_ok"] + g["acceptes_pas_ok"]
taux_acceptation = 100 * acceptes / g["candidatures"]
faux_positifs = 100 * g["acceptes_pas_ok"] / ne_convenaient_pas
faux_negatifs = 100 * (g["convenaient"] - g["acceptes_ok"]) / g["convenaient"]
print("Groupe", nom)
print(" acceptation :", round(taux_acceptation, 1), "%")
print(" faux positifs :", round(faux_positifs, 1), "%")
print(" faux négatifs :", round(faux_negatifs, 1), "%")acceptes_ok du groupe B de 66 à 100. Quels taux changent ? Lequel reste identique ?Enregistre le fichier sous NOM_Prenom_ex11.py avant de le modifier.
Si tu changes acceptes_ok, le nombre d'acceptés change : le taux d'acceptation, les faux négatifs… mais pas les faux positifs, qui ne dépendent que de acceptes_pas_ok.
💾 NOM_Prenom_ex11.py
Compare les trois taux groupe par groupe, sans chercher tout de suite une conclusion unique.
📝 réponses dans ton compte rendu, exercice 12
Ne pas conclure trop vite
Ces données sont fictives. Dans la réalité, on ne sait pas toujours « qui convenait vraiment » : c'est souvent ce qui manque pour évaluer un outil.
Deux outils peuvent être justes selon deux définitions différentes. C'est ce que tu retrouveras dans le dossier « Biais et décisions automatiques ».