Playbook 3 — Données et biais

L’origine des données — savoir d’où elles viennent

« Des déchets en entrée, des déchets en sortie » s’applique que vous entraîniez un modèle ou que vous vous contentiez de l’alimenter. Le fait qu’une donnée soit disponible ne signifie pas que vous avez le droit de l’utiliser.

• Nous savons si les données sont générées en interne, achetées, publiques ou fournies par le client.
• S’il s’agit de données tierces, nous avons confirmé que la licence autorise cet usage précis (l’usage commercial n’est pas automatiquement inclus).
• Si elles contiennent des données personnelles, nous avons une base légale documentée pour les utiliser (consentement, contrat, intérêt légitime).

Conformité RGPD minimum viable

Le consentement, quand c’est la base

Doit être explicite (donné activement, pas présumé), éclairé (la personne sait quoi et pourquoi), révocable, et non réutilisé pour une nouvelle finalité sans redemander.

La minimisation des données

Ne collectez que ce dont l’usage de l’IA a réellement besoin. Si vous ne pouvez pas expliquer pourquoi un champ est transmis au modèle, ne le transmettez pas.

Quand une analyse d’impact relative à la protection des données (AIPD) est nécessaire

Requise lorsque l’usage implique une nouvelle technologie, un traitement de données à grande échelle ou un effet notable sur les droits des personnes — par exemple un outil de recrutement par IA qui filtre chaque candidature, pas une expérimentation interne ponctuelle. En cas de doute, traitez-la comme requise ; une AIPD courte est une assurance bon marché.

Contrôle de bon sens sur les biais — pour les cas d’usage de recrutement, de crédit, de tarification ou de performance

Vous n’avez pas besoin d’une équipe de data science pour repérer les cas évidents. C’est une version non technique du test par sous-groupes décrit dans le support de présentation.

• Nous avons listé les groupes que la décision pourrait affecter différemment (genre, âge, lieu, ancienneté, etc.).
• Nous avons comparé le taux de résultat entre ces groupes sur un échantillon de décisions passées ou de test (par exemple, taux d’approbation par groupe).
• Un écart d’environ 20 points ou plus entre les groupes (par exemple 80 % contre 50 % d’approbation) est traité comme un signal à examiner, pas à ignorer.
• Nous avons vérifié si une variable d’entrée sert de proxy d’une caractéristique protégée (le code postal peut servir de proxy du statut socio-économique ou de l’origine ethnique ; un nom peut servir de proxy du genre ou de l’origine).
• Quelqu’un en dehors de l’équipe qui a construit ou acheté l’outil a relu ce contrôle.

Quand faire appel à une aide extérieure

• Le cas d’usage est de niveau Élevé (playbook 1) et touche au recrutement, au crédit ou à une autre décision réglementée.
• Le contrôle des biais ci-dessus fait apparaître un écart que vous ne pouvez pas expliquer.
• Vous n’êtes pas sûr qu’une AIPD soit légalement requise — un court appel à un juriste en protection des données vaut la peine avant le lancement, pas après.
• Vous traitez des données de santé, biométriques ou financières à un volume significatif.

Étapes suivantes

Documentez les réponses aux listes de contrôle de ce playbook dans la fiche de projet IA (playbook 6) — c’est l’enregistrement qui vous protège si une décision est un jour contestée. Si le contrôle des biais signale un écart réel, mettez le déploiement en pause et revenez au niveau de risque du playbook 1 avant de poursuivre.