Playbook 4 — Transparence et information
Les obligations de l'article 50, en vigueur dès maintenant
Les obligations de transparence sont la partie de l’AI Act dans laquelle la plupart des PME sont déjà, et la plupart sont en infraction sans avoir pris la moindre décision à ce sujet. Les obligations sont en vigueur, et elles s’appliquent aux systèmes à risque limité — le niveau qu’une entreprise est le plus susceptible d’exploiter réellement.
Trois obligations comptent à l’échelle d’une PME, et ce sont toutes des problèmes d’information, pas des problèmes de modèle. C’est ce qui les rend peu coûteuses à corriger et faciles à oublier.
La première est la divulgation de l’interaction. Si une personne parle à une IA — un chatbot d’assistance, un assistant vocal, un agent automatisé — elle doit être informée qu’il s’agit d’une IA, sauf si le contexte le rend évident. La plupart des entreprises supposent que c’est évident. C’est évident pour ceux qui l’ont construit ; ce ne l’est pas toujours pour un client à 23 h qui ne sait pas s’il est dans une file d’attente pour un humain.
La deuxième est l’étiquetage des contenus. Les contenus générés ou manipulés par IA — images, audio, vidéo et textes publiés là où ils pourraient induire en erreur — doivent être signalés comme tels. C’est ici que les exigences de filigrane de l’Act mordent, et elles prennent effet à une échéance proche, quelle que soit la taille de l’entreprise. La version pratique pour une PME est une règle pour tout ce qui est publié à l’extérieur : si c’est généré ou sensiblement modifié par IA, cela porte un label.
La troisième est la divulgation de la reconnaissance des émotions ou de la catégorisation biométrique. Si un système déduit une émotion ou catégorise des personnes à partir de données biométriques, les personnes concernées doivent être informées. Peu de PME exploitent cela, mais certaines le font, souvent sans y voir un usage réglementé — un outil qui lit le ton lors d’appels d’assistance, ou qui analyse le sentiment à partir de visages dans une salle.
Le mécanisme mérite d’être vu clairement. Aucune de ces obligations ne vous demande de changer ce que fait le système. Elles vous demandent de dire ce qu’il fait. C’est pourquoi ce sont les mauvaises choses à reporter : la correction tient à une phrase, un label et une ligne dans une politique, et l’exposition tient à une plainte qui commence quand un client découvre ce que vous n’avez pas dit.
Une vérification de la divulgation :
- Chaque interaction avec l’IA face à un client informe la personne qu’il s’agit d’une IA.
- Tout contenu généré ou modifié par IA publié à l’extérieur porte un label.
- Tout usage de reconnaissance des émotions ou biométrique est divulgué aux personnes concernées.
- La règle est écrite, pour qu’elle survive à la personne qui s’en souvenait.
- Quelqu’un est chargé de rester à jour, car les règles d’étiquetage et les dates ont déjà bougé une fois.
Ceci est une information générale, pas un avis juridique.
Suite : le playbook 5 rassemble tout cela dans un seul fichier qui prouve le travail.