CAN-ASC-6.2: Systèmes d’intelligence artificielle accessibles et équitables - Avis d’intention
Avis d’intention
Le présent avis annonce l’intention de Normes d’accessibilité Canada d’élaborer une nouvelle norme d’accessibilité. L’intention de l’avis est d’éviter toute répétition inutile dans l’élaboration de normes.
L’avis s’adresse aux autres organismes responsables de l’élaboration des normes et au public. Cet avis définit :
- la portée de la norme proposée;
- la raison d’être du projet;
- la période pendant laquelle le public peut envoyer des commentaires au sujet de la norme proposée.
Organisation d’élaboration de normes
Normes d’accessibilité Canada
Coordonnées
Courriel : Info.Accessibility.Standards-Normes.Accessibilite.Info@canada.gc.ca
Adresse postale :
320, boulevard St-Joseph, bureau 246
Gatineau (Québec) K1A 0H3
No de téléphone : 1-833-854-7628
Programme de travail
Le programme de travail dresse une liste de toutes les normes en cours d’élaboration et des normes terminées produites par Normes d’accessibilité Canada.
Numéro de référence
CAN-ASC-6.2
Catégorie de norme
Norme nationale du Canada – Norme canadienne
Type d’activité d’élaboration de normes
Nouvelle norme
Codes ICS
03.100 – Organisation et gestion dʼentreprise. Systèmes de management
35.020 – Technologies de lʼinformation en général
35.040 – Codage de lʼinformation
35.080 – Logiciels
35.100 – Interconnexion des systèmes ouverts
35.240 – Applications des technologies de lʼinformation
Date de début de la période de commentaires
7 mars, 2023
Date de fin de la période de commentaires
28 mars, 2023
Portée
L’objectif de la norme CAN-ASC-6.2 est de s’assurer que les exigences techniques d’une norme en matière des systèmes d'intelligence artificielle sont fondées sur l’équité. Cela nécessite d’aller au-delà des spécifications techniques minimales.
Il existe des domaines communs où les personnes en situation de handicap peuvent faire face à des obstacles liés aux systèmes d’intelligence artificielle. Ceux-ci incluent :
1. Systèmes d’intelligence artificielle accessibles
Les personnes en situation de handicap doivent être en mesure de participer à l’économie de l’intelligence artificielle. Cette norme exigera que les obstacles soient éliminés dans plusieurs domaines. Elle vise entre autres les obstacles liés à la participation, à la conception, au développement et à la mise en œuvre, à l’utilisation et à l’amélioration des systèmes d’intelligence artificielle. Elle inclut également les obstacles à l’évaluation (ou à l’obtention d’une évaluation par) de tels systèmes. Ceci inclue des outils relatifs :
- à la visualisation des données
- à la programmation et au codage
- aux produits et aux outils commercialisés qui comprennent des processus d’intelligence artificielle
- aux systèmes de rétroaction des clients et à la vérification.
2. Systèmes d’intelligence artificielle équitables
Cette norme :
- exigera que les systèmes d’intelligence artificielle traitent les personnes en situation de handicap de manière équitable
- couvrira toutes les parties du cycle de vie du système d’intelligence artificielle
- fournira des conseils sur l’élimination des préjugés systémiques à l’encontre des personnes en situation de handicap.
Les biais dans les systèmes d’intelligence artificielle peuvent conduire à un traitement inéquitable des personnes handicapées. Ceci peut se produire dans les données, l’étiquetage, la formation et les algorithmes. Ceci peut aussi survenir lors du déploiement ou de l’évaluation des systèmes d’intelligence artificielle.
La norme fournira des orientations qui se rapportent plus particulièrement aux personnes en situation de handicap relativement aux aspects suivants :
- l’exactitude, notamment relativement à la mésinformation et à la désinformation
- les biais, y compris les biais statistiques
- l’équité dans les résultats et les processus
- la sécurité et la sûreté
- la surveillance et la protection de la vie privée
- la protection contre le mauvais usage des données et les abus
- la transparence et la responsabilisation
- la capacité d’action (contrôle) et le consentement éclairé
- le choix dans la manière d’appliquer l’intelligence artificielle
- le contrôle et le processus décisionnel par l’humain
- le jugement humain dans le processus décisionnel
- les préjudices cumulés.
3. Processus pour la mise en œuvre de systèmes d’intelligence artificielle accessibles et équitables
Les organisations ont besoin de processus pour mettre en place des systèmes d’intelligence artificielle accessibles et équitables. Cette norme fournira des conseils sur la manière de le faire. Ces processus comprennent :
- la planification et la justification de l’utilisation de l’intelligence artificielle
- l’évaluation des impacts
- la surveillance de l’éthique,
- la conception, le développement, l’achat et/ou la personnalisation de systèmes d’intelligence artificielle
- la formation des utilisateurs et des opérateurs
- l’accès à des approches alternatives.
Cela comprend aussi des processus relatifs à :
- la transparence, la responsabilisation et le consentement
- la rétroaction, les plaintes, les recours (remèdes) et les appels
- l’examen, le perfectionnement et la finalisation.
Raison d’être du projet
Normes d’accessibilité Canada (NAC) a été créé sous le régime de la Loi canadienne sur l’accessibilité. Son mandat est de prévenir, de cerner et d’éliminer les obstacles à l’accessibilité pour les Canadiens en situation de handicap. Pour ce faire, l’organisme élabore des normes fondées sur les besoins des personnes en situation de handicap. La consultation de Canadiens handicapés permet de cerner ces besoins. Parmi les personnes consultées, il y a les membres du conseil d’administration de Normes d’accessibilité Canada, dont la plupart sont des personnes en situation de handicap. Le conseil d’administration a approuvé l’élaboration de la présente norme.
Lorsque Normes d’accessibilité Canada élabore des normes, il suit le principe de « rien sans nous ». Cela signifie que des personnes en situation de handicap participent au processus d’élaboration des normes :
- Les normes sont élaborées à partir de recherches menées par des personnes en situation de handicap ou ayant une expérience vécue.
- Des personnes en situation de handicap sont membres des comités techniques de l’organisation. Ces comités établissent des exigences fondées sur l’équité qui prennent en considération les besoins et les points de vue des personnes en situation de handicap.
- Le processus d’examen public pour la présente norme sera accessible. Ainsi, un plus grand nombre de personnes en situation de handicap pourront prendre part au processus d’élaboration de la norme.
L’utilisation de systèmes d’intelligence artificielle comporte des possibilités et des risques. Les personnes en situation de handicap sont confrontées aux deux extrêmes. Elles peuvent être confrontées à des obstacles et à des discriminations dans tous les aspects de ces systèmes. De plus, les outils qui permettent de participer à ces systèmes ne sont pas accessibles à de nombreuses personnes en situation de handicap.
Les personnes en situation de handicap sont très différentes les unes des autres. Cependant, leurs données sont souvent regroupées, ou elles sont considérées comme hors norme (cas unique). Elles sont aussi considérées comme une minorité négligeable. Elles ne sont pas comprises, ou elles sont mal comprises. Les systèmes d’intelligence artificielle peuvent les classer dans la catégorie « non optimale ». Les actuelles protections liées à l’éthique de l’intelligence artificielle ne tiennent pas suffisamment compte des préjudices et des obstacles auxquels sont confrontées les personnes en situation de handicap.
La norme proposée est nécessaire pour :
- prévenir les préjudices qui pourraient être causés par les systèmes d’intelligence artificielle
- permettre aux personnes en situation de handicap d’avoir accès à ces systèmes et d’être traitées de manière équitable
- compléter et améliorer les orientations et directives actuelles
- soutenir la mise en œuvre éthique des systèmes d’intelligence artificielle.
Date de l’affichage
Affiché dans le Système de notification centralisé du Conseil canadien des normes le 1er mars 2023.