Accueil
›
Section E — Éthique, risques et gouvernance
›
Explicabilité
L’anecdote de Jérôme · étape 5 de « Quand l’IA décide à votre place »
Antoine lui parle de la Loi 25. « Mon oncle, t’as le droit de savoir. T’as le droit de demander. T’as le droit de faire réviser. » Jérôme rédige une lettre à la Commission d’accès à l’information du Québec. Trois mois plus tard, sa banque lui répond. Le motif est ténu, contestable. Il fait appel. Il obtiendra son prêt.
Côté machine
L'explicabilité est la capacité d’un système d’IA à fournir une justification compréhensible de ses décisions. C’est l’antidote à la boîte noire . Au Québec, la Loi 25 oblige les organisations à informer les personnes concernées par une décision automatisée et à leur permettre de la faire réviser par un humain. Le droit de comprendre est devenu un droit légal.
Explicabilité
Équivalent anglais explainability, interpretability
Caractère d’un système d’IA dont les décisions ou les prédictions peuvent être justifiées et comprises par un être humain, dans des termes intelligibles. L’explicabilité est un enjeu central de la confiance et de la conformité réglementaire.
Note
Distinction subtile : l’interprétabilité concerne la transparence intrinsèque du modèle ; l’explicabilité concerne la capacité à fournir une justification a posteriori.
Exemple
Au Québec, la Loi 25 exige qu’un organisme informe la personne concernée d’une décision automatisée et lui fournisse, sur demande, les principaux facteurs et raisons ayant mené à cette décision.
Source OBVIA ; OQLF.
