EN
FR
ES
DE
XAI (eXplainable Artificial Intelligence) désigne les méthodes et techniques qui rendent les décisions des systèmes d'IA compréhensibles par les humains, un enjeu crucial pour la confiance et la conformité.
Qu'est-ce que XAI ?
XAI (eXplainable Artificial Intelligence ou IA Explicable) regroupe l'ensemble des méthodes permettant de rendre les décisions des systèmes d'intelligence artificielle compréhensibles et interprétables par les humains.
Pourquoi XAI est important ?
- Confiance : Comprendre pourquoi une IA donne une réponse
- Conformité : Exigences de l'AI Act européen sur la transparence
- Débogage : Identifier et corriger les biais
- Amélioration : Optimiser les modèles en comprenant leur fonctionnement
XAI et visibilité IA
Comprendre comment les IA "pensent" aide à optimiser le contenu :
- Les IA comme ChatGPT citent leurs sources de plus en plus souvent
- Perplexity affiche explicitement les sources utilisées
- Claude peut expliquer son raisonnement
Techniques XAI courantes
- LIME : Explications locales interprétables
- SHAP : Valeurs de Shapley pour l'importance des features
- Attention maps : Visualisation de l'attention dans les transformers
- Chain-of-thought : Raisonnement étape par étape
XAI et AI Act
Le règlement européen AI Act impose des exigences de transparence pour les systèmes IA à haut risque, rendant XAI indispensable pour la conformité.