EN
FR
ES
DE
XAI (eXplainable Artificial Intelligence) designa los métodos y técnicas que hacen comprensibles para los humanos las decisiones de los sistemas de IA, un reto crucial para la confianza y la conformidad.
¿Qué es XAI?
XAI (eXplainable Artificial Intelligence o IA Explicable) agrupa el conjunto de métodos que permiten hacer comprensibles e interpretables por los humanos las decisiones de los sistemas de inteligencia artificial.
¿Por qué XAI es importante?
- Confianza: Comprender por qué una IA da una respuesta
- Conformidad: Exigencias del AI Act europeo sobre transparencia
- Depuración: Identificar y corregir los sesgos
- Mejora: Optimizar los modelos comprendiendo su funcionamiento
XAI y visibilidad IA
Comprender cómo "piensan" las IA ayuda a optimizar el contenido:
- Las IA como ChatGPT citan sus fuentes cada vez más a menudo
- Perplexity muestra explícitamente las fuentes utilizadas
- Claude puede explicar su razonamiento
Técnicas XAI habituales
- LIME: Explicaciones locales interpretables
- SHAP: Valores de Shapley para la importancia de las features
- Attention maps: Visualización de la atención en los transformers
- Chain-of-thought: Razonamiento paso a paso
XAI y AI Act
El reglamento europeo AI Act impone exigencias de transparencia para los sistemas IA de alto riesgo, haciendo XAI indispensable para la conformidad.
Cada pregunta hecha a ChatGPT sin su nombre en la respuesta es un competidor recomendado en su lugar — medido sobre 6 820 respuestas reales de IA.