XAI (eXplainable Artificial Intelligence) bezeichnet die Methoden und Techniken, die Entscheidungen von KI-Systemen für Menschen verständlich machen — ein entscheidendes Thema für Vertrauen und Compliance.
Was ist XAI?
XAI (eXplainable Artificial Intelligence oder Erklärbare KI) umfasst alle Methoden, die Entscheidungen von Systemen der künstlichen Intelligenz für Menschen verständlich und interpretierbar machen.
Warum ist XAI wichtig?
- Vertrauen: Verstehen, warum eine KI eine Antwort gibt
- Compliance: Anforderungen des europäischen AI Act an Transparenz
- Debugging: Vorurteile identifizieren und korrigieren
- Verbesserung: Modelle durch Verständnis ihrer Funktionsweise optimieren
XAI und KI-Sichtbarkeit
Zu verstehen, wie KIs „denken", hilft bei der Content-Optimierung:
- KIs wie ChatGPT zitieren ihre Quellen immer häufiger
- Perplexity zeigt die verwendeten Quellen explizit an
- Claude kann seine Argumentation erklären
Gängige XAI-Techniken
- LIME: Lokale interpretierbare Erklärungen
- SHAP: Shapley-Werte für die Feature-Importance
- Attention Maps: Visualisierung der Aufmerksamkeit in Transformern
- Chain-of-Thought: Schrittweises Argumentieren
XAI und AI Act
Die europäische AI-Act-Verordnung stellt Transparenzanforderungen an Hochrisiko-KI-Systeme, was XAI für die Compliance unverzichtbar macht.