AAIP – Hoofdstuk 32
Explainable AI (XAI)
32.1 Wat is Explainable AI?
Moderne AI‑modellen — vooral deep learning en LLM’s — zijn krachtig maar vaak ondoorzichtig.
Explainable AI (XAI) richt zich op het begrijpelijk maken van deze modellen, zodat mensen kunnen zien:
- waarom een model een beslissing neemt,
- welke factoren belangrijk waren,
- hoe betrouwbaar de voorspelling is,
- of er bias aanwezig is.
XAI maakt AI niet alleen slimmer — het maakt AI menselijker, veiliger en betrouwbaarder.
32.2 Waarom XAI belangrijk is
In domeinen zoals gezondheidszorg, financiën, overheid en rechtspraak is transparantie verplicht.
XAI helpt om:
- vertrouwen op te bouwen,
- bias te detecteren,
- fouten te vinden,
- modellen te verbeteren,
- regelgeving na te leven.
32.3 Lokale vs. globale uitlegbaarheid
Lokale uitlegbaarheid
Verklaart één specifieke voorspelling.
Bijvoorbeeld: “Waarom kreeg deze klant een lage kredietscore?”
Globale uitlegbaarheid
Verklaart het algemene gedrag van het model.
Bijvoorbeeld: “Welke features zijn het belangrijkst in dit model?”
32.4 Belangrijkste XAI‑technieken
1. Feature Importance
Laat zien welke variabelen het meest bijdragen aan een voorspelling.
2. SHAP‑waarden
Een van de meest gebruikte methoden.
SHAP toont exact hoeveel elke feature bijdraagt aan een voorspelling.
3. LIME
Maakt een lokaal interpreteerbaar model rondom één voorspelling.
4. Partial Dependence Plots (PDP)
Laat zien hoe één feature het model beïnvloedt.
5. Counterfactual Explanations
“Wat had er moeten veranderen om een andere uitkomst te krijgen?”
32.5 XAI voor deep learning & LLM’s
Beeldmodellen
- Grad‑CAM
- Saliency maps
- Integrated Gradients
LLM’s
- attention‑visualisatie,
- token‑belang analyse,
- reasoning‑traces,
- model‑gedragsanalyse.
32.6 Uitdagingen van XAI
- complexiteit van moderne modellen,
- trade‑off tussen nauwkeurigheid en uitlegbaarheid,
- mogelijke misinterpretatie door gebruikers,
- onvolledige of misleidende uitlegmethoden.
32.7 Reflectie‑opdracht
Beantwoord de volgende vragen schriftelijk:
- Waarom is uitlegbaarheid belangrijk in AI‑systemen?
- Welke XAI‑techniek spreekt jou het meest aan?
- Wanneer is lokale uitlegbaarheid nuttiger dan globale?
- Hoe zou jij XAI toepassen in een kritisch domein?