AAIP – Hoofdstuk 30
AI‑veiligheid & Risicobeheer
30.1 Waarom AI‑veiligheid essentieel is
Naarmate AI krachtiger wordt, neemt ook het risico toe op fouten, misbruik, manipulatie en onverwacht gedrag.
AI‑veiligheid richt zich op het voorkomen van schade, het beheersen van risico’s en het waarborgen van betrouwbare werking.
Een krachtig AI‑systeem zonder veiligheidskaders is een risico —
een krachtig AI‑systeem mét veiligheidskaders is een voordeel.
30.2 Typen AI‑risico’s
AI‑risico’s vallen in vier categorieën:
- Technische risico’s – fouten, hallucinaties, modeldrift.
- Operationele risico’s – verkeerde implementatie, slechte monitoring.
- Menselijke risico’s – misbruik, verkeerde interpretatie.
- Systemische risico’s – grootschalige impact op maatschappij of infrastructuur.
30.3 Veiligheidsprincipes voor AI‑systemen
1. Betrouwbaarheid
Het model moet consistent en voorspelbaar presteren.
2. Robuustheid
Het systeem moet bestand zijn tegen fouten, ruis en aanvallen.
3. Controleerbaarheid
Mensen moeten altijd de mogelijkheid hebben om in te grijpen.
4. Transparantie
Het moet duidelijk zijn hoe beslissingen tot stand komen.
5. Veiligheidsmonitoring
Continue evaluatie van gedrag, risico’s en afwijkingen.
30.4 Risicobeheer in AI‑projecten
Risicobeheer is een continu proces dat begint vóór de ontwikkeling en doorgaat tot ver na de deployment.
Belangrijke stappen
- risico‑identificatie,
- impactanalyse,
- mitigatieplanning,
- veiligheids‑testing,
- monitoring & incidentrespons.
30.5 Veiligheidsmaatregelen voor AI‑systemen
Technische maatregelen
- rate‑limiting,
- input‑sanitatie,
- model‑hardening,
- adversarial training.
Organisatorische maatregelen
- veiligheidsprotocollen,
- audit‑logs,
- toegangsbeheer,
- menselijke supervisie.
30.6 AI‑incidenten & respons
Wanneer een AI‑systeem onverwacht gedrag vertoont, moet er een duidelijk incidentproces zijn.
Stappen
- detectie,
- analyse,
- isolatie,
- oplossing,
- post‑mortem evaluatie.
30.7 Reflectie‑opdracht
Beantwoord de volgende vragen schriftelijk:
- Wat is volgens jou het grootste risico van moderne AI‑systemen?
- Welke veiligheidsmaatregel vind jij het belangrijkst?
- Hoe zou jij AI‑incidenten monitoren?
- Welke rol speelt menselijk toezicht in AI‑veiligheid?