AAIP – Hoofdstuk 17
Deep Learning Architecturen
17.1 Wat zijn deep learning architecturen?
Deep learning architecturen zijn gespecialiseerde structuren van neurale netwerken
die ontworpen zijn voor specifieke soorten data en taken.
Architectuur = de vorm, structuur en informatie‑stroom van een netwerk.
In dit hoofdstuk leer je:
- waarom verschillende taken verschillende architecturen nodig hebben,
- hoe CNN’s beelden verwerken,
- hoe RNN’s en LSTM’s sequenties begrijpen,
- hoe Transformers de wereld van AI hebben veranderd,
- hoe encoder‑decoder structuren werken,
- hoe moderne AI‑systemen worden opgebouwd.
17.2 Convolutionele Neurale Netwerken (CNN’s)
CNN’s zijn ontworpen voor beeldverwerking.
Ze gebruiken convoluties om patronen te detecteren zoals randen, vormen en objecten.
17.2.1 Convoluties
Een filter schuift over de afbeelding en detecteert lokale patronen.
17.2.2 Pooling
Verkleint de resolutie en behoudt belangrijke informatie.
17.2.3 Architecturen
- LeNet
- AlexNet
- VGG
- ResNet (met skip connections)
- EfficientNet
CNN’s zijn de standaard voor beeldherkenning.
17.3 Recurrente Netwerken (RNN’s)
RNN’s zijn ontworpen voor sequentiële data zoals tekst, audio en tijdreeksen.
17.3.1 Het geheugenprobleem
RNN’s onthouden informatie via recurrente verbindingen,
maar hebben moeite met lange afhankelijkheden.
17.3.2 LSTM’s & GRU’s
Deze varianten lossen het geheugenprobleem op via gates:
- input gate
- forget gate
- output gate
LSTM’s waren jarenlang de standaard voor taalmodellen.
17.4 Encoder‑Decoder Architecturen
Deze architecturen bestaan uit twee delen:
- Encoder – comprimeert input tot een representatie
- Decoder – genereert output op basis van die representatie
Toepassingen
- machinevertaling,
- samenvatten van tekst,
- spraak‑naar‑tekst,
- beeld‑naar‑tekst.
17.5 Transformers: de revolutie
Transformers hebben deep learning volledig veranderd.
Ze gebruiken self‑attention in plaats van recurrency.
17.5.1 Self‑Attention
Het model kijkt naar alle woorden tegelijk en bepaalt welke belangrijk zijn.
17.5.2 Multi‑Head Attention
Meerdere aandachtspatronen tegelijk → rijkere representaties.
17.5.3 Positional Encoding
Omdat Transformers geen volgorde hebben, wordt positie toegevoegd via sinus‑golven.
17.5.4 Bekende modellen
- BERT
- GPT‑familie
- T5
- Vision Transformers (ViT)
Transformers zijn de basis van moderne AI, inclusief LLM’s.
17.6 Autoencoders
Autoencoders leren data comprimeren en reconstrueren.
Toepassingen
- dimensiereductie,
- anomaliedetectie,
- beeldreconstructie,
- feature learning.
17.7 Generatieve Modellen
Generatieve modellen kunnen nieuwe data creëren.
Voorbeelden
- GAN’s (Generative Adversarial Networks)
- VAEs (Variational Autoencoders)
- Diffusion Models (zoals DALL·E en Stable Diffusion)
Generatieve AI is de toekomst van creativiteit en automatisering.
17.8 Reflectie‑opdracht
Beantwoord de volgende vragen schriftelijk:
- Wat is het belangrijkste verschil tussen CNN’s en RNN’s?
- Waarom zijn Transformers beter in lange afhankelijkheden?
- Noem een toepassing van encoder‑decoder modellen.
- Welke deep learning architectuur spreekt jou het meest aan en waarom?