EExpert · deel E9 · Data science en AI

Oplossingen · hoofdstuk 43Neurale netwerken

Een netwerk leert door de kettingregel door iedere laag terug te rekenen

Uitgewerkte oplossingen bij de 10 opdrachten van het werkboek. Voor de leerkracht, en voor wie zichzelf wil verbeteren nadat hij het eerst zelf probeerde.

3× oefenen4× toepassen3× uitdagen± 405 min

AData en AI WWiskundig modelleren PProgrammeren en computationeel denken

Beschikbaar zonnevermogen vraagt instraling, temperatuur en een duidelijke systeemgrens.

Voor de leerkrachtDeze pagina bevat de antwoorden. Druk het werkboek af zonder deze pagina.

Oefenen

één stap, direct toepassen

43.1

Een neuron vooruit

Oefenen6Rekenen25 min

x=(1,2), w=(0,5;−0,2), b=0,1.

a
Bereken z, ReLU(z) en tanh(z).
z=0,5×1−0,2×2+0,1=0,2. ReLU=0,2; tanh=0,197375. De activaties veranderen de uitvoervorm en afgeleide.

43.2

Vormen en parameters

Oefenen6Rekenen25 min

Batch 20×3, verborgen laag vijf neuronen, lineaire uitvoer één.

a
Geef alle gewicht/biasvormen en parameter- en activatieaantallen.
W1=3×5, b1=5; W2=5×1, b2=1. Parameters 15+5+5+1=26. Verborgen activaties 20×5=100 en uitvoer 20×1=20. Batchgrootte verandert activatiegeheugen, niet parameteromvang.

43.3

Lineaire lagen

Oefenen6Begrijpen25 min

Drie affine lagen bevatten geen activatie.

a
Waarom maakt deze diepte de regressierelatie niet niet-lineair?
Substitutie vermenigvuldigt matrices en combineert biases. De totale functie blijft Ax+b. Niet-lineaire activaties of andere niet-lineaire bewerkingen zijn nodig voor een kromme relatie.

Toepassen

meerdere stappen, in een context

43.4

Backprop met één verborgen ReLU

Toepassen7Rekenen25 min

x=2, w1=0,3, b1=0,1, w2=0,5, b2=0; y=1; L=(ŷ−y)²/2.

a
Bereken forward en alle gradiënten, daarna één update met η=0,1.
z1=0,7, h=0,7, ŷ=0,35 en e=−0,65. dW2=e·h=−0,455; db2=−0,65. Omdat z1>0 is f′=1: δ1=e·w2=−0,325, dW1=δ1×2=−0,65 en db1=−0,325. Nieuw w1=0,365; b1=0,1325; w2=0,5455; b2=0,065. Alle gradiënten komen uit oude parameters.

43.5

Gradientcheck uitbreiden

Toepassen7Programmeren50 min

De code toetst één element van W1.

a
Toets alle parameters op een kleine batch met meerdere ε-waarden en een relatieve afwijking.
Loop over de vier parameterarrays en hun indices. Bewaar de oude waarde, bereken verlies bij ±ε en herstel haar. Vergelijk met de analytische gradiënt via |g−fd|/max(1e−8,|g|+|fd|). Herhaal bijvoorbeeld ε=1e−4,1e−5,1e−6. Grote afwijkingen kunnen bias-som, normalisatie, broadcast of voortijdig updaten aanwijzen; zeer kleine ε kan afronding vergroten.

43.6

Een leercurve lezen

Toepassen7Analyseren25 min

Train-MSE daalt van 0,01 naar 0,001; validatie-MSE stijgt na epoch 400 van 0,003 naar 0,008.

a
Kies een opslagregel en twee vervolgonderzoeken. Wat mag de test niet doen?
Sla de vooraf gedefinieerde beste validatie-epoch op; hier is een epoch nabij het minimum rond 400 kandidaat. Onderzoek modelcomplexiteit/regularisatie en dataverschuiving of groepslekken. Gebruik de eindtest eenmaal voor de vastgelegde keuze. Haar score mag geen nieuwe epoch of hyperparameter selecteren.

43.7

Een convolutioneel vak

Toepassen7Rekenen25 min

3×3-beeldvak met elke rij [0,0,1]; kernel met elke rij [−1,0,1]; bias 0.

a
Bereken uitvoer en ReLU. Geef de uitvoermaat voor een 4×4-beeld zonder padding.
Elke rij geeft 0+0+1=1, dus kruiscorrelatie=3 en ReLU=3. Bij stride 1 is ruimtelijke maat (4−3)+1=2: 2×2. Een echte mathematische convolutie draait de kernel om en geeft hier het tegengestelde teken.

Uitdagen

transfer, open problemen, leerlijnen combineren

43.8

PV-netwerk voor Habitat

Uitdagen9Habitat80 min

De planner vraagt een voorspelling van morgenopbrengst.

a
Definieer features, doel, grens, baselines en toetsing zonder toekomstlek.
Doel is morgen beschikbare DC-energie binnen een expliciete PV-grens. Archiveer op het planmoment weerprognose, temperatuurmodel, paneelconfiguratie en bekende storingen. Train op tijd- of seizoensblokken en toets op latere periodes. Vergelijk fysisch PV-model en lineaire regressie, met fout per donker/koud regime en ernstige overschattingen. De huidige NumPy-code schat vermogen uit gerealiseerd modelweer en bewijst die dag-vooruittaak niet.
b
Welke fysische en operationele voorwaarden blijven onafhankelijk?
Integreer vermogen met echte tijdstappen, houd clipping en geleverd vermogen apart en meld ontbrekende of vreemde invoer. Batterij-, laad- en actuatorgrenzen blijven bij hun eigen regelaar. Nieuwe versies draaien eerst in schaduwmodus met een model/scaler/datamanifest.

Zo wordt dit beoordeeld

doel	Energiehorizon en systeemgrens helder.
toetsing	Forecastarchief en aparte toekomsttest.
beheer	Fysische grenzen en schaduwmodus.

43.9

CNN tegen een verborgen lek

Uitdagen9Onderzoeken50 min

Veel foto's van dezelfde plant worden willekeurig over train en test verdeeld. Testaccuracy is 99%.

a
Ontwerp een toets die nieuwe planten, belichting en camera onderzoekt.
Split per plant en batch vóór augmentatie; houd een later seizoen of camera als aparte inzettest. Leer normalisatie op training. Toets gewijzigde belichting, montage en onbekende cultivar met onafhankelijke labels. Rapportage bevat matrix, onbalans, abstentie en foutkosten. De 99%-score kan hetzelfde blad of achtergrond herkennen en bewijst geen nieuwe-plantdiagnose.

43.10

Meer neuronen verdedigen

Uitdagen9Programmeren75 min

Vergelijk verborgen breedtes 4,12,40 bij dezelfde PV-dataset.

a
Voer een vooraf bepaalde modelvergelijking uit en maak het inzetbesluit reviewbaar.
Gebruik dezelfde train/validatie/testgrenzen en trainingsscaler. Kies optimizerinstellingen op training/validatie, gebruik meerdere vastgelegde seeds en vergelijk validatiefout, parameteraantal en rekentijd. Leg de winnende keuze vast vóór de test. Rapporteer daarna testfout tegen fysische en lineaire baselines. Een breder netwerk wint alleen als de onafhankelijke verbetering zijn reken- en beheerkosten rechtvaardigt.

Zo wordt dit beoordeeld

vergelijking	Gelijke data en vooraf gekozen selectie.
bewijs	Fout, complexiteit en seeds.
besluit	Manifest en modelgrenzen zichtbaar.