Handboek · hoofdstuk 44AI verantwoord inzetten
Een overtuigende uitkomst vraagt bewijs, begrensde bevoegdheid en verantwoordelijkheid
Een AI kan een logboek samenvatten of energie voorstellen, maar een fout kan ook bewoners of installatie raken. Je onderzoekt hoe generatieve modellen werken, welke bewijsgrenzen ze hebben en hoe het station een verantwoord besluit over inzet neemt.
- Je kan taal- en beeldgeneratie in hoofdlijnen uitleggen en begrenzen.
- Je kan bias, uitlegbaarheid en betrouwbaarheid met concrete toetsen beoordelen.
- Je kan persoonsgegevens en trainingsdata doelgericht beheren.
- Je kan energiegebruik met een expliciete systeemgrens berekenen.
- Je kan de EU AI-verordening op peildatum 30-09-2026 onderscheiden van oude voorstellen en een eigen inzetbesluit onderbouwen.
Een AI-taak begint bij het gevolg
‘Gebruik AI’ is geen eis. Kies een taak: een log samenvatten, een plant voor inspectie voorstellen of morgen energie reserveren. Leg vast wie de uitkomst gebruikt en wat een fout veroorzaakt. Een onjuiste samenvatting vraagt correctie; een fout warmtecommando kan schade veroorzaken. Dezelfde modelnaam kan dus heel verschillende inzetvragen hebben.
Schrijf doel, invoer, uitvoer, beslissing, bevoegde eigenaar en terugval. Vergelijk een eenvoudiger alternatief. Een groter model verdient geen extra actorrechten alleen omdat zijn tekst beter klinkt. Bewaar naast nuttigheid ook foutkosten, privacy, milieu en de mogelijkheid om een besluit te herstellen.
| taak | toegestane rol | foutgevolg |
|---|---|---|
| logsamenvatting | concept met broncontrole | verkeerde onderhoudskeuze |
| plantclassificatie | inspectievoorstel | gemist probleem of overinspectie |
| energiepredictie | begrensd planningsvoorstel | verkeerde reserve |
| veiligheidsactie | onafhankelijk lokaal pad | gevaar bij fout |
Taalmodellen voorspellen tokens
Een autoregressief taalmodel modelleert . Tokens zijn subwoorden, tekens of andere gekozen teksteenheden. Training leert parameters uit veel voorbeelden. Een Transformer gebruikt attention om informatie uit beschikbare posities te combineren. Causale masking voorkomt dat een volgende tekstpositie tijdens de next-tokenvoorspelling wordt bekeken.
Invoer wordt getokeniseerd en naar vectoren omgezet. Attention vormt query-, key- en valuevectoren, vergelijkt scores en maakt gewogen contextvectoren. Daarna volgen verdere lagen en uitvoerscores. De primaire Transformerbron is Vaswani et al., Attention Is All You Need (2017). Dit beschrijft de architectuur; het is geen garantie op actuele feiten of correcte berekeningen.
Een tokenkans is geen waarheidskans
- softmax met temperatuur 1 of 0,5
- kansverdeling en interpretatie
- 1Bij temperatuur 1 zijn kansen 0,665241; 0,244728; 0,090031. Zij tellen op tot één.
- 2Bij 0,5 wordt de verdeling 0,866813; 0,117310; 0,015876. De hoogste score wordt vaker gekozen.
- 3De scores rangschikken tekstvoortzetting binnen het model. Zij zeggen niet dat een genoemde sensorwaarde met 86,7% kans waar is. Minder variatie kan dezelfde fout consequenter herhalen.
Instructies, bronnen en gereedschap veranderen het pad
Voortraining leert algemene tekstpatronen; aanvullende training en menselijke feedback kunnen instructiegedrag verbeteren. Voorbeelden in een prompt kunnen de actuele taak sturen zonder alle modelgewichten opnieuw te leren. Primaire bronnen zijn Brown et al., Language Models are Few-Shot Learners (2020) en Ouyang et al., Training language models to follow instructions with human feedback (2022).
Een stationsassistent kan gecontroleerde documenten ophalen en berekeningen door een rekenroutine laten uitvoeren. Dat maakt verifieerbare bronnen mogelijk, maar ophalen kan het verkeerde document selecteren en tekst kan een fout samenvatten. Een externe pagina is bronmateriaal, geen bevoegdheid om actuatorrechten te wijzigen. Laat gestructureerde uitvoer door schema-, bereik-, tijd- en rolcontroles gaan en bewaar welke bron een feit ondersteunt.
| stap | afzonderlijke toets |
|---|---|
| ophalen | juiste document en versie |
| rekenen | uitvoer met bekende invoer |
| samenvatten | claim steunt op bron |
| handelen | rol, tijd, bereik en modus |
Beeldgeneratoren leren een verdeling
Een diffusievoorbeeld voegt tijdens training ruis aan een beeld toe: . Een netwerk leert een taakpassende ruis- of herstelvoorspelling. Generatie begint met ruis en voert opeenvolgende herstelstappen uit; een tekstconditionering kan de gewenste beeldinhoud sturen.
De primaire bron is Ho, Jain en Abbeel, Denoising Diffusion Probabilistic Models (2020). Het resultaat hoeft geen exacte kopie van een trainingsbeeld te zijn, maar dat betekent niet dat memorisatie of ongewenste reproductie onmogelijk is. Een gegenereerde stationsfoto is een illustratie. Zij bewijst geen montage, ziekte, meting of historische gebeurtenis. Technische maten, labels en schakelingen vragen afzonderlijke exacte tekeningen.
Drie claims daadwerkelijk narekenen
De kleine attentionmatrix, groepsfouten en energieboekhouding worden in NumPy uitgevoerd. Het is geen getraind taalmodel. De energiecijfers zijn expliciete aannamen en geen meting van een aanbieder. De code helpt onderscheiden wat een algoritme, een toetsdataset en een systeemgrens elk kunnen aantonen.
import numpy as npdef softmax(z): z=np.asarray(z,dtype=float); e=np.exp(z-z.max(axis=-1,keepdims=True)) return e/e.sum(axis=-1,keepdims=True)for temp in (1.,.5): print("temperatuur",temp,"kansen",np.round(softmax(np.array([2.,1.,0.])/temp),6))# Klein causaal attentionvoorbeeld; geen getraind taalmodel.Q=np.array([[1.,0.],[0.,1.],[1.,1.]])K=Q.copy(); V=np.array([[1.,0.],[0.,2.],[3.,1.]])score=Q@K.T/np.sqrt(2)score[np.triu_indices(3,1)]=-1e9A=softmax(score)print("causale attention",np.round(A,3))print("contextvectoren",np.round(A@V,3))# Onafhankelijke rekenproef van een toetsrapport.groepen={"helder":[76,4,1,19],"schaduw":[72,8,8,12]}for naam,(tn,fp,fn,tp) in groepen.items(): print(naam,"recall",round(tp/(tp+fn),3),"FPR",round(fp/(fp+tn),3))alles=np.sum(list(groepen.values()),axis=0)tn,fp,fn,tp=allesprint("aggregaat recall",tp/(tp+fn),"precisie",tp/(tp+fp))# Energie: uitsluitend veronderstelde boekhoudwaarden.training_kwh=1200; levensduur_outputs=10_000_000train_wh=training_kwh*1000/levensduur_outputsit_wh=.020; pue=1.2; netwerk_wh=.006per_output=train_wh+it_wh*pue+netwerk_whprint("Wh/output",per_output,"kWh/jaar bij200perdag",per_output*200*365/1000)print("apart continu apparaat5W",5*24*365/1000,"kWh/jaar")temperatuur 1.0 kansen [0.665241 0.244728 0.090031] temperatuur 0.5 kansen [0.866813 0.11731 0.015876] causale attention [[1. 0. 0. ] [0.33 0.67 0. ] [0.248 0.248 0.503]] contextvectoren [[1. 0. ] [0.33 1.34 ] [1.759 1. ]] helder recall 0.95 FPR 0.05 schaduw recall 0.6 FPR 0.1 aggregaat recall 0.775 precisie 0.7209302325581395 Wh/output 0.15 kWh/jaar bij200perdag 10.95 apart continu apparaat5W 43.8 kWh/jaar
Bias zit ook vóór en na het model
Een dataset kan te weinig schaduwplanten bevatten; een label kan aan de ene batch strenger worden toegekend; een camera kan alleen in één kaspositie scherp zijn. Een model kan daarna de afwijking leren. Inzet kan opnieuw selecteren: alleen voorgestelde planten worden onderzocht, zodat gemiste problemen onzichtbaar blijven.
Definieer relevante groepen vanuit de taak en toets prestaties per groep met aantallen en onzekerheid. Kies niet achteraf alleen de gunstige doorsnede. Voor persoonsbesluiten komen ook mogelijke ongelijke gevolgen en grondrechten in beeld. Een gemiddelde score kan een zwakke groep verbergen. Een even hoge score voor alle groepen is evenmin voldoende als het label of de taak zelf ongeschikt is.
| fase | mogelijke vertekening | controle |
|---|---|---|
| verzamelen | te weinig schaduw | dekking per omgeving |
| labelen | verschillende criteria | blinde referentie |
| trainen | dominante meerderheid | groepsfout en onbalans |
| inzetten | alleen meldingen geverifieerd | steekproef onder niet-meldingen |
Het aggregaat verbergt schaduw
- helder TP=19,FN=1,FP=4,TN=76
- schaduw TP=12,FN=8,FP=8,TN=72
- recall per groep en totaal
- 1Heldere groep: recall=19/20=95%; schaduw: 12/20=60%.
- 2Totaal: TP=31,FN=9, dus recall=31/40=77,5%. Totale precisie=31/(31+12)=72,09%.
- 3Het totaal beschrijft geen van beide groepen goed. Onderzoek data, meetkwaliteit en labelherkomst vóór een oplossing. De kleine aantallen vragen nieuwe toetsdata.
Uitlegbaarheid is informatie voor een gebruiker
Een coefficient, beslisregel, voorbeeldbuur of featurebijdrage kan helpen begrijpen waarom een voorstel kwam. Een achteraf geschreven reden door een taalmodel is niet vanzelf de werkelijke oorzaak in het netwerk. Een uitleg moet trouw zijn aan de gebruikte beslisroute en relevant voor degene die de fout kan ontdekken.
Een operator heeft andere vragen dan een ontwikkelaar: welke bron is oud, wat gebeurt bij weigering en hoe kan de actie hersteld worden? Toon meettijd, modelversie, onzekerheidsstatus en begrenzing. Featurebelang bewijst geen causaliteit en kan misleidend zijn bij gecorreleerde features. Toets daarom ook met gecontroleerde veranderproeven en onafhankelijke waarnemingen.
| uitlegonderdeel | gebruiker kan controleren |
|---|---|
| bron en tijd | actualiteit |
| invoerbereik | extrapolatie |
| versie en regel | reproduceerbaarheid |
| alternatief en terugval | besluit herstellen |
Betrouwbaarheid vraagt het complete beslispad
Een goede modelscore is slechts één schakel. Invoer kan ontbreken, het netwerk kan uitvallen, een voorstel kan verlopen en een actuator kan weigeren. Toets gewone omstandigheden, zeldzame regimes en fouten. Leg vooraf vast wat acceptabel is en waar het systeem zich onthoudt van een voorstel.
Een mens in de lus werkt alleen als die tijd, informatie en bevoegdheid heeft om te corrigeren. Een automatische actie gevolgd door een onduidelijk scherm is geen werkelijke controle. Het station laat AI voorstellen aan een supervisor; de lokale eigenaar bewaakt tijd, bereik en modus. Onafhankelijke alarm- en beveiligingspaden krijgen hun eigen ontwerp en testen.
Een review die echt kan weigeren
- contract bevat modus en vervaltijd
- operator ziet bron/tijd/alternatief
- controlepad
- 1Verifieer identiteit, eenheid, meettijd, voorstel-ID, modelversie, modus en vervaltijd. Een verlopen of verkeerd-modusvoorstel wordt geweigerd vóór activering.
- 2De supervisor geeft reden en bewaart het vorige geldige regime. De operator kan alleen binnen eigen bevoegdheid een nieuw voorstel maken; een modelzin verandert geen hardwarelimiet.
- 3Toets het pad met netwerkverlies, replay, dubbele ID en herstart. Controleer ook dat een weigering geen lokale regeltaak blokkeert.
Privacy volgt doel en gegevens
Een bladtemperatuur zonder koppeling aan personen is iets anders dan een bewonerslog met aanwezigheid, gezondheid of stemopnamen. Identificeer persoonsgegevens, doel en rechtsgrond. Verzamel alleen wat nodig is, stel bewaartermijnen en toegang vast en informeer betrokkenen. Een nieuw trainingsdoel moet afzonderlijk worden beoordeeld.
Pseudoniemen maken data niet automatisch anoniem: een sleutel of patroon kan koppeling herstellen. Let bij externe verwerking op afspraken, opslag, doorgifte, toegang en de vraag of gegevens opnieuw worden gebruikt. De AVG en de Commissie-uitleg van de gegevensbeginselen blijven naast de AI-verordening gelden. Deze gegevenskeuzen gaan vooraf aan upload of training. Een synthetische dataset kan ontwikkeling helpen, maar geeft geen bewijs van privacy als zij herleidbare voorbeelden reproduceert.
| veld | doelgebonden keuze |
|---|---|
| bewoners-ID | nodig? zo ja, beperkte koppeling |
| ruwe audio | bewaren alleen met duidelijk doel |
| sensorreeks | bewaar kwaliteit en versie |
| toegang | rollen en audit |
| verwijdering | termijn en uitvoerbaar proces |
EU AI-verordening: peildatum is deel van het bewijs
Stand 30-09-2026: de AI-verordening is Verordening (EU) 2024/1689, gewijzigd door Verordening (EU) 2026/1744. De wijziging trad op 27-07-2026 in werking. De Omnibus was een voorstel van 19-11-2025 en kreeg politiek akkoord op 07-05-2026; op deze peildatum is de vastgestelde wijziging dus relevant, niet alleen het oude voorstel.
De algemene toepassingsdatum is 02-08-2026, met uitzonderingen. GPAI- en governancebepalingen begonnen op 02-08-2025; de oorspronkelijke verboden praktijken en AI-geletterdheid op 02-02-2025. Voor de betrokken hoogrisicoregels van Annex III geldt nu 02-12-2027; voor productgebonden hoogrisico-AI onder Annex I 02-08-2028. Zie Europese Commissie: actuele tijdlijn en de geconsolideerde tekst van 27-07-2026, met artikel 113.
| regelgroep | toepassing volgens huidige tijdlijn |
|---|---|
| oorspronkelijke verboden/geletterdheid | 02-02-2025 |
| GPAI en governance | 02-08-2025 |
| algemene regels/transparantie | 02-08-2026, met overgangsbepalingen |
| hoogrisico Annex III | 02-12-2027 |
| hoogrisico productroute Annex I | 02-08-2028 |
Een wet kan al bestaan terwijl specifieke verplichtingen pas later gelden. Bewaar de gebruikte versie en controleer bij een werkelijk inzetbesluit de dan geldende tekst.
De rol bepaalt welke verplichting je onderzoekt
- dienstverlener levert model
- station bepaalt zijn eigen gebruik
- rol- en scopeonderzoek
- 1Onderscheid aanbieder van het algemene model, aanbieder van een concrete AI-toepassing en gebruiksverantwoordelijke. Een gebruiksdoel of belangrijke wijziging kan de rol beïnvloeden.
- 2Onderzoek beoogd doel, gebruikers, betrokken personen, outputpublicatie en koppeling aan producten of kritieke veiligheidsfuncties. ‘AI aanwezig’ maakt niet iedere interne notitie automatisch hoogrisico.
- 3Bewaar de beoordeling met bronversie en verantwoordelijke. Herhaal haar wanneer doel, functies of doelgroep veranderen.
Transparantie en hoog risico zijn verschillende vragen
Artikel 50 bevat specifieke transparantieplichten, onder meer rond menselijke interactie met AI en bepaalde synthetische inhoud, met voorwaarden en uitzonderingen. Aanbieders en gebruiksverantwoordelijken hebben verschillende taken. Voor bestaande generatieve systemen van vóór 02-08-2026 kent artikel 111(4) een overgang tot 02-12-2026 voor artikel 50(2). Dat verschuift niet alle transparantieplichten.
Hoog risico hangt onder meer af van artikel 6 en de bijlagen. Een veiligheidscomponent in kritieke infrastructuur of een productroute vraagt ander onderzoek dan een plantinspectievoorstel. De nieuwe tekst van artikel 4 verlangt ondersteunende maatregelen voor AI-geletterdheid, geen garantie op een bepaald individueel kennisniveau. Voor deze les wordt geen automatische juridische kwalificatie of conformiteitsverklaring afgegeven. Bron: AI-verordening, artikelen 4,6,50,111 en 113, gelezen op 30-09-2026. De Commissie-FAQ over artikel 50 licht de verschillende rollen toe.
| onderzoek | bewijsstuk |
|---|---|
| transparantie | interactie, synthetische inhoud en rol |
| hoog risico | beoogd doel, artikel 6 en bijlage |
| overgang | exact artikel en plaatsingsdatum |
| geletterdheid | ondersteunende maatregelen |
Energieboekhouding houdt training en gebruik apart
AI gebruikt energie voor training, inferentie, opslag, netwerk en ondersteunende infrastructuur. PUE is totale datacentrumenergie gedeeld door IT-energie; vermenigvuldig een IT-meting daarmee alleen als die infrastructuur nog niet in de meting zit. Deel trainingsenergie over een expliciete levensduur of aantal nuttige uitvoerproducten. Een nieuw trainingsrondje hoort opnieuw in de inventaris.
De IEA, Energy and AI (2025) schat alle datacentrumstroom in 2024 op ongeveer 415 TWh. Dat is geen AI-onlycijfer en geen universeel verbruik per vraag. Model, hardware, uitvoerlengte, batching en systeemgrens verschillen. CO₂-equivalent vraagt daarnaast een passende elektriciteitsmix en hardwarelevenscyclus. Geraadpleegd 30-09-2026.
Een verondersteld energiebudget
- 200 uitvoerproducten per dag
- alle cijfers zijn rekenaannamen
- energie per uitvoer en jaar
- 1Trainingstoerekening=1200×1000/10000000=0,120 Wh. Inferentie inclusief infrastructuur=0,024 Wh. Totaal=0,150 Wh per uitvoer.
- 2200×365×0,150/1000=10,95 kWh/jaar. Hardwareproductie en eventuele nieuwe training zijn nog niet inbegrepen.
- 3Een afzonderlijk continu apparaat van 5 W gebruikt 43,8 kWh/jaar. Is het al nodig voor andere taken, kies een verantwoorde toerekening in plaats van dubbel tellen.
Een eigen afwegingskader heeft harde grenzen
Het team beantwoordt vijf vragen: welk doel en alternatief; welk bewijs en welke onzekerheid; welke gevolgen voor personen en installatie; welke data- en rechtsvoorwaarden; welke herstelbare bevoegdheid en eigenaar. Een goedkope oplossing met ontbrekende rechtsgrond of onbeheerste gevaarlijke actie wint niet door een goede totaalscore.
Maak daarna een proportionele vergelijking van nuttigheid, foutkosten, energie en beheerlast. Leg proefcriteria vooraf vast, begin in schaduwmodus en onderhoud een incident- en wijzigingsprocedure. Het vrijwillige NIST AI Risk Management Framework ondersteunt risicobeheer; het is geen vervanging van Europees recht. Deze les gebruikt een eigen stationskader, met concrete toetsbare besluiten.
| poort | vereist bewijs |
|---|---|
| doel | meerwaarde tegen eenvoudig alternatief |
| data/recht | herkomst, toestemming of andere passende grond, rollen |
| gevolg | foutscenario en herstel |
| model | aparte test, regimes en versie |
| actie | begrenzing, eigenaar en terugval |
Het station kiest een beperkte eerste inzet
In een fictieve ontwerpbespreking wil de planner de klimaatregelaar laten vervangen door één generatieve agent. Het team splitst de vraag in taken. Logsamenvattingen kunnen met broncontrole worden gebruikt; energiepredicties worden in schaduwmodus met een basislijn vergeleken. De bestaande lokale regeling en alarmen blijven eigen systeemfuncties.
Het besluit is geen algemene uitspraak dat AI altijd ongeschikt of geschikt is. Het is een onderbouwde bevoegdheid voor een bepaalde versie, taak en proefgebied. Het team noteert welke prestatie later uitbreiding zou kunnen rechtvaardigen en welke gebeurtenis terugkeer naar de basisstrategie verplicht. Zo is ‘verantwoord’ een controleerbare werkwijze in plaats van een geruststellend bijvoeglijk naamwoord.
Bronnen en beslisbewijs
| bron | waarvoor | status op peildatum |
|---|---|---|
| AI-verordening 2024/1689, gewijzigd 2026/1744 | recht en toepassingsdata | vastgesteld recht |
| Commissie AI Act-pagina | implementatietijdlijn | primaire toelichting |
| AVG 2016/679 | persoonsgegevens | afzonderlijk toepasselijk recht |
| Transformer/DDPM-papers | algoritmisch principe | primaire onderzoeksbronnen |
| IEA 2025 | energiecontext | schatting met eigen grens |
| NIST AI RMF | risicowerkwijze | vrijwillig kader |
Het brein krijgt een afgebakende rol
Het afwegingskader wordt verbonden aan eisen, interfaces en storingstests. Modelversie, dataherkomst en juridische bronversie blijven deel van het dossier.
Voorspelfout en toekomstlek.
Foutkosten en onbalans.
Algoritme en gradiëntcontrole.
Traceerbare bevoegdheid.
Faalwijzen en onafhankelijk ingrijpen.
Habitat begint met voorstellen en schaduwtests. Uitbreiding van actorrechten vraagt een nieuw meetbaar contract en review van doel, data, risico en geldend recht. De AI kan geen lokale veiligheidseis herschrijven.
In het kort
- Generatieve waarschijnlijkheid is geen feitengarantie.
- Bias en betrouwbaarheid betreffen het hele data- en beslispad.
- Privacy, rol en doel worden vóór verwerking vastgelegd.
- Energie vraagt training, gebruik en expliciete toerekening.
- Recht krijgt een peildatum; bevoegdheid krijgt een eigenaar, toets en terugval.
Wat je nu kent
- generatief model
- Een model dat nieuwe uitvoer produceert volgens een geleerd patroon.
- hallucinatie
- Een plausibel gepresenteerde uitkomst die niet door de relevante feiten wordt gedragen.
- bias
- Een systematische vertekening in data, model of gebruik.
- pseudonimisering
- Persoonsgegevens met vervangende identificatoren verwerken, waarbij koppeling via aanvullende informatie mogelijk blijft.
- bevoegdheid
- De expliciet toegestane handelingen en grenzen van een systeemrol.