Kaderwet toetsing algoritmen
Reactie
| Naam | P. van Barneveld |
|---|---|
| Plaats | Nieuwegein |
| Datum | 15 november 2025 |
Vraag1
Wat is uw reactie op het wetsvoorstel?Welke vragen of zorgen heeft u over de uitvoering van het wetsvoorstel?
Ziet u mogelijkheden om het doel van het wetsvoorstel op een andere manier te bereiken?
Ik ben absoluut voor deze wet, omdat we nieuwe toeslagenaffaires moeten voorkomen. Goed dat er eindelijk meer aandacht is voor dit soort complexe digitale vraagstukken.
Essentieel vind ik dat er geen ruimte is voor gesjoemel met de toetsing. Het vooral interne karakter van de toets stelt mij niet gerust. De kernvraag is wie er toetst. Bij zulke ingrijpende systemen hoort onafhankelijke, echt deskundige toetsing, los van de lijn die het algoritme zelf gebruikt.
Ik adviseer om dat sterker te borgen, zodat de kwalitatieve en kwantitatieve toets niet in de praktijk onder het tapijt kan worden geveegd of alleen voor de bühne wordt gedaan.
Over de rol van de Autoriteit Persoonsgegevens maak ik mij ook zorgen. De AP heeft het nu al veel te druk en krijgt er op allerlei terreinen taken bij. Als hier geen structurele versterking tegenover staat, dreigt dit voorstel in de praktijk een papieren tijger te worden.
Ik adviseer daarom om expliciet te regelen hoe de AP voldoende middelen en prioriteit krijgt om hier echt op te kunnen toezien.
Tot slot wil ik de rol van de mens als eindverantwoordelijke benadrukken. Bestuursorganen zijn op papier verantwoordelijk, maar in de praktijk gaat het om echte mensen die geraakt worden door foutief gebruik van algoritmes. Beslismedewerkers moeten het voorstel van een algoritme niet klakkeloos overnemen, maar ruimte en steun krijgen om af te wijken.
Ik adviseer om duidelijker te maken hoe bestuursorganen intern verantwoordelijkheid en consequenties regelen bij structureel verkeerd gebruik van algoritmische uitkomsten. Zonder echte accountability blijft de prikkel om zorgvuldig te handelen beperkt.