Er is betere kwaliteitscontrole en toezicht nodig bij het gebruik van algoritmes door de overheid. De Algemene Rekenkamer ontwikkelde daarvoor een toetsingskader dat vanaf vandaag bruikbaar is.
Het toetsingskader van de Rekenkamer bevat ook ethische vragen en stelt dat vragen van bezorgde burgers over de toepassing van algoritmes meer aandacht verdienen. Want ze constateren dat bij het gebruik van al die algoritmes niet de burger, maar de overheid centraal staat.
Ethische aspecten
Volgens de Rekenkamer is er bij de overheid oog voor de privacy van burgers, maar ethische aspecten krijgen te weinig aandacht. Burgers moeten zowel het gebruik en de werking ervan kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Zorgen of twijfels over algoritmes verdienen serieuze aandacht.
Een algoritme is niet risicoloos, stelt de Rekenkamer in het rapport. Verkeerd gebruik van een dataverzameling kan bijvoorbeeld een discriminerende werking hebben als deze vooroordelen bevat. Zo vonniste vorig jaar een rechter dat het door overheden voor uitkeringsdoelen gebruikte systeem Syri discriminerend werkt. Daarop stopte het gebruik ervan.
Een ander risico is Precisiegeneeskunde of ‘behandeling op maat’ met algoritmes en machine learningdat de overheid bij inzet van algoritmes afhankelijk kan worden van externe leveranciers. Dat gaat dan om bijvoorbeeld eigendomsrecht of verwerking van persoonsgegevens. De overheid moet verder data voldoende beveiligen tegen sabotage, spionage en andere vormen van (cyber)criminaliteit. En verder moeten beheer en onderhoud van algoritmes op orde zijn.
Black box
Het onderzoek van de Rekenkamer leerde dat de onderzochte algoritmes te analyseren zijn. Deze algoritmes zijn geen black box. Het belang van kwaliteitscontrole neemt verder toe als algoritmes meer zelflerend worden. ze vergen dan immers minder inbreng van de uitvoerende ambtenaar.
Soms zet de rijksoverheid al innovatieve algoritmes in, al dan niet met gebruik van artificiële intelligentie. Ministeries en uitvoeringsorganisaties als UWV en Sociale Verzekeringsbank hebben op verzoek vele tientallen algoritmes laten nakijken.
Deze toets test een algoritme op aspecten van sturing en verantwoording, model en data, de privacy-waarborgen, de kwaliteit van de IT general controls (ITGC, zoals wie heeft toegang en hoe wordt met back-ups omgegaan) en ethische vragen. Bij ethische vragen staat de menselijke maat centraal. Doel van deze toets is het opsporen van mogelijke zwakheden bij het gebruik van algoritmes. Het toetsingskader staat in het rapport en is digitaal beschikbaar via
De staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties reageert tot nu toe niet inhoudelijk op het rapport. Wel vindt er op 28 januari voor (betrokken) functionarissen uit overheid en bedrijfsleven een digitaal congres over dit thema plaats.
Lees ook:
- Precisiegeneeskunde of ‘behandeling op maat’ met algoritmes en machine learning
- De kracht van data / Informatiegestuurd optreden en werken