De Autoriteit Persoonsgegevens (AP) heeft meer budget nodig om proactief algoritmen te kunnen onderzoeken en toezicht te houden. Dit bleek tijdens een rondetafelgesprek in de Kamercommissie Digitale Zaken. AP-voorzitter Aleid Wolfsen waarschuwde dat het huidige budget onvoldoende is en dat het toezicht nu voornamelijk reactief is, wat volgens hem tot ernstige problemen leidt.
Algoritmen
PvdA-Kamerlid Barbara Kathmann stelde tijdens het gesprek over toezicht op artificiële intelligentie vast dat zowel de AP als het College voor de Rechten van de Mens aangeven dat zij te weinig middelen hebben om effectief toezicht te houden. Ze vroeg wat de gevolgen zijn van dit tekort.
Klachten
Wolfsen legde uit dat voor effectief toezicht meer nodig is dan alleen reageren op klachten. Hij verwees naar een nog niet gepubliceerd onderzoek van de AP naar de Dienst Uitvoering Onderwijs (DUO). DUO gebruikte volgens Wolfsen gedurende tien tot twaalf jaar algoritmen die ‘100 procent discriminerend’ waren voor het controleren van uitwonende studenten. In die periode ontving de AP echter geen enkele klacht. Ook DUO zelf heeft nooit melding gemaakt van de problematiek. Wolfsen haalde de Toeslagenaffaire aan als een vergelijkbaar voorbeeld. Ondanks de omvang van dat schandaal, werd er slechts één klacht bij de AP ingediend.
Reactief toezicht onvoldoende
Volgens Wolfsen is reactief toezicht niet genoeg, omdat problemen ongemerkt jarenlang kunnen doorgaan. Hij pleit voor een proactieve aanpak waarbij de AP zelf onderzoekt of algoritmen goed functioneren, in plaats van te wachten op klachten. “Je moet aan de voorkant werken en organisaties helpen bij het uitleggen van normen. Voorkomen is beter dan genezen”, zei Wolfsen. Hij benadrukte dat organisaties moeten worden onderwezen in ‘AI-geletterdheid’ om latere problemen te voorkomen.
Zorgen over beperkte middelen
Justin Hoegen Dijkhof van het College voor de Rechten van de Mens sloot zich hierbij aan. Hij noemde het gebrek aan budget voor zijn organisatie een ‘grote zorg’ en waarschuwde dat de nieuwe taken die toezicht op AI met zich meebrengen, niet licht mogen worden opgevat.