Monde­linge vragen Algo­rit­men­re­gister

Indiendatum: 22 jun. 2023
Antwoorddatum: 22 jun. 2023

Mondelinge vragen 6, 22 juni 2023

Het Nederlandse algoritmeregister bestaat nu ruim een half jaar. Bij de start in december had de gemeente Utrecht 38 algoritmes geregistreerd, met de belofte dat “meer specifieke informatie volgt”. Een halfjaar later valt op dat het register nog steeds maar één zinnetje per algoritme bevat. Je kunt bijvoorbeeld niet vinden welke data of welke methoden of modellen worden gebruikt voor het algoritme. Andere gemeenten, zoals Amsterdam en Den Haag, vermelden die informatie wel.

Daarnaast valt op dat Utrecht een aantal modellen heeft geregistreerd die niet lijken te gaan over mensen of menselijk gedrag. Bijvoorbeeld een algoritme over de hoogste van stedelijk water, of wanneer een lichtmast vervangen moet worden. Het algoritmeregister is voornamelijk bedoeld voor algoritmes die raken aan de privacy van burgers en besluiten die de overheid over mensen neemt. Het vervangen van een lichtmast lijkt in deze verhouding niet zo relevant.

In de raadsbrief van 12 juni wordt gesproken van 48 algoritmen waarvan er al 42 getoetst zouden zijn op privacy en Uthiek. Het lijkt erop dat hier over een ander algoritmeregister wordt gesproken.

Dit leidt de fracties van Volt, DENK, Groen Links, D66, Bij1, PvdA en PvdD tot de volgende vragen:

1. Op welke termijn verwacht het college dat Utrecht meer informatie kan toevoegen aan het landelijk bestand over de eigen algoritmes, zoals de databronnen en de gebruikte modellen en methoden en dat alle algoritmen zoals in de raadsbrief vermeld met toetsing op privacy en Uthiek, zijn ingevoerd?

2. Deelt het college de opvatting dat het algoritmeregister vooral bedoeld is voor algoritmes die raken aan mensen in de stad? Zo ja, waarom zijn dan allerlei ruimtelijke algoritmes in het register opgenomen?

Antwoord: In antwoord op vraag 2 delen wij niet helemaal dat het vooral bedoeld is voor algoritmes die raken aan mensen in de stad. Ik begrijp wel waar die vraag vandaan komt, want wij hanteren namelijk in afstemming met BZK een bredere definitie. Bij algoritmes die directe impact op de stad hebben, horen zowel algoritmes bij die raken aan mensen als ruimtelijke algoritmes. Soms is het nog indirecter, namelijk dat ruimtelijk soms ook weer de mensen raakt. We hanteren hierbij wel intern het impactlabel, namelijk “high” voor veel impact op de mensen in de stad en “low” voor minder, minimaal of geen impact op de mensen in de stad. Bij de volgende slag die we maken – voor Q4 – gaan we bekijken of we het “high impact” label van een algoritme ook openbaar laten zien. Dit hebben we namelijk al wel in beeld, maar we proberen het nog verder te verstevigen. We gaan ook verkennen of we de verslagen vanuit Uthiek, onze Uthiek-assessment met terugwerkende kracht, openbaar kunnen maken. Op die manier proberen we dat openbaar te maken, naast de privacy- check en het Uthiek-assessment.

3. Kan het college toezeggen om de sociaal-gerelateerde algoritmes prioriteit te geven bij het verrijken van de informatie in het landelijk register?

Antwoord: Kan het college toezeggen om bepaalde algoritmes prioriteit te geven? Ja, dat gaan we doen. De high-impact algoritmes hebben voorrang in deze verbeterslag. Daarbij gaat het vooral om de sociaal-gerelateerde algoritmes en in mindere mate over de ruimtelijke algoritmes. Ze komen allemaal aan de beurt. Daarnaast houden wij voortdurend zicht en daarmee overzicht op nieuwe algoritmes die wij als organisatie hanteren.

Ruud Maas, Volt
Lisanne Snippe, Partij voor de Dieren
Mahmut Sungur, DENK
Mahar Fatal, Groen Links
Noura Oul Fakir, Bij1
Hester Assen, PvdA
Ilse Raaijmakers, PvdA