243617 Informatienota antwoord op schriftelijke vragen Transparant algoritmegebruik binnen de gemeente

Vraag 1

Wij zijn van mening dat ook bij het vermoeden van het gebruik van algoritmes de portefeuillehouder op de hoogte dient te zijn en de raad actief dient te informeren. a. Deelt het college deze mening?

Antwoord van het college

Het blijkt in de praktijk niet mogelijk om de raad actief te informeren over ieder algoritme dat wordt toegepast. Enerzijds omdat de technische ontwikkelingen erg snel gaan. Sinds de lancering van ChatGPT eind 2022 blijken steeds meer algoritmes te worden toegepast in ICT-oplossingen. Wij krijgen hierin vaak nog geen goed inzicht van softwareleveranciers.

Anderzijds omdat de wettelijke ontwikkelingen en de kennis en bewustwording bij alle betrokkenen het tempo van de technische ontwikkelingen niet kunnen bijbenen. De Europese AI verordening is op 21 mei 2024 vastgesteld door de Raad van de Europese Unie en is over 2 jaar van kracht. De nieuwe Europese AI verordening is ons enige wettelijke kader op dit moment. De wet is nog niet uitgewerkt in Nederlandse wetgeving.

Hierdoor hebben wij, net als andere gemeenten, nog geen beleid kunnen opstellen om het in gebruik nemen van algoritmes aan te toetsen.

Toch stellen wij voor om een beleidskader te gaan opstellen op basis van de Europese AI verordening. In het antwoord van vraag 2a leest u hier meer over.

Dit beleidskader gaat ons helpen bepalen welk type algoritmes we toestaan en vervolgens ook in het algoritmeregister opnemen. Het bepalen of een algoritme ‘hoog

Pagina 1 van 4

 Openbaar

Zaaknummer: 243617

risico’ betreft, is complex maatwerk en vereist het doorlopen van een afwegingskader.

Voor zover wij tot nu toe hebben kunnen nagaan, hebben wij binnen de WDW geen software in beheer die gebruik maakt van ‘hoog risico algoritmes’ zoals beschreven in de Europese AI-verordening. Wel kunnen medewerkers gebruikmaken van openbare chatbots. Om de risico’s te beperken heeft de WDW hiervoor richtlijnen opgesteld. In het antwoord op vraag 10 leest u hier meer over.

b. Was de portefeuillehouder op de hoogte van het gebruik van algoritmes binnen Munitax?

Er worden in de praktijk geen algoritmes gebruikt. Munitax is momenteel slechts aan het onderzoeken of algoritmes een positieve bijdrage zouden kunnen leveren aan het proces van waardebepaling.

c. Is er binnen het portefeuillehoudersoverleg gesproken over het gebruik van algoritmes? i.

Zo niet, kunt u dan uitleggen waarom dit overleg niet heeft plaatsgevonden?

Er is niet specifiek over het gebruik van algoritmes gesproken. Wel heeft Munitax aangegeven te onderzoeken hoe ze bepaalde repeterende werkzaamheden zouden kunnen automatiseren. Wij gaan er vanuit dat wanneer er voornemens zijn om hoog risico algoritmes te gebruiken, dit onderwerp van gesprek is tijdens een portefeuillehoudersoverleg. Munitax moet zich namelijk – net als alle andere overheden – houden aan (aanstaande) wet- en regelgeving op dit gebied.

Vraag 2

Om eventuele problemen voor te zijn, dienen we als gemeente beleid tijdig vast te stellen. Gezien de enorme groei in het gebruik van algoritmes zijn wij van mening dat er nu al beleid dient te zijn. a. Deelt het college onze mening?

Antwoord van het college

Het college is het eens met deze mening. Daarom hebben wij de afgelopen periode binnen de regio het voorstel gedaan om gezamenlijk tot een gemeenschappelijk beleidskader voor AI te komen. Regionaal, omdat we steeds meer gezamenlijk gebruik maken van uniforme ICT-oplossingen via de iRvN. En omdat we gezamenlijk Gemeenschappelijke Regelingen zoals Munitax besturen en dus gezamenlijk (niet individueel) verantwoordelijk zijn voor het bepalen van het AI-beleid van deze organisaties. De andere regio gemeenten willen echter wachten op de Nederlandse wetgeving. Zij geven daarom nu minder prioriteit aan het opstellen van beleid en willen hier geen extra capaciteit voor vrijmaken.

Het college stelt daarom voor om een eerste versie van een AI-beleidskader (op hoofdlijnen) op te stellen voor gemeente Wijchen. Ondanks dat dit lastig is omdat landelijke wetgeving nog ontbreekt. We zullen het beleidskader voorlopig op hoofdlijnen moeten houden en waarschijnlijk snel moeten actualiseren. Met dit beleidskader kunnen we ook in gesprek met de andere regio gemeenten en onze verbonden partijen.

In het najaar plannen we een bijeenkomst met raadsleden. Met als doel inzicht te geven in wat de ontwikkelingen van AI-toepassingen betekenen voor de huidige en toekomstige uitvoering van gemeentelijke taken en de gemeentepolitiek. Na deze sessie gaan we aan de slag met het AI-beleidskader. Een tussenstap zou kunnen zijn dat we aan de hand van een meningsvormende nota hiervoor kaders ophalen bij de raad.

Pagina 2 van 4

 Openbaar

Zaaknummer: 243617

b. Is er binnen Munitax of het college beleid vastgesteld omtrent het gebruik van algoritmes? En zo ja, hoe ziet dit er uit?

Nee, Munitax heeft nog geen beleid.

Wel hebben we op 19 september 2023 onze huidige Wijchense werkwijze en voorlopige standpunt op onze website gepubliceerd.

Ons beleid is dat we ‘met veel aandacht en veilig met persoonsgegevens van inwoners omgaan. Als wij algoritmes gebruiken om onze bedrijfsprocessen te verbeteren, mogen deze nooit de privacy van inwoners schenden. Of bepaalde groepen inwoners of individuen discrimineren. Ook mag het niet leiden tot automatisch besluitvorming zonder tussenkomst van een ambtenaar.’

Vraag 3

Het bepalen van de WOZ waarde dient nauwkeurig te gebeuren, en de inwoner dient vertrouwen te hebben in een juiste manier van waardebepaling. Dit kan in het gedrang komen als we niet kunnen uitleggen hoe een algoritme intern werkt en hoe het tot besluiten komt. a. Hoe waarborgt de portefeuillehouder de transparantie van het vaststellen van de WOZ waarde wanneer algoritmes een rol spelen?

Antwoord van het college

Op dit moment wordt geen gebruik gemaakt van algoritmes bij het vaststellen van de WOZ waarde. De taxateur moet nog altijd onderbouwing aanleveren van de waardebepaling.

b. Welke rol spelen de uitkomsten van algoritmes verder in het proces?

Op dit moment geen.

Vraag 4

Zijn er persoonsgegevens gebruikt zoals bedoeld in de AVG tijdens het trainen van het algoritme of tijdens het uitvoeren ervan?

Antwoord van het college

En zo ja, welke persoonsgegevens en met welk doel zijn deze gebruikt?

Nee.

Vraag 5

Navraag leert ons dat voor medewerkers van Munitax de door algoritmes bepaalde waarden zichtbaar zijn op het scherm. Deze waarden staan direct naast de op de ouderwets vastgestelde waarden. De door algoritmes bepaalde waarden zijn tevens (in tegenstelling tot de klassieke waarden) opvallend gekleurd. Hoe sluit men uit dat medewerkers (on)bewust worden beïnvloed door de door algoritmes bepaalde waarden?

Antwoord van het college

Zijn hier instructies voor en zo ja, wat zijn de instructies?

De medewerkers van Munitax volgen de instructie voor de waardering van panden. Hier staat AI niet in beschreven omdat er met AI geen herwaardering kan worden gedaan. Er kan alleen een waardering gedaan worden in het model met echte verkochte woningen en in de waardering kan de waarde van AI niet gebruikt worden.

Vraag 6

In onze ogen is er een risico om door algoritmes gegenereerde waarden te tonen aan taxateurs. Klopt het dat er niet is gekozen om de module op een apart systeem te draaien waardoor beïnvloeding van taxateurs niet mogelijk is en wat waren de afwegingen?

Antwoord van het college

De module draait op hetzelfde systeem. De waardering in de applicatie is zo dat je alleen kan waarderen op basis van verkochte woningen en de kenmerken van een woning. De AI-waardering wordt getoond bij een object en zou slechts als controlemiddel kunnen worden ingezet. Volgens de leverancier zou bij een relevante afwijking van de AI-waarde

Pagina 3 van 4

 Openbaar

Zaaknummer: 243617

gericht gecontroleerd kunnen worden op fouten in het object. Munitax gebruikt de getoonde AI-waarde niet in de controle.

De toezichthouder (de waarderingskamer) controleert op taxaties die niet in het model van de waardering passen. Indien een medewerker handmatig een waarde aanpast naar bijvoorbeeld de AI-waarde zou dat opvallen.

Vraag 7

Was het bij de inkoop van de AI/ML module bekend bij Munitax dat er algoritmes werden gebruikt en wat daar de implicaties van zijn?

Antwoord van het college

En zo ja, waar blijkt dit uit?

Het was bekend dat er algoritmes worden gebruikt met alleen vastgoeddata en geen persoonsgegevens. Het doel van de aanschaf was om te bekijken of de module bruikbaar zou kunnen zijn bij controle van waarderingen bij bezwaarschriften van No Cure No Pay bureaus.

Vraag 8

Is er een onderzoeksdocument waaruit blijkt dat de AI/ML module is ingekocht voor onderzoeksdoeleinden?

Antwoord van het college

Munitax had de intentie om proefondervindelijk te bekijken of de module bruikbaar zou kunnen zijn in de bezwaarafhandeling. Er is geen onderzoeksdocument opgesteld.

Vraag 9

Is er voorafgaand aan de inkoop van deze algoritmes een risicoanalyse gemaakt door de functionaris gegevensbescherming?

Antwoord van het college

Zo ja, dan ontvangen wij daar graag de uitkomst van.

Het algoritme verwerkt geen persoonsgegevens. Daarom is er geen risicoanalyse gemaakt door de FG voorafgaand aan de inkoop.

Vraag 10

Hoe zorgt men ervoor binnen de gemeente en gelieerde partijen zoals de WDW en Munitax diensten zoals ChatGPT niet worden gebruikt, zolang er geen beleid is rondom algoritmes?

Antwoord van het college

We hebben ons voorlopige standpunt bepaald en gecommuniceerd (zie vraag 2b). Ook hebben we interne richtlijnen vastgesteld en zodoende maatregelen genomen om medewerkers te wijzen op de risico’s en te instrueren hoe een AI chatbot wel en niet te gebruiken. Hiermee dekken we de risico’s zo veel mogelijk af. Dit doen we ook door kennisbijeenkomsten en trainingen via de WDW academie.

We willen als gemeente meegaan met innovaties. AI chatbots bieden meerwaarde voor een bepaald type werkzaamheden. Wij bieden medewerkers beleid en richtlijnen aan en de medewerkers zijn zelf verantwoordelijk. Het gebruik van openbare AI-chatbots door medewerkers is technisch gezien niet te voorkomen of controleren.

Als gemeente Wijchen hebben we een stem in het beleid van Gemeenschappelijke Regelingen zoals Munitax. We kunnen beleidswensen agenderen en dat doen we ook, maar zijn wel afhankelijk van de andere deelnemers in hoeverre deze doorgevoerd worden.

Pagina 4 van 4