voorbereiding op AI Act
Een raadslid stelde op 9 januari 2024 schriftelijke vragen aan het college van burgemeester en wethouders van Ede (1 vragen).
In het kort
1 vragen en wat het college antwoordt
- Is het college bereid om hier mensen en middelen op in te zetten, bijvoorbeeld door een (kleine) aanstelling vrij te maken om de gemeente voor te bereiden op de… → Beantwoording door het college van burgemeester en wethouders d.d. 9 januari 2024 Ad 1.
Overgenomen uit de brief van het college; hieronder staan de volledige vragen en antwoorden.
Aanleiding
Beantwoording raadsvragen
2023/62
Schriftelijke vragen zoals omschreven in artikel 43 van het Reglement van Orde van de gemeenteraad van Ede.
Datum:
12 december 2023
Onderwerp:
Voorbereiding op AI Act
Indieners:
Jan Willem Middelesch & Arie Barendrecht - ChristenUnie
Inleiding:
Digitalisering. We kunnen er niet omheen. Algoritmes worden op allerlei manieren ingezet en ook gemeenten maken er (soms voorzichtig) gebruik van. In de meest recente Binnenlands Bestuur 1 wordt ook aandacht besteed aan algoritmes in de gemeente. Promovendus Maranke Wieringa pleit daar voor meer bewustzijn binnen gemeenten over algoritmes. Nu er binnen de EU een voorlopig akkoord is over de AI Act 2, komt wetgeving steeds dichterbij. Maranke Wieringa noemt die aankomende wet- een regelgeving “een goed argument om de algoritmes binnen de organisatie aan een onderzoek te onderwerpen”. Alle systemen uitpluizen op mogelijke algoritmes én alle impactvolle algoritmes registeren is veel werk, maar helemaal niets doen en hopen dat het wel overwaait, is volgens Wieringa evenmin een optie.
In september 2020 lanceerde Amsterdam haar eigen algoritmeregister 3, waarmee zij transparantie wil bieden over welke algoritmes de gemeente gebruikt bij gemeentelijke dienstverlening, met welk doel en hoe deze algoritmes werken. Daarnaast hebben meerdere gemeenten de algoritmes die zij gebruiken geregistreerd in het Algoritmeregister van de Rijksoverheid4.
Vragen:
Vragen en antwoorden
Vraag 1
Is het college bereid om hier mensen en middelen op in te zetten, bijvoorbeeld door een (kleine) aanstelling vrij te maken om de gemeente voor te bereiden op de aankomende AI-wetgeving?
Antwoord van het college
Beantwoording door het college van burgemeester en wethouders d.d. 9 januari 2024 Ad 1.
Ad 2.
Ad 3.
1
Ja Algoritmes zijn er in alle soorten en maten. Van simpele 'recepten' (stappenplannen, werkprocessen) tot geavanceerde, zelflerende systemen. Gelet op de tekst van de vraagsteller gaan we er vanuit dat hier met name op zelflerende systemen (Kunstmatige intelligentie en machine learning; AI/ML) wordt gedoeld. Wij volgen de ontwikkelingen t.a.v. wetgeving en techniek, bouwen kennis op en werken aan een richtlijn voor de inzet van AI/ML. Daarnaast hebben wij een concept-richtlijn voor het gebruik van ChatGPT en soortgelijke toepassingen nagenoeg gereed.
Op dit moment wordt geen AI/ML in gemeentelijke werkprocessen en systemen gebruikt die direct, zonder menselijke tussenkomst of controle, ingezet wordt voor besluitvorming. Wel is er bij het proces van waardering onroerende zaken (Afdeling belastingen) als proef een algoritme in gebruik dat werkt met machine learning om de taxateur een extra controle berekening te kunnen laten uitvoeren naast de formele taxatie. Echter is het oordeel van de taxateur leidend.
https://www.binnenlandsbestuur.nl/digitaal/onderzoek-naar-omgang-algoritmes-door-gemeenten https://nos.nl/artikel/2500893-eu-sluit-voorlopig-akkoord-over-regels-voor-kunstmatige-intelligentie 3 https://algoritmeregister.amsterdam.nl/ 4 https://algoritmes.overheid.nl/ 2
Ad 4.
Ad 5.
Ad 6.
Wij gaan AI/ML niet ondoordacht in de organisatie introduceren, maar zullen in de toekomstige richtlijn voor inzet van AI (bij nieuwe informatiesystemen, of updates van bestaande systemen) opnemen dat dit soort algoritmen altijd vooraf getoetst moet worden in een privacy impact assessment en een algoritme impact assessment. Pas na zorgvuldige afweging van eventuele risico’s zal besloten worden tot inzet van AI/ML.
Hier geeft de toekomstige AI act ook handvatten voor.
Ja. Vastlegging in het register is nu nog op vrijwillige basis, maar uiteindelijk wordt registratie van impactvolle algoritmes wettelijk verplicht. Uitgangspunt is dat een algoritmeregister een bijdrage levert aan het transparant en uitlegbaar maken van de toepassing en uitkomst van (relevante) algoritmes. De precieze regelgeving hiervoor is nog niet vastgesteld. Een aandachtspunt hierbij is dat dat in begrijpelijke taal gebeurt. In 2024 beslissen we vanaf welk moment en op welke manier informatie over algoritmes die in Ede in gebruik zijn worden gepubliceerd.
Wij volgen de ontwikkeling van AI en de wetgeving daaromtrent met grote belangstelling en zullen indien nodig middelen vrij maken om de gemeente hierop verder voor te bereiden. Op dit moment denken wij met de betrokken informatieadviseurs, CISO, Privacyjurist en FG voldoende inzet te kunnen leveren. Als de inzet van AI/ML in gemeentelijke informatiesystemen een vlucht neemt wordt dit al snel te krap, omdat de beoordeling van informatiesystemen en het zorgvuldig uitvoeren van algoritme impact assessments erg intensief is en veel tijd kost.
Bekijk de brief: Beantwoording raadsvragen van fractie Chr.Unie over voorbereiding op AI Act
Bron: raadsinformatie van de gemeente Ede (Open Raadsinformatie). De vragen en antwoorden zijn automatisch uit de brief gelezen; het origineel is leidend.