Voorstel Raadsinformatiebrief beantwoording raadsvragen gemeentelijk gebruik Artificial Intelligence (AI) - Raadsinformatiebrief.pdf
Een raadslid stelde op 3 oktober 2023 schriftelijke vragen aan het college van burgemeester en wethouders van Alblasserdam (3 vragen).
In het kort
3 vragen en wat het college antwoordt
- Met welke AI-toepassing/ systeem werkt onze gemeente kijkend naar veiligheid, zorg, onderwijs en of mobiliteit bijvoorbeeld? → Bij controle bijvoorbeeld op fraude bij uitkering, verstrekken en controle van WMO-diensten of hulpmiddelen.
- Wordt er gewerkt met een AI-toets bij het ontwikkelen van (beleid)stukken en beoordelen digitale specialisten (als menselijke factor) deze dan vervolgens ook? → • Zo nee, waarom wordt er nu niet gewerkt met een AI-toets? • Zijn we van plan om dit in de toekomst wel in te zetten?
- Zijn er sowieso afspraken gemaakt of regelgeving geformuleerd voor het gebruik van AI? → (Inter)Nationaal is momenteel geen specifieke regelgeving.
Overgenomen uit de brief van het college; hieronder staan de volledige vragen en antwoorden.
Aanleiding
Raadsvoorstel Datum vergadering: 3 oktober 2023 Datum B&W: 11 juli 2023
Portefeuillehouder: Ramon Pardo Kruidenier Auteur: Caroline Korevaar
Onderwerp:
Raadsinformatiebrief beantwoording raadsvragen gemeentelijk gebruik Artificial Intelligence (AI) Voorgesteld besluit:
1. Bijgevoegde raadsinformatiebrief inzake de beantwoording raadsvragen PvdA gemeentelijk gebruik Artificial Intelligence (AI) vast te stellen en te verzenden aan de Raad.
Bijlagen
1. 2023-0095179 Raadsinformatiebrief raadsvragen PvdA gemeentelijk gebruik Artificial Intelligence (AI)
2. 20230526 schriftelijke vragen PvdA over AI
Raadsinformatiebrief Onderwerp
: Beantwoording raadsvragen gemeentelijk gebruik Artificial Intelligence (AI)
Aanleiding
: Raadsvragen PvdA d.d. 26 mei 2023
Datum
: 10 juli 2023
Portefeuillehouder
: J.R. Pardo Kruidenier
Schrijver
: C. Korevaar
Geachte leden van de gemeenteraad, Op 26 mei 2023 ontvingen wij de vragen van de PvdA omtrent de inzet van Artificial Intelligence (AI) ten behoeve van de gemeente Alblasserdam, waarvoor dank. Voordat ingegaan wordt op de vragen, is het goed om stil te staan bij wat wij bedoelen met AI en de definitie van een “AI-systeem” die (vooralsnog) door de aankomende Europese AI Act wordt gebruikt.
Artificiële Intelligentie Artificiële Intelligentie (AI) is de tak van de informatica die zich richt op het trainen van machines, zoals computers, om beslissingen te nemen en rond 1956 is opgekomen als discipline. Het betreft het door een computer laten uitvoeren van taken die wij als intelligent beschouwen, zoals leren, problemen oplossen, redeneren, etc. Bij AI schrijven wij computers niet voor wat ze moeten doen, maar laten we ze oplossingen ontdekken uit data en/of een set regels. Het doel is dat machines in staat zijn problemen op te lossen zonder dat we ze een expliciete oplossing bieden.
In de op 14 juni jl. door het Europees Parlement aangenomen tekst (amendement 165) wordt de volgende generieke definitie gehanteerd:
Artikel 3, lid 1: “artificiële-intelligentiesysteem” (AI-systeem): een machinaal systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat voor expliciete of impliciete doelstellingen output kan genereren, zoals voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de fysieke of virtuele omgeving.
Deze definitie dekt een groot aantal soorten oplossingen. Niet elk AI-systeem werkt volledig autonoom en in veel gevallen is menselijke tussenkomst voorwaardelijk.…
Vragen en antwoorden
Vraag 1
Met welke AI-toepassing/ systeem werkt onze gemeente kijkend naar veiligheid, zorg, onderwijs en of mobiliteit bijvoorbeeld?
Antwoord van het college
Bij controle bijvoorbeeld op fraude bij uitkering, verstrekken en controle van WMO-diensten of hulpmiddelen.
De AI toepassing waar u op doelt zijn de zogenaamde ‘Hoog-risico’. In de AI-Act is een bijlage opgenomen met een lijst om te bepalen of een algoritme valt in de categorie ‘Hoog-risico’. Deze lijst is uitgebreid, hieronder een selectie van de belangrijkste onderdelen:
• Inzet van biometrie, behalve bij toegangscontrole en authenticatie op individueel niveau.
• Beheer van kritieke infrastructuur zoals publieke netwerken, telecom-infrastructuur, domeinnamen, clouddiensten of openbaar vervoer.
• Recruitment, screening van sollicitanten of beoordeling van werknemers.
• Toegang tot essentiële diensten zoals woonruimte, gezondheidsdiensten, of het bepalen van kredietwaardigheid.
• AI inzet bij rechtshandhaving onder andere bij gemeentelijke diensten en juridische procedures zoals bestuursrechtelijke besluiten.
Op dit moment maakt de gemeente Alblasserdam direct en indirect beperkt gebruik van toepassingen die AI inzetten. Bijvoorbeeld Centric applicaties die bepaalde algoritmes toepassen die door gemeente Alblasserdam, Gemeentebelastingen, Basisinformatie Drechtsteden (GBD) en de GR Sociaal gebruikt worden. Voor de regionale Kernregistratie Medewerkers worden regels toegepast ten behoeve van kwaliteitscontrole en het semiautomatisch aanmaken van gebruikersaccounts voor nieuwe medewerkers. Geen van deze gevallen betreft de inzet van zelflerende algoritmes. Er is momenteel geen algemeen overzicht beschikbaar.
In het kader van verantwoorde inzet van data en AI is het voornemen om in 2024 een regionaal overzicht van direct (door ons) en indirect (via onze ketenpartners) toegepaste algoritmes op te stellen. Ook wordt onderzocht in hoeverre wij kunnen aansluiten op het landelijke algoritmeregister.
In het kader van innovatie wordt op dit moment gebruik gemaakt van software robots die op basis van regels bepaalde taken automatiseert. Verder wordt onderzoek gedaan naar de kansen en risico’s van de inzet van ChatGPT binnen Servicegemeente Dordrecht (hierna SGD).
Vraag 2
Wordt er gewerkt met een AI-toets bij het ontwikkelen van (beleid)stukken en beoordelen digitale specialisten (als menselijke factor) deze dan vervolgens ook?
Antwoord van het college
• Zo nee, waarom wordt er nu niet gewerkt met een AI-toets?
• Zijn we van plan om dit in de toekomst wel in te zetten?
Op dit moment wordt de regionale datastrategie uitgewerkt. Deze gaat in op verantwoord gebruik van data en algoritmes. Een verwacht onderdeel van de uitvoering wordt het komen tot een
Pagina 2 van 3
proces(aanpassing) om een AI-toets zoals IAMA (Impact Assessment Mensenrechten en Algoritmes) als Drechtsteden-gemeenten te kunnen inbedden.
In het beleid en de besluitvorming moet aandacht zijn voor en in overeenstemming zijn met mensenrechten en ethische richtlijnen om mogelijke negatieve gevolgen van algoritmes en AIsystemen te identificeren en te beperken. Naar verwachting zullen wij in de toekomst werken met een AI-toets conform het opgestelde beleid.
Vraag 3
Zijn er sowieso afspraken gemaakt of regelgeving geformuleerd voor het gebruik van AI?
Antwoord van het college
(Inter)Nationaal is momenteel geen specifieke regelgeving. Op 14 juni 2023 stemde het Europees Parlement in met nieuwe regels die de inzet van AI en autonome algoritmes moeten gaan reguleren. Formeel moet de Raad van Ministers nog akkoord geven. Een invoeringsdatum van 1 januari 2024 wordt veel genoemd. Daarna volgt twee jaar overgangsrecht.
Vanwege de actuele aandacht voor generatieve AI, zoals het welbekende ChatGPT, zijn regionaal een aantal hoofdkaders in ontwikkeling door strategisch adviseurs van de SGD. Nadere uitwerking en verbreding (regionaal en lokaal) staan hoog op de agenda. Publieke waarden staan hierbij centraal.
Op dit moment inventariseren wij het gebruik van AI toepassingen binnen de Drechtsteden en of deze al dan niet de categorie ‘Hoog-risico’ vallen om daarmee transparant naar u en de inwoners te zijn. Deze inventarisatie zullen wij ook publiceren op het Algoritmeregister van de overheid.
Verder onderzoek zal zich richten op de huidige contracten met aandacht voor: ethische transparantie, procedurele transparantie en uitlegbaarheid. Dit zal vervolg krijgen in contractvoorwaarden, beleid en afspraken rondom gebruik en gedrag.
Gelet op het feit dat de ontwikkelingen rondom AI snel gaan en wij ons kunnen voorstellen dat er behoefte is om het gesprek hierover aan te gaan, staan wij (gemeente Alblasserdam en SGD) hiervoor open.
Bron: raadsinformatie van de gemeente Alblasserdam (Open Raadsinformatie). De vragen en antwoorden zijn automatisch uit de brief gelezen; het origineel is leidend.