CAS Nationale Politie

Vraag 1

Wat is de concrete reden dat de politie na tien jaar heeft besloten om met dit systeem te stoppen?

Antwoord van het college

De status van het CAS staat in het algoritmeregister inderdaad op “buiten gebruik”. Anderhalf jaar geleden is de politie gestart met de verdere professionalisering van haar AI Governance waaronder de doorlopende toetsing van de kwaliteit (juridische, technisch en ethisch) van haar algoritmes en AIsystemen. In de voorafgaande jaren heeft CAS bijgedragen aan het verbeteren van de taak van de politie. Na zorgvuldige afweging en volgens de genoemde professionaliseringsslagen binnen de politie is gebleken dat het CAS volgens de huidige inzichten niet meer voldoet aan noodzakelijke vereisten en dat de benodigde inspanningen voor het oplossen van de tekortkomingen niet opwegen tegen de baten. Zie ook antwoord 2.

Vraag 2

De politie evalueert haar algoritmes regelmatig. Naar aanleiding van een dergelijke evaluatiesessie is besloten om CAS per 1 december 2025 uit te faseren. Wat is uit de evaluatiesessie gekomen?

Antwoord van het college

De politie heeft geconcludeerd dat er onduidelijkheid is over de operationele meerwaarde van CAS door het ontbreken van eenduidige doelen en meetbare succescriteria. Hierdoor is het moeilijk om vast te stellen wanneer CAS succesvol is en of de beheerskosten opwegen tegen de baten. Daarnaast heeft de politie geconcludeerd dat er onzekerheid is over de technische prestaties van het model.

De prestaties van de onderzochte variant lijken niet groot en er ontbreken formele kwaliteitsstandaarden. Tot slot is geconcludeerd dat er onduidelijkheid is over het gebruik van CAS in de operatie. De monitoring van CAS gaf wel inzicht in de mate van gebruik maar niet in wat als minimum acceptabel werd geacht en door wie en hoe CAS werd gebruikt. Ten tijde van de toets vond overigens wel een onderzoek naar het gebruik van CAS plaats waarbij de opbrengst had kunnen dienen voor eventuele verbeteracties ten behoeve van verantwoord gebruik volgens de actuele vereisten. Uiteindelijk heeft de politie geconcludeerd dat de benodigde inspanningen voor het oplossen van de tekortkomingen niet opwegen tegen de baten.

Vraag 3

Kan worden aangegeven hoe effectief CAS in de praktijk is geweest in het vergroten van de veiligheid?

Antwoord van het college

CAS heeft in verschillende teams geholpen bij de versterking van de informatiepositie rondom de inzet van mensen en middelen. Er is echter onduidelijkheid over de exacte operationele meerwaarde van CAS. In z’n algemeenheid geldt dat het moeilijk is om de resultaten van preventieve maatregelen te meten. Zie antwoord 2.

Vraag 4

Kan er inzicht worden gegeven in de mensenrechtentoets?

Antwoord van het college

Er is door de politie een algoritmescan uitgevoerd. Dit is een bredere mensenrechtentoets dan de IAMA. De algoritmescan zal op termijn onder de openbaarmakingsvoorwaarden van de Wet Open Overheid publiek worden.

Vraag 5

Welke positieve en negatieve gevolgen heeft het gebruik van het CAS gehad?

Antwoord van het college

CAS is een voorloper in het gebruik van data om criminaliteit te voorspellen en heeft de politie veel geleerd over de bouw en inzet van dergelijke modellen.

Daarbij heeft CAS ook bijgedragen aan de totstandkoming van de algoritmescan

 van de politie en de opzet van het kwaliteitsproces algoritmes en AI-systemen binnen de politie. Daarbij heeft CAS in verschillende teams geholpen bij de versterking van de informatiepositie rondom inzet van mensen en middelen. Zie ook antwoord 3. De politie verwacht niet dat het gebruik van CAS negatieve gevolgen heeft gehad. CAS heeft geen directe impact op de besluitvorming over individuen. Zie verder antwoord 6 hieronder.

Geconcludeerd is dat ten tijde van de toets het inzicht in de meerwaarde en gebruik van CAS onvoldoende was. Zie antwoord 2.

Vraag 6

In hoeverre is bij het gebruik van CAS rekening gehouden met het risico op discriminatie en vooringenomenheid, mede naar aanleiding van Rekenkamer Rapport waarin werd geconcludeerd dat discriminatie niet kon worden uitgesloten?

Antwoord van het college

Het is tot dusverre inderdaad niet mogelijk gebleken om een bias/discriminatie toets uit te voeren wegens het ontbreken van voldoende data hiervoor. Daarom kon niet vastgesteld worden of er wel of niet sprake was van vooringenomenheid en discriminatie. Dat is wel getracht. Er stond nog een langdurig traject van de Politieacademie op stapel (fase planvorming). Bij het gebruik van CAS is er geen sprake van directe impact op de besluitvorming over een individu. De politie hanteert daarbij altijd de stelregel ‘human-in-the-loop’. CAS is bedoeld als hulpmiddel dat politieteams laat zien waar in een gebied en wanneer de kans op een bepaald type criminaliteit hoger is. Het levert concreet een ‘informatiekaart’ op. Die “informatiekaart” dient altijd aangevuld te worden met andere, aanvullende en actuele informatie (van bijvoorbeeld wijkagenten en actuele meldingen en incidenten) en een menselijk oordeel voordat gekomen wordt tot de inzet in een bepaald gebied.

Vraag 7

Welke andere algoritmische systemen worden door de politie ingezet met soortgelijke risico’s en wat wordt gedaan om risico’s te voorkomen?

Antwoord van het college

De politie toetst de kwaliteit van haar algoritmes en AI-systemen via een intern kwaliteits- en risicoproces. Zie ook antwoord 1. Hiermee verkrijgt zij inzicht in eventuele risico’s en welke maatregelen hierop te treffen zijn. De politie voert dit proces uit op al haar algoritmes en AI-systemen die (hoog) risicovol zijn. Dit voert de politie ook getrapt uit voor oudere algoritmes en AI-systemen. De trajecten waarin dit reeds heeft plaatsgevonden en die openbaar kunnen worden, staan gepubliceerd in het algoritme register (https://algoritmes.overheid.nl/nl/algoritme? organisation=Politie&page=1&sort_option=sort_name).