Skip naar inhoud

Wilt u deze bijdrage aanbevelen? Dat kan via:

De Algemene Rekenkamer heeft een toetsingskader ontwikkeld om algoritmes te beoordelen. Het orgaan baseert zich op een studie naar negen algoritmes die bij de overheid in gebruik zijn; slechts drie voldeden aan alle aspecten. Staatssecretaris Digitalisering Van Huffelen gebruikt de bevindingen om digitale voorschriften te verbeteren.

Uit het onderzoek ‘Algoritmes getoetst’ blijkt dat bij zes algoritmen uiteenlopende risico’s bestaan, variërend van gebrekkige controle op prestaties of effecten, tot vooringenomenheid, datalek of ongeautoriseerde toegang. De onderzochte algoritmes die gebruikt worden door de politie, het directoraat-generaal Migratie van het ministerie van Justitie en Veiligheid en de Rijksdienst voor Identiteitsgegevens voldoen op diverse aspecten niet. Bij de laatste twee organisaties is de ontwikkeling en het beheer van het algoritme uitbesteed, maar ontbreekt het aan afspraken wie voor wat aanspreekbaar is.

Geen goede afspraken

“We hebben gezien dat er soms geen goede afspraken worden gemaakt over wat het algoritme moet kunnen”

‘We hebben gezien dat er soms geen goede afspraken worden gemaakt over wat het algoritme moet kunnen. Of dat er geen afspraken worden gemaakt om te controleren of een algoritme werkt zoals de bedoeling is. Dat is extra belangrijk als de overheid een andere organisatie vraagt om een algoritme te maken of te beheren. Het gevaar is dat de overheid zelf dan niet meer in de gaten kan houden of het algoritme veilig gebruikt wordt’, aldus de Algemene Rekenkamer.

Een ander verbeterpunt is IT-beheer. Algoritmes gebruiken gegevens van mensen en bedrijven. Organisaties die algoritmes gebruiken moeten goede afspraken maken over wie wel en wie niet met die gegevens mag werken. De Rekenkamer heeft gezien dat niet alle organisaties zulke afspraken hebben gemaakt. Daardoor kunnen de organisaties niet zeker weten of de gegevens van burgers en bedrijven veilig zijn.

Een derde verbeterpunt is bias. Bias betekent dat de uitkomsten van het algoritme voor sommige groepen mensen verkeerd zijn. Doordat er een fout zit in een algoritme of doordat er bij het maken van het algoritme verkeerde informatie in het algoritme is gestopt. Het onderzoek laat zien dat organisaties niet controleren of dat soort fouten in algoritmes zitten. Daardoor kunnen de organisaties niet zeker weten of de uitkomsten van het algoritme voor alle mensen hetzelfde zijn.

In een reactie op het rapport stelt Van Huffelen aan de slag te gaan met de departementen om de tekortkomingen aan te pakken.

Gedrag van mensen

Het Rathenau Instituut onderzoekt (in opdracht van het ministerie van BZK) in het rapport ‘Algoritmes afwegen’ het gebruik van profilerende algoritmes door uitvoeringsorganisaties. Deze algoritmes proberen het gedrag van mensen te voorspellen door hen in te delen in groepen. Om te voorkomen dat dit leidt tot beoordeling op basis vooroordelen, pleit Rathenau voor de inzet van adviseurs om kennis van, en het gevoel voor ethische vraagstukken bij de rijksoverheid te vergroten. Bij het goed van informeren van burgers over het gebruik van algoritmes kunnen burgerpanels worden ingezet.

De aanbevelingen van het Rathenau Instituut zijn:

  • Verbeter de hanteerbaarheid van de juridische vereisten en ethische beginselen;
  • Stimuleer ethische expertise in de gehele organisatie;
  • Blijf investeren in privacytoetsing;
  • Versterk de manier waarop bias-toetsing plaatsvindt;
  • Investeer in een actieve informatievoorziening;
  • Versterk de waarborgen voor procedurele rechten;
  • Waak voor verkokering bij de ontwikkeling en beoordeling van algoritmische toepassingen.

De aanbevelingen komen voort uit gesprekken over de genomen maatregelen ten aanzien van profilerende algoritmes bij het UWV, het CJIB en de SVB.

Lees ook:

Nederland digi-vaardigst, België gemiddeld

Nergens in Europa zijn relatief meer inwoners bedreven in het gebruik van internet, computers en software dan in Nederland en Finland. Beide landen voeren de ranglijst aan van digitale vaardigheden. België scoort gemiddeld. Dit blijkt uit onderzoek door het Centraal Bureau voor de Statistiek (CBS) en Eurostat.

Security-specialist loopt verhoogd risico op burn-out

Het merendeel van securityprofessionals zegt harder te werken dan ooit, en het werk desalniettemin niet af te krijgen. Ook kan het werk stressvol zijn. Tegelijkertijd biedt cybersecurity een prachtig loopbaanperspectief.

Helft bedrijven vertrouwt op oude securitystrategie

Uit een studie van het Ponemon Institute uit de Verenigde Staten blijkt dat een aanzienlijk deel van de bedrijven nog steeds beveiligingsprocessen en -beleid van vóór de coronapandemie gebruikt, waardoor hun veiligheid in gevaar komt.

Two-thirds of UK organisations defrauded since start of pandemic

Nearly two out of three UK companies say they have experienced some form of fraud or economic crime in the past two years, according to a report

Is de Franse reparatie-index een jaar later zijn beloftes nagekomen?

De Franse reparatie-index is op 1 januari 2021 in werking getreden. Een wereldprimeur, het is van toepassing op 5 productcategorieën: smartphones, laptops, wasmachines, tv's en grasmaaiers.

Datalekken door cyberaanvallen bijna verdubbeld

De Autoriteit Persoonsgegevens (AP) meet opnieuw een explosieve toename van het aantal meldingen van datalekken veroorzaakt door cyberaanvallen. Dit aantal is in 2021 bijna verdubbeld vergeleken met het jaar daarvoor.

Wilt u deze bijdrage aanbevelen? Dat kan via:

Klaar voor de beste oplossing voor uw IT & ICT-situatie?

Ik heb mijn wachtwoord gewijzigd in “onjuist.” Dus wanneer ik vergeet wat het is, zal de computer zeggen: “Uw wachtwoord is onjuist.”