AP waarschuwt voor fouten met AVG bij ai-projecten

Steeds meer bedrijven en overheden experimenteren met ai-toepassingen. Vaak zijn persoonsgegevens in het spel en dus moeten tests voldoen aan privacyregels zoals vastgelegd in de AVG (Algemene Verordening Gegevensbescherming). Ook voor ai-pilots gelden strenge regels, waarschuwt de privacy-toezichthouder.
Tests, pilots, proeven, houtskoolschetsen, proof of concepts. Bedrijven en overheden experimenteren er flink op los met ai. Maar in die drang naar nieuwe toepassingen zien ze de AVG nogal eens over het hoofd, zegt AP-directeur systeemtoezicht, beveiliging en technologie, Cecile Schut.
In een online-sessie van de AP tijdens het congres Nederland Digitaal waarschuwt de privacy-toezichthouder dat er ook voor het gebruik van persoonsgegevens in ai-testtrajecten strenge regels gelden. ‘Vaak wordt vergeten dat die ook onder de AVG vallen.’
Ze verwijst naar de verantwoordingsplicht van partijen die persoonsgegevens gebruiken. Daarin moet op papier staan met welk doel bepaalde data worden gebruikt. Ook moet bij controle door de AP of navraag van een betrokkene die informatie beschikbaar zijn.

Hoog privacy-risico

De AP wijst erop dat wanneer gegevensverwerking waarschijnlijk een hoog privacy-risico oplevert voor betrokkenen, het verplicht is om een data protection impact assessment (dpia) op te stellen. Die beoordeling is dus ook verplicht voor tests waarin persoonsgegevens worden gebruikt.
In het dpia moeten vooraf alle verwerkingen verantwoord worden. Zo moet de vraag gesteld worden of er een redelijke verhouding is tussen het doel en het ingezette middel (proportionaliteit) en waarom dit de beste manier is om dat te bereiken (subsidiariteit). Ook de risico’s op ongewenste uitkomsten (bias) en fouten in het algoritme moeten benoemd zijn. In het dpia staat verder informatie over beveiliging, de rechten van betrokkenen, transparantie en uitlegbaarheid van ai. De AP benadrukt dat het gaat om een doorlopend proces dat regelmatig geëvalueerd moet worden.

Voorleggen voor advies

Schut adviseert om ai-plannen altijd voor te leggen aan de functionaris gegevensbescherming van de eigen organisatie. Dat is degene die binnen de organisatie toezicht houdt op de toepassing en naleving van de AVG. Voor sommige organisaties is zo’n functie verplicht. Zijn er daarna nog vragen, dan kan de functionaris eventueel aankloppen bij de AP voor raadgeving, meldt Schut.

Onzichtbare ontwikkeling

Om grip te krijgen op risicoprofielen en voorspellende systemen bij de overheid, deelt het College voor de rechten van de mens een Handreiking – (Semi-)geautomatiseerde besluitvorming door de overheid. Daarin staan stappen die overheden kunnen nemen om te voorkomen dat ze door de inzet van ai en algoritmen burgers discrimineren of benadelen.
‘De (lokale) overheid zet op grote schaal computers in bij besluiten over burgers. Een neveneffect is dat risicoprofielen en voorspellende systemen kunnen leiden tot schending van de mensenrechten. Zo kunnen fouten in data en algoritmes zorgen voor discriminatie. Daarnaast wordt het moeilijker om een besluit aan te vechten’, lichten de samenstellers toe.
‘Ondanks grote incidenten als etnisch profileren door de Belastingdienst en ingrijpende controles op bijstandsfraude door verschillende gemeenten, is (semi-)geautomatiseerde besluitvorming nog steeds een onzichtbare ontwikkeling. Door fouten in data en algoritmes kunnen groepen burgers als fraudeur worden aangemerkt. Bovendien wordt het in de praktijk moeilijker om een besluit aan te vechten, want burgers ontvangen niet altijd de achterliggende – digitale – informatie’, stelt het college.

AVG

Het uitgangspunt van de Algemene Verordening Gegevensbescherming (AVG) is dat organisaties zelf nadenken over de opbrengsten en risico’s van gegevensverwerking en over transparantie naar gebruikers.
Eerder meldde KPMG dat toezicht op algoritmes die persoonsgegevens verwerken niet van de grond komt doordat de AP over onvoldoende mankracht, geld en middelen beschikt.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt artificiële intelligentie en machine learning om spam te verminderen. Bekijk hoe uw reactiegegevens worden verwerkt.

Gerelateerde berichten

De voor- en nadelen van kunstmatige intelligentie onder de loep: van machine learning tot GPT!

Kunstmatige intelligentie (A.I.) is een technologie die steeds verder ontwikkeld wordt en die steeds meer gebruikt wordt in allerlei soorten industrieën. A.I. biedt enorme mogelijkheden om processen te automatiseren en te verbeteren, en om nieuwe manieren te vinden om problemen op te lossen. Hoewel A.I. en machine learning enorme voordelen kunnen bieden, is het belangrijk om te erkennen dat er ook bezorgdheid bestaat over de mogelijke gevolgen van deze technologieën, zoals werkloosheid en discriminatie. Overheden kunnen helpen om ervoor te zorgen dat A.I. op verantwoorde wijze wordt ontwikkeld en gebruikt, en mensen kunnen hun eigen kennis over A.I. vergroten door opleidingsprogramma’s te volgen en het gesprek aan te gaan met experts op het gebied van A.I.

Lees verder

Data delen moet verkeer veilig maken

Het ministerie van Infrastructuur en Waterstaat (I&W) start een nieuw project dat het wegverkeer veiliger moet maken. Onder de naam Safety Priority Services (SPS) wordt met ANWB, Be-Mobile, Hyundai, Inrix, Kia en TomTom samengewerkt om data te delen en daarmee het aantal veiligheidsmeldingen in navigatiesystemen op te voeren.

Lees verder

Hoe ontsluiten data iedereen klaarstoomt voor succes

Waar bedrijven vroeger transformatieplannen voor een periode van drie jaar maakten, veranderen technologische innovaties en klantverwachtingen tegenwoordig veel sneller. Alles wat bedrijven doen, moet worden gedreven door flexibiliteit, wendbaarheid en klantgerichtheid. Digitaal transformeren omvat alles. Van het verbinden met en het bedienen van klanten, tot het bouwen van de juiste data-architectuur, tot het verankeren van een open datacultuur in hun organisatie. Digitaal transformeren omvat ook het trainen van hun personeel om data effectief en transparant te delen en te benutten. Dit artikel is het tweede deel van een drieluik waarbij wordt gekeken naar de veranderende rol van cio’s.

Lees verder
U bent helemaal bij, dit was het laatste bericht.
  • Tags

  • Categorieën

  • Archieven

  • Naar de inhoud springen