Skip naar inhoud

AP waarschuwt voor fouten met AVG bij ai-projecten

Wilt u deze bijdrage aanbevelen? Dat kan via:

Steeds meer bedrijven en overheden experimenteren met ai-toepassingen. Vaak zijn persoonsgegevens in het spel en dus moeten tests voldoen aan privacyregels zoals vastgelegd in de AVG (Algemene Verordening Gegevensbescherming). Ook voor ai-pilots gelden strenge regels, waarschuwt de privacy-toezichthouder.
Tests, pilots, proeven, houtskoolschetsen, proof of concepts. Bedrijven en overheden experimenteren er flink op los met ai. Maar in die drang naar nieuwe toepassingen zien ze de AVG nogal eens over het hoofd, zegt AP-directeur systeemtoezicht, beveiliging en technologie, Cecile Schut.
In een online-sessie van de AP tijdens het congres Nederland Digitaal waarschuwt de privacy-toezichthouder dat er ook voor het gebruik van persoonsgegevens in ai-testtrajecten strenge regels gelden. ‘Vaak wordt vergeten dat die ook onder de AVG vallen.’
Ze verwijst naar de verantwoordingsplicht van partijen die persoonsgegevens gebruiken. Daarin moet op papier staan met welk doel bepaalde data worden gebruikt. Ook moet bij controle door de AP of navraag van een betrokkene die informatie beschikbaar zijn.

Hoog privacy-risico

De AP wijst erop dat wanneer gegevensverwerking waarschijnlijk een hoog privacy-risico oplevert voor betrokkenen, het verplicht is om een data protection impact assessment (dpia) op te stellen. Die beoordeling is dus ook verplicht voor tests waarin persoonsgegevens worden gebruikt.
In het dpia moeten vooraf alle verwerkingen verantwoord worden. Zo moet de vraag gesteld worden of er een redelijke verhouding is tussen het doel en het ingezette middel (proportionaliteit) en waarom dit de beste manier is om dat te bereiken (subsidiariteit). Ook de risico’s op ongewenste uitkomsten (bias) en fouten in het algoritme moeten benoemd zijn. In het dpia staat verder informatie over beveiliging, de rechten van betrokkenen, transparantie en uitlegbaarheid van ai. De AP benadrukt dat het gaat om een doorlopend proces dat regelmatig geëvalueerd moet worden.

Voorleggen voor advies

Schut adviseert om ai-plannen altijd voor te leggen aan de functionaris gegevensbescherming van de eigen organisatie. Dat is degene die binnen de organisatie toezicht houdt op de toepassing en naleving van de AVG. Voor sommige organisaties is zo’n functie verplicht. Zijn er daarna nog vragen, dan kan de functionaris eventueel aankloppen bij de AP voor raadgeving, meldt Schut.

Onzichtbare ontwikkeling

Om grip te krijgen op risicoprofielen en voorspellende systemen bij de overheid, deelt het College voor de rechten van de mens een Handreiking – (Semi-)geautomatiseerde besluitvorming door de overheid. Daarin staan stappen die overheden kunnen nemen om te voorkomen dat ze door de inzet van ai en algoritmen burgers discrimineren of benadelen.
‘De (lokale) overheid zet op grote schaal computers in bij besluiten over burgers. Een neveneffect is dat risicoprofielen en voorspellende systemen kunnen leiden tot schending van de mensenrechten. Zo kunnen fouten in data en algoritmes zorgen voor discriminatie. Daarnaast wordt het moeilijker om een besluit aan te vechten’, lichten de samenstellers toe.
‘Ondanks grote incidenten als etnisch profileren door de Belastingdienst en ingrijpende controles op bijstandsfraude door verschillende gemeenten, is (semi-)geautomatiseerde besluitvorming nog steeds een onzichtbare ontwikkeling. Door fouten in data en algoritmes kunnen groepen burgers als fraudeur worden aangemerkt. Bovendien wordt het in de praktijk moeilijker om een besluit aan te vechten, want burgers ontvangen niet altijd de achterliggende – digitale – informatie’, stelt het college.

AVG

Het uitgangspunt van de Algemene Verordening Gegevensbescherming (AVG) is dat organisaties zelf nadenken over de opbrengsten en risico’s van gegevensverwerking en over transparantie naar gebruikers.
Eerder meldde KPMG dat toezicht op algoritmes die persoonsgegevens verwerken niet van de grond komt doordat de AP over onvoldoende mankracht, geld en middelen beschikt.

Lees ook:

Wat wil en wenst de ontwikkelaar?

In een krappe ict-arbeidsmarkt is het voor werkgevers interessant te weten wat er onder ontwikkelaars leeft. Bedrijven die de juiste tools bieden, hebben een streepje voor. Een internationaal onderzoek onder ruim zeventigduizend ontwikkelaars uit de Stack Overflow-community geeft inzicht in de trends. Dit rapport is bij recruiters dan ook niet onopgemerkt gebleven. Ze krijgen zo een beeld van hoe developers leren en meer kennis vergaren, welke tools ze gebruiken en waaraan ze behoefte hebben.

TNO: Europa kan tech-overmacht VS en China doorbreken

Zet vol in op de ontwikkeling van 6G, maak Gaia-X volwassen, loop voorop met edge computing en omarm open technologie. Dit zijn enkele aanbevelingen van TNO om in Europa de overheersing van Big Tech en Chinese (5G-)bedrijven te doorbreken.

Subpostmaster campaigning forces government to set up compensation scheme and make interim payments

Subpostmaster campaign group is a step closer to achieving what it was originally set up to do as government launches compensation scheme for its members who did not receive fair payouts

Advies: wacht met 3,5 GHz tot Inmarsat weg is

Het duurt waarschijnlijk tot eind 2023 voordat de 3,5-GHz-frequentieband beschikbaar komt voor openbare mobiele-communicatiediensten. Er is weliswaar veel vraag naar extra frequentieruimte, maar op de daarvoor afgesproken 3,5-GHz-band kan dat storen met noodoproepen van de lucht- en zeevaart. Het ministerie krijgt het advies te wachten totdat satellietbedrijf Inmarsat is verhuisd van het Friese Burum naar Griekenland.

Na sase komt sse (security service edge)

Security service edge (sse) is de evolutie van het sase-framework van Gartner. Door de letter ‘A’ (voor ’access) te verwijderen, wordt duidelijk dat het netwerk niet langer wordt beschouwd als onderdeel van een beveiligingsoplossing. Het is slechts het mechanisme dat de datastromen naar het security- en controleplatform transporteert.

UK tech has 2.8% gender ‘wage gap’, says Hired

The wage offered to women for tech jobs in the UK is 2.8% less than offered to male counterparts – a larger gap than in the US and Canada, says Hired

Wilt u deze bijdrage aanbevelen? Dat kan via:

Klaar voor de beste oplossing voor uw IT & ICT-situatie?

Ik heb mijn wachtwoord gewijzigd in “onjuist.” Dus wanneer ik vergeet wat het is, zal de computer zeggen: “Uw wachtwoord is onjuist.”