Skip to content

Would you like to recommend this contribution? This can be done via:

In de tijd dat ai nog het onderzoeksterrein van vooral wetenschappers was, bleef het risico ervan beperkt. Maar de verdere ontwikkeling van ai en het groeiende aanwezigheid ervan in bedrijfsleven en maatschappij heeft de impact vele malen groter gemaakt. Fouten, verkeerde interpretaties en bevooroordeelde resultaten liggen op de loer. Verantwoord gebruik van ai zou daarom het uitgangspunt moeten zijn voor elke organisatie die ai holistisch aanpakt.

Wat is de definitie van verantwoorde ai? Binnen verantwoorde ai dienen de resultaten van een ai-systeem in lijn te zijn met zowel de goede bedoelingen van een organisatie als de gewenste impact buiten die organisatie. Dit betekent dat systemen zich moeten richten op personen die de meeste impact van ai ondervinden. Organisaties dienen de juiste methoden te integreren bij de ontwikkeling en implementatie van hun ai-projecten. Elke organisatie heeft z’n eigen beoogde effecten met ai, maar de echte uitdaging is hoe je verantwoorde ai integreert in de reeds aanwezige ai.

Ethische regels

“Leidinggevenden dienen de bredere impact van ai uiteen te zetten en deze doelen breed te communiceren”

De eerste stap voor een bedrijf dat besluit om ai in te zetten, is het opstellen ethische regels waarbinnen de ai moet opereren. Leidinggevenden dienen de bredere impact van ai uiteen te zetten en deze doelen breed te communiceren. Een dergelijke definitie en de opgestelde criteria – die verband houden met de waarden van het bedrijf – hebben twee voordelen: de organisatie neemt een duidelijk standpunt in én het vergemakkelijkt de communicatie van deze ethiek aan alle teams.

Governance en empowerment

De andere twee pijlers voor verantwoord gebruik van ai, governance en empowerment, zijn net zo belangrijk als het definiëren van ethiek. Governance gaat over het creëren van controle-momenten in het proces en zorgt ervoor dat processen zijn te volgen. Daarbij gaat het niet alleen om hoe goed het model in de loop van de tijd presteert of hoe robuust een systeem is, het gaat om de belangrijke vragen: wie heeft toegang tot de gegevens, voor wie zijn ze, voor welke specifieke doeleinden worden ze gebruikt, waar worden deze modellen ingezet en wie heeft besloten wanneer ze werden geïmplementeerd?

Empowerment wijst leidinggevenden op de juiste methoden om het doel van ai te bereiken, en op het verstrekken van de juiste tools aan degenen die bij de ontwikkeling van ai betrokken zijn. Zo kunnen ze daadwerkelijk verantwoorde producten bouwen. Dit betekent ook dat ai-ontwikkelaars over methoden moeten beschikken om het team te waarschuwen voor mogelijke valkuilen.

Onderzoek de data

“Bedrijven kregen meer cv’s van succesvolle mannelijke kandidaten dan succesvolle vrouwen”

Om ethisch verantwoorde ai de ruimte te geven, zullen bedrijven medewerkers erbij moeten betrekken die model staan voor degenen die de algoritmen later gaan gebruiken. Een ai-algoritme is gebaseerd op reeds bestaande data en die gegevens bepalen het gedrag van toekomstige ai. Kijk maar naar de subjectiviteit die aan het licht kwam bij de screening van sollicitanten door middel van ai. Daarbij kregen bedrijven meer cv’s van succesvolle mannelijke kandidaten dan succesvolle vrouwen. Vanwege het gebruik van historische data over werving, stonden de algoritmen ingesteld om vrouwen strenger te screenen dan mannen.

Dit laat zien dat data vaak vooringenomen zijn. Het voorbeeld van vrouwen die automatisch worden uitgesloten van wervingsprocessen houdt verband met vooroordelen uit het verleden. Sterker, als recruiters het algoritme verstrekken op basis van hun eigen criteria, zal ai dezelfde tekortkomingen vertonen. Om ​​ai verantwoord te laten werken, moeten bedrijven hun modellering en validatietechnieken onderzoeken en zich ervan bewust zijn dat elke stap in het creëren van een ai waarschijnlijk vooroordelen en afwijkingen veroorzaakt.

Er zijn verschillende manieren om vooroordelen in datasets te onderzoeken, voordat je met modelontwikkeling begint. Een daarvan is exploratory data analysis (eda). Dit is een goede manier om de zoektocht naar onderliggende vooroordelen in gegevens bloot te leggen. Eda helpt teams hun datamonsters beter te begrijpen en samen te vatten. Ook is het zo eenvoudiger om concrete conclusies te trekken uit de dataset die een populatie vertegenwoordigt. Inzicht is ook te vergroten  door de structuur van een dataset te visualiseren.

Data zijn ook te verkennen met datasheets om problemen in die data aan te wijzen en eventuele hiaten te erkennen. Bij het aanmaken van datasheets moet de maker antwoord geven op vragen over datasetverzameling, motivatie, samenstelling, labeling, voorbehandeling, beoogd gebruik, onderhoud en distributie. Dit helpt bouwers om na te gaan hoe data zijn verzameld, zodat mogelijke bronnen van vooroordelen transparant worden.

Overschakelen naar een nieuwe AI-mentaliteit

Tegenwoordig heeft een aanzienlijk deel van de bedrijven die met data science zijn gestart, dit semi-organisch gedaan. Het is niet ongebruikelijk dat binnen een organisatie verschillende teams AI ontwikkelen, die allemaal verschillende technologieën en data gebruiken. Bedrijfsbrede governance kan het mogelijk maken om lopende projecten te volgen en te visualiseren, om te zien welke gegevens worden gebruikt en hoe deze worden ingezet. Het is belangrijk dat bedrijven een cultuur creëren waarin verantwoorde AI over de hele linie wordt gewaardeerd. Bij verantwoording gaat het erom AI mensgericht te maken en dat je met de juiste mensen bespreekt hoe modellen werken zoals ze bedoeld zijn.

Er is geen wondermiddel als het gaat om verantwoorde AI, en het werk aan verantwoorde systemen moet voortdurend worden geëvalueerd. Zorgen bedrijven ervoor dat ze hun ethiek onder woorden kunnen brengen en governance en empowerment invoeren terwijl ze ook de data testen? Dan verkeren ze in goede positie om verantwoorde AI in de hele organisatie te integreren.

Also read:

EasyComp Host launches renewed website with doubled server capacity and lower prices!

We are proud to announce that EasyComp Host has launched a revamped website with even more powerful hosting options. In addition to our new website, we have doubled the capacity of our server rack, and we are completely under our own management. This means that we are able to keep our prices as low as possible while continuing to provide our customers with the best service. As a result, we are able to offer up to 5x more than was previously the case, and all for a Zeeland price!

Subpostmaster campaigning forces government to set up compensation scheme and make interim payments

Subpostmaster campaign group is a step closer to achieving what it was originally set up to do as government launches compensation scheme for its members who did not receive fair payouts

UK tech has 2.8% gender ‘wage gap’, says Hired

The wage offered to women for tech jobs in the UK is 2.8% less than offered to male counterparts – a larger gap than in the US and Canada, says Hired

Government won’t regulate on professional cyber standards

The government has elected not to proceed with regulatory intervention to embed standards and pathways across the cyber profession

Two-thirds of UK organisations defrauded since start of pandemic

Nearly two out of three UK companies say they have experienced some form of fraud or economic crime in the past two years, according to a report

Hydrogen’s promise: How fuel cells might power lower-carbon datacentres

Could UK datacentre operators soon adopt emerging hydrogen technologies to reach expanding energy and emissions requirements?

Would you like to recommend this contribution? This can be done via:

Klaar voor de beste oplossing voor uw IT & ICT-situatie?

Ik heb mijn wachtwoord gewijzigd in “onjuist.” Dus wanneer ik vergeet wat het is, zal de computer zeggen: “Uw wachtwoord is onjuist.”