Skip naar inhoud

Wilt u deze bijdrage aanbevelen? Dat kan via:

In de tijd dat ai nog het onderzoeksterrein van vooral wetenschappers was, bleef het risico ervan beperkt. Maar de verdere ontwikkeling van ai en het groeiende aanwezigheid ervan in bedrijfsleven en maatschappij heeft de impact vele malen groter gemaakt. Fouten, verkeerde interpretaties en bevooroordeelde resultaten liggen op de loer. Verantwoord gebruik van ai zou daarom het uitgangspunt moeten zijn voor elke organisatie die ai holistisch aanpakt.

Wat is de definitie van verantwoorde ai? Binnen verantwoorde ai dienen de resultaten van een ai-systeem in lijn te zijn met zowel de goede bedoelingen van een organisatie als de gewenste impact buiten die organisatie. Dit betekent dat systemen zich moeten richten op personen die de meeste impact van ai ondervinden. Organisaties dienen de juiste methoden te integreren bij de ontwikkeling en implementatie van hun ai-projecten. Elke organisatie heeft z’n eigen beoogde effecten met ai, maar de echte uitdaging is hoe je verantwoorde ai integreert in de reeds aanwezige ai.

Ethische regels

“Leidinggevenden dienen de bredere impact van ai uiteen te zetten en deze doelen breed te communiceren”

De eerste stap voor een bedrijf dat besluit om ai in te zetten, is het opstellen ethische regels waarbinnen de ai moet opereren. Leidinggevenden dienen de bredere impact van ai uiteen te zetten en deze doelen breed te communiceren. Een dergelijke definitie en de opgestelde criteria – die verband houden met de waarden van het bedrijf – hebben twee voordelen: de organisatie neemt een duidelijk standpunt in én het vergemakkelijkt de communicatie van deze ethiek aan alle teams.

Governance en empowerment

De andere twee pijlers voor verantwoord gebruik van ai, governance en empowerment, zijn net zo belangrijk als het definiëren van ethiek. Governance gaat over het creëren van controle-momenten in het proces en zorgt ervoor dat processen zijn te volgen. Daarbij gaat het niet alleen om hoe goed het model in de loop van de tijd presteert of hoe robuust een systeem is, het gaat om de belangrijke vragen: wie heeft toegang tot de gegevens, voor wie zijn ze, voor welke specifieke doeleinden worden ze gebruikt, waar worden deze modellen ingezet en wie heeft besloten wanneer ze werden geïmplementeerd?

Empowerment wijst leidinggevenden op de juiste methoden om het doel van ai te bereiken, en op het verstrekken van de juiste tools aan degenen die bij de ontwikkeling van ai betrokken zijn. Zo kunnen ze daadwerkelijk verantwoorde producten bouwen. Dit betekent ook dat ai-ontwikkelaars over methoden moeten beschikken om het team te waarschuwen voor mogelijke valkuilen.

Onderzoek de data

“Bedrijven kregen meer cv’s van succesvolle mannelijke kandidaten dan succesvolle vrouwen”

Om ethisch verantwoorde ai de ruimte te geven, zullen bedrijven medewerkers erbij moeten betrekken die model staan voor degenen die de algoritmen later gaan gebruiken. Een ai-algoritme is gebaseerd op reeds bestaande data en die gegevens bepalen het gedrag van toekomstige ai. Kijk maar naar de subjectiviteit die aan het licht kwam bij de screening van sollicitanten door middel van ai. Daarbij kregen bedrijven meer cv’s van succesvolle mannelijke kandidaten dan succesvolle vrouwen. Vanwege het gebruik van historische data over werving, stonden de algoritmen ingesteld om vrouwen strenger te screenen dan mannen.

Dit laat zien dat data vaak vooringenomen zijn. Het voorbeeld van vrouwen die automatisch worden uitgesloten van wervingsprocessen houdt verband met vooroordelen uit het verleden. Sterker, als recruiters het algoritme verstrekken op basis van hun eigen criteria, zal ai dezelfde tekortkomingen vertonen. Om ​​ai verantwoord te laten werken, moeten bedrijven hun modellering en validatietechnieken onderzoeken en zich ervan bewust zijn dat elke stap in het creëren van een ai waarschijnlijk vooroordelen en afwijkingen veroorzaakt.

Er zijn verschillende manieren om vooroordelen in datasets te onderzoeken, voordat je met modelontwikkeling begint. Een daarvan is exploratory data analysis (eda). Dit is een goede manier om de zoektocht naar onderliggende vooroordelen in gegevens bloot te leggen. Eda helpt teams hun datamonsters beter te begrijpen en samen te vatten. Ook is het zo eenvoudiger om concrete conclusies te trekken uit de dataset die een populatie vertegenwoordigt. Inzicht is ook te vergroten  door de structuur van een dataset te visualiseren.

Data zijn ook te verkennen met datasheets om problemen in die data aan te wijzen en eventuele hiaten te erkennen. Bij het aanmaken van datasheets moet de maker antwoord geven op vragen over datasetverzameling, motivatie, samenstelling, labeling, voorbehandeling, beoogd gebruik, onderhoud en distributie. Dit helpt bouwers om na te gaan hoe data zijn verzameld, zodat mogelijke bronnen van vooroordelen transparant worden.

Overschakelen naar een nieuwe AI-mentaliteit

Tegenwoordig heeft een aanzienlijk deel van de bedrijven die met data science zijn gestart, dit semi-organisch gedaan. Het is niet ongebruikelijk dat binnen een organisatie verschillende teams AI ontwikkelen, die allemaal verschillende technologieën en data gebruiken. Bedrijfsbrede governance kan het mogelijk maken om lopende projecten te volgen en te visualiseren, om te zien welke gegevens worden gebruikt en hoe deze worden ingezet. Het is belangrijk dat bedrijven een cultuur creëren waarin verantwoorde AI over de hele linie wordt gewaardeerd. Bij verantwoording gaat het erom AI mensgericht te maken en dat je met de juiste mensen bespreekt hoe modellen werken zoals ze bedoeld zijn.

Er is geen wondermiddel als het gaat om verantwoorde AI, en het werk aan verantwoorde systemen moet voortdurend worden geëvalueerd. Zorgen bedrijven ervoor dat ze hun ethiek onder woorden kunnen brengen en governance en empowerment invoeren terwijl ze ook de data testen? Dan verkeren ze in goede positie om verantwoorde AI in de hele organisatie te integreren.

Lees ook:

Help een jongere zijn studie door, doneer nu je oude laptop.

Het zal u vast nog niet ontgaan zijn, maar door de hoge inflatie is alles duurder geworden. In sommige gevallen zelfs te duur, zoals een nieuwe laptop voor een studie.

Wat wil en wenst de ontwikkelaar?

In een krappe ict-arbeidsmarkt is het voor werkgevers interessant te weten wat er onder ontwikkelaars leeft. Bedrijven die de juiste tools bieden, hebben een streepje voor. Een internationaal onderzoek onder ruim zeventigduizend ontwikkelaars uit de Stack Overflow-community geeft inzicht in de trends. Dit rapport is bij recruiters dan ook niet onopgemerkt gebleven. Ze krijgen zo een beeld van hoe developers leren en meer kennis vergaren, welke tools ze gebruiken en waaraan ze behoefte hebben.

TNO: Europa kan tech-overmacht VS en China doorbreken

Zet vol in op de ontwikkeling van 6G, maak Gaia-X volwassen, loop voorop met edge computing en omarm open technologie. Dit zijn enkele aanbevelingen van TNO om in Europa de overheersing van Big Tech en Chinese (5G-)bedrijven te doorbreken.

Subpostmaster campaigning forces government to set up compensation scheme and make interim payments

Subpostmaster campaign group is a step closer to achieving what it was originally set up to do as government launches compensation scheme for its members who did not receive fair payouts

Advies: wacht met 3,5 GHz tot Inmarsat weg is

Het duurt waarschijnlijk tot eind 2023 voordat de 3,5-GHz-frequentieband beschikbaar komt voor openbare mobiele-communicatiediensten. Er is weliswaar veel vraag naar extra frequentieruimte, maar op de daarvoor afgesproken 3,5-GHz-band kan dat storen met noodoproepen van de lucht- en zeevaart. Het ministerie krijgt het advies te wachten totdat satellietbedrijf Inmarsat is verhuisd van het Friese Burum naar Griekenland.

Na sase komt sse (security service edge)

Security service edge (sse) is de evolutie van het sase-framework van Gartner. Door de letter ‘A’ (voor ’access) te verwijderen, wordt duidelijk dat het netwerk niet langer wordt beschouwd als onderdeel van een beveiligingsoplossing. Het is slechts het mechanisme dat de datastromen naar het security- en controleplatform transporteert.

Wilt u deze bijdrage aanbevelen? Dat kan via:

Klaar voor de beste oplossing voor uw IT & ICT-situatie?

Ik heb mijn wachtwoord gewijzigd in “onjuist.” Dus wanneer ik vergeet wat het is, zal de computer zeggen: “Uw wachtwoord is onjuist.”