Tegengaan vooroordelen in algoritmes

Het tegengaan van vooroordelen in algoritmes dient op verschillende niveaus te gebeuren: 1) Mens: een grotere diversiteit in de mensen die ict bedenken en maken, zal leiden tot eerlijkere systemen. (West, Whittaker, & Crawford, 2019). Hoe te komen tot een grotere diversiteit in het personeelsbestand is een pittig HRM-vraagstuk omdat de huidige populatie ict’ers vrij homogeen is (veelal wit en man). Door actief op zoek te gaan naar medewerkers die niet in het standaardplaatje passen en er vervolgens voor te zorgen dat deze mensen zich thuis voelen, kan de diversiteit vergroot worden. Diversiteit in ict gaat uiteraard over meer doelgroepen dan vrouwen, maar hierover is wel veel onderzocht, zoals de Toolbox Gender Include IT (https://www.wijzijnkatapult.nl/ictinclusiefvrouwen/). Verder is het ook van belang dat business- en ict-medewerkers weten hoe ethisch te redeneren. Wanneer medewerkers ethische vraagstukken in hun werk herkennen en bij botsende waarden een morele afweging kunnen maken, zullen er minder vooroordelen in algoritmes sluipen. Er zijn verscheidene ethische methoden die gebruikt kunnen worden bij het ontwikkelen van algoritmen (NL AI coalitie, 2022) en hier wordt hard op ingezet bij de rijksoverheid met de Werkagenda Waardengedreven Digitaliseren (Rijksoverheid, 2022). Investeren in ethiek is dus een noodzaak. 2) Proces: algoritmes zijn een onderdeel binnen een systeem van samenhangende processen. Zoals bij de rijksoverheid van wetgeving tot het uitvoeren van de hieruit voortvloeiende taken. Dit geheel van processen rondom algoritmes noemen we het algoritmisch systeem. Bij iedere stap binnen dit algoritmisch systeem kan bias ontstaan. Door dit proces helder in te richten, bijvoorbeeld met als leidraad Impact Analyse Mensenrechten en Algoritmes (IAMA), wordt de kans op vooroordelen binnen dit systeem verkleind. 3)Technologie: AI leert over het algemeen van historische data en is daarmee een afspiegeling van onze samenleving nu en vooral van vroeger. Tooling kan helpen om de ongelijkheid in datasets te verkleinen en deze representatiever te maken. Daarnaast zijn er allerlei ontwikkelingen om AI-modellen te helpen om rechtvaardiger te worden. Tools variëren van open-source toolkits als Fairlearn tot tools van techbedrijven als AI Fairness 360 van IBM. 4) Transparantie: transparantie is nodig binnen de drie niveaus zelf. Mens: een organisatiecultuur van transparantie leidt ertoe dat mensen zich eerder durven te uiten wanneer zich misstanden voordoen. Proces: een transparant proces leidt tot heldere stappen met duidelijke escalatieniveaus om te komen tot rechtvaardigere algoritmes. Technologie: soms is het denkbaar dat een enkel algoritme niet uitlegbaar is, maar wanneer AI-toepassingen ingrijpend zijn in een mensenleven is het niet aanvaardbaar dat de uitkomsten van een algoritmisch systeem zelfs voor de maker technisch onuitlegbaar zijn (Maurits, 2023). Daarnaast dienen organisaties transparant te zijn naar de buitenwereld over hun algoritmische systemen. De overheid zet hierin nu een stap met de invoering van het algoritmeregister. Wanneer dit register zodanig functioneert dat het burgers vertrouwen geeft in de algoritmische systemen, biedt het daarmee tegelijk een spiegel aan de organisatie zelf.