Pleidooi voor een coherente AI-strategie
Van “computer says no” naar transparante hulp
Tekst Rob Nijman
Rob Nijman is client relationship executive for central government bij IBM
Artificiële Intelligentie (AI) transformeert elke dag meer en meer aspecten van hoe bedrijven en overheidsinstellingen werken en met de wereld omgaan. Het kan bijvoorbeeld ingezet worden in de strijd tegen sociale onrechtvaardigheid, om productiviteit te verhogen of om de werkzaamheidsgraad op te krikken.Tegelijkertijd zijn er ook legitieme zorgen over de manier waarop deze technologie wordt gebruikt, en overheden beginnen daar terecht op te reageren.
Onverantwoorde en ondoordachte toepassingen van AI kunnen tot stevige nadelen leiden. Bij sommige systemen is het soms niet meer duidelijk hoe de besluitvorming tot stand komt. Een zelflerend systeem kan hierdoor patronen zien en beslissingen nemen op basis van onwenselijke uitgangspunten.
Slimme systemen
Om situaties van computer says no te voorkomen, waarbij mensen te veel leunen op de output van slimme systemen, zonder te weten hoe de algoritmes en data tot hun resultaat zijn gekomen, is het belangrijk dat datasets goed worden beoordeeld. Op deze manier kunnen eventuele aannames en vooringenomen data eruit worden gefilterd. Helaas is er bij organisaties vaak nog te weinig expertise om deze datasets goed te beoordelen. Om dit op te lossen moeten overheidsorganisaties inzetten op waarde creëren en kansen benutten, aandacht hebben voorwetgeving en publieke waarden en overheidsdata kwalitatief verbeteren en beter benutten.
Richtlijnen
Om waarde te creëren is het belangrijk om onderzoek te doen naar de waarde van datatechnologie voor maatschappelijke opgaven. Om dit onderzoek goed te laten verlopen is het noodzakelijk dat de quadruple helix (de overheid, de wetenschap, het bedrijfsleven en de burgervertegenwoordiging binnen de maatschappij) samenwerken om meer kennis en vakmanschap over data en datatechnologie op te bouwen. Daarnaast is het ook belangrijk om aandacht te besteden aan wetgeving en maatschappelijke waarden. De overheid moet immers binnen een wettelijk kader handelen, op een legitieme en reconstrueerbare wijze. Overheidsinstanties moeten dus transparant zijn over hoe ze data genereren, verzamelen en verwerken. Om dit te realiseren kunnen bijvoorbeeld richtlijnen voor het gebruik van algoritmes worden uitgewerkt en een impact assessment worden vastgesteld omtrent publieke waarden. Bewustzijn, kennis en vaardigheden van de medewerkers spelen ook een belangrijke rol. Overheidsmedewerkers die op een verantwoorde manier omgaan met data en kunstmatige intelligentie, kunnen maatschappelijke en ethische kwesties die door AI op ons afkomen voorkomen. Nieuwe mogelijkheden van dataverwerking en -analyses vragen ook strategie, beleid en governance op het gebied van datakwaliteit, -ethiek, -veiligheid en privacy. Het transparant maken van data, datasets en attributen is hierbij cruciaal. Dit kan echter alleen maar als er een stevige sturing is op de informatievoorziening en als er duidelijke afspraken zijn gemaakt over het delen van data.
Eerste stap
Om een computer says no-samenleving te voorkomen moet de overheid een coherente AI-strategie ontwikkelt. Dit is de eerste stap in het creëren van een reeks van duidelijkere keuzes voor het bouwen en inzetten van AI-capaciteiten.