Over taartrecepten en de hond die een poot geeft
Persoonlijke speurtocht van een hardcore alfa
Tekst Theo Kremer
Theo Kremer is informatiespecialist bij ingenieursbureau Amsterdam
Een willekeurige greep citaten uit de zaterdageditie van Trouw van 22 januari 2022. ‘Gaat de mens zijn oorlogen uit handen geven?’ Het betreft een artikel waarin de voors en tegens van militaire technologische innovaties, eufemisme voor volledig autonoom oorlog voeren (zonder enige vorm van menselijk ingrijpen), worden besproken. En wat dacht u van deze? ‘Kunstmatige intelligentie maakt de mens gelukkiger en de maatschappij gezonder.’ Of: ‘Hoe fijn zou het zijn als je smartwatch je hielp om je aan je dieet te houden?’
Na deze informatie tot me genomen te hebben, had ik dringend behoefte aan een tweede bakje koffie en achtergrondinformatie. Wat is kunstmatige intelligentie? Wat is een algoritme? Hoe werkt het? En wat kunnen wij ermee? Opgegroeid in een analoge wereld besloot ik naar de bibliotheek te stappen en kwam terug met Algoritmes aan de macht van Hannah Fry. Met als uitsmijter op de kaft: ‘Heb je eigenlijk geen idee wat algoritmes eigenlijk zijn? Dan is dit het boek voor jou’. Inmiddels ligt het boek stijf van de geeltjes naast me, terwijl ik mijn speurtocht met jullie deel.
‘IN HET TIJDPERK VAN HET ALGORITME ZIJN MENSEN NOG NOOIT ZO BELANGRIJK GEWEEST’
High five
Volgens Fry is een algoritme ‘simpelweg een serie logische instructies die laat zien hoe je een taak van begin tot eind kunt volbrengen’. Volgens deze ruime definitie is een taartrecept ook een algoritme En IKEA-gidsen of zelfhulpboeken (die kan ik volgen). Maar ook: ‘Algoritmes zijn bijna altijd wiskundige objecten’ (was ik al bang voor). En: ‘Ze nemen een opeenvolging van wiskundige bewerkingen – met behulp van vergelijkingen, aritmetica (?), algebra, calculus (?), logica en waarschijnlijkheid – en vertalen die in computercode’ (valt mij mee, ondanks sommige rare termen klinkt het begrijpelijk). Zoekend naar de relatie met de beschreven algoritmes uit mijn zaterdagkrant, word ik verder bij de hand genomen en laat de schrijfster zien dat het ene algoritme het andere niet is. Grofweg zijn er twee hoofdgroepen:
- Op regels gebaseerde algoritmes Met logica van het type taartrecept en IKEA-handleiding;
- Machine learning-algoritmes. Zoals je een hond leert jou een high five te geven. Met veel aanmoediging, training en negeren van slecht gedrag. Vereiste is wel dat je als africhter vrij nauwkeurig in de gaten moet hebben wat je wilt aanleren en hoe je hem gaat belonen voor gewenst gedrag. Uiteindelijk moet de hond zelf snappen wat er van hem verwacht wordt. Het een is niet automatisch beter dan het andere. Het is afhankelijk van wat je wilt bereiken. Type 1 (taartrecept) is uitstekend geschikt voor problemen waar mensen instructies voor kunnen schrijven. Type 2 (het africhten) werkt met name goed voor problemen die niet opgelost kunnen worden met een lijst instructies. Bijvoorbeeld voorwerpen in plaatjes herkennen.
‘WE MOETEN MET GEZONDE SCEPSIS EN ZELFVERTROUWEN INTERDISCIPLINAIR AAN DE SLAG’
Vertrouwen
Echter, hoe doen ze dat als ze geen instructies meekrijgen? Hoe werkt dat kunstmatige brein? Ook bij mevrouw Fry komen vragen naar boven als: hoe kunnen we iets de baas blijven wat we niet begrijpen? Hoe kunnen we er zeker van zijn dat een model dat we niet begrijpen en niet de baas kunnen, niet tegen ons werkt? Helaas heeft ze de antwoorden niet. We moeten het doen met een overzicht van de huidige staat van de wetenschap in dezen. In het hoofdstukje “Intelligentie ontmoet natuurlijke domheid” wijst de schrijfster op de menselijke neiging om gecomputeriseerde resultaten niet in twijfel te trekken; wij accepteren algoritmes kritiekloos zonder ons af te vragen wat er achter de schermen aan de hand is. Als wiskundige stelt zij die vragen wel en aan de hand van een aantal voorbeelden laat ze zien ‘wat er achter de schermen aan de hand is, voldoende om te zien hoe de trucs werken’. Mooi, dan snap ik ook waarom ik wel of niet kan of wil afgaan op de dieetadviezen van mijn (nog aan te schaffen) smartwatch. En misschien begrijp ik dan ook wat ik moet weten om te kunnen inschatten of mijn expertise als informatiebeheerder hierin een bijdrage kan leveren en zo ja waaruit die kan bestaan.
Doorzichtig
Daarover straks meer, nu even terug naar de conclusies van Fry. Ik citeer: ‘Stel dat we accepteren dat perfectie niet bestaat? Algoritmes zullen fouten maken. Algoritmes zullen onrechtvaardig zijn… Maar alleen al door te erkennen dat algoritmes niet volmaakt zijn, net zomin als mensen, zullen we misschien minder vaak uitgaan van hun autoriteit.’ En hierop doorredenerend: ‘Stel je voor dat we ze ontwerpen om mensen in hun beslissingen te steunen, in plaats van bevelen. Om doorzichtig te zijn over hoe ze tot een specifieke beslissing kwamen, in plaats van ons alleen op de hoogte te brengen van het resultaat.’ Doorzichtig zijn, doorzichtig zijn, ja! Eindelijk had ik de link die ik zocht. De link met ons vakgebied informatiebeheer. Is informatiebeheer iets anders dan het handelen van onze organisatie doorzichtig maken? Een organisatie die dagelijks diep in het leven van onze burgers ingrijpt. Als we dat doen, vinden we Fry aan onze zijde. Zij sluit af met: ‘Want een ding is zeker: in het tijdperk van het algoritme zijn mensen nog nooit zo belangrijk geweest.’
Amsterdam
De vraag die zich dan aan me opdringt: hoe kunnen we dat dan doen? In Amsterdam, de stad waarvoor ik werk, probeert de gemeente grip te krijgen op informatietechnologie. Zij heeft een flinke groep informatieprofessionals in dienst, verspreid over meerdere afdelingen waaronder het CTO. Het Chief Technology Office (CTO) is in the lead. Jonge gepassioneerde IT-professionals proberen met behulp van de nieuwste technologie de gemeente slimmer, goedkoper en efficiënter te laten functioneren. Uiteraard ook met behulp van algoritmes. Tegelijk is er ook een beweging binnen diezelfde afdeling die ethische vragen stelt. Hoe transparant is de gemeente ten opzichte van haar burgers? Mogen we weten wat we weten? Weten burgers wat wij weten? En hoe wij dat weten? Om deze vragen te kunnen beantwoorden is er een algoritmeregister in het leven geroepen. Het algoritmeregister is ‘een overzicht van de algoritmes die de gemeente Amsterdam gebruikt bij gemeentelijke dienstverlening’. Verderop wordt uitgelegd wat je er kunt aantreffen. ‘Per algoritme vindt u eerst algemene informatie over de bedoeling en werking van het algoritme. Daarna vindt u meer gedetailleerde technische informatie […] Het register is nog in ontwikkeling.’ Bladerend door de site, zie ik een dwarsdoorsnede van alledaagse taken. Taken die de inwoner direct herkent als behorend bij de gemeente. Kortom, iedereen komt ermee in aanraking. De vraag die zich aan mij opdringt: wat hebben wij hieraan toe te voegen? Ik blijf ondanks het lezen van het boek van Hannah Fry, wat sceptisch over mijn toegevoegde waarde als hardcore alfa in deze omgeving.
Interdisciplinair
Mijn sceptische houding werd minder doordat de jurist die aan de wieg van het register had gestaan nadrukkelijk om de steun van haar collega’s informatiebeheer vroeg bij de uitvoering van deze taak. De vraag naar het wat, werd door haar beantwoord met: in ieder geval advies over bewaren en vernietigen en beschikbaar stellen van informatie, conform wet- en regelgeving. Wordt vervolgd. Eigenlijk, dacht ik, toen ik de presentatie nog eens rustig doornam, moeten we met gezonde scepsis en zelfvertrouwen interdisciplinair aan de slag. Gewoon omdat mensen nog nooit zo belangrijk zijn geweest. Al wil ik toch ook een smartwatch die me helpt met mijn dieet.