Zijn algoritmes ons de baas?

Zijn algoritmes ons de baas?
Jeroen Tegelaar

We verdrinken in onze data en vertrouwen steeds meer op zelfdenkende programma’s om ons denkwerk te doen.

We voelen ons verloren in deze datatsunami en beperken ons tot (vaak oppervlakkige) analyses van anderen, zonder zelf meer tot de kern van de zaak te komen. Als samenleving kiezen we er steeds vaker voor onze hersenactiveiten uit te besteden aan geavanceerde technologie die ronkend wordt aangeduid als Artificial Intelligence (AI), waar naar mijn idee de term “machine learning” beter de lading dekt. Het fundament van deze lerende machines zijn de zogenoemde zelflerende algoritmes.

Voor de duidelijkheid: een algoritme is in essentie niets meer dan een vooropgestelde reeks van stappen om een bepaald doel te bereiken. Het concept is letterlijk al zo oud als de weg naar Rome; denk maar aan de stelling van Pythagoras, de opzet van de Mayakalender of het recept van oma voor gehaktballen.

Is het gebruik van algoritmes in de kern dan verkeerd? Nee. Algoritmes zijn vandaag de dag niet meer dan een geschreven code die ons veel voordelen en gemak oplevert – denk aan de juiste route om files te vermijden, de gepersonaliseerde suggesties voor content op Netflix en Spotify en het gevonden worden van de eigen bedrijfswebsite op basis van een cluster van trefwoorden. De introductie van nieuwe technologie heeft de mens als soort tot nu toe vele grenzen doen slechten die voorheen als onneembaar werden gezien. Maar waar zit dan de zorg?

De zorg is er voor de ongecontroleerde en grootschalige inzet van de nieuwe generatie voorspellende algoritmes binnen bedrijven en overheden die data als de nieuwe olie beschouwen. Veel organisaties zetten een afdeling op van net afgestudeerde “data scientists” die databases gedachtenloos leegtrekken zonder zich te verdiepen in de bedrijfsprocessen die ten grondslag hebben gelegen aan de creatie van de data.

Zo is de casus van de automatische afwijzing van kandidaten bij een grote multinational een paar jaar geleden een typisch geval van een heilig geloof in technologie en de waarde van data. Wat was er aan de hand? Als experiment werd op basis van parameters een algoritme zodanig opgezet dat deze automatisch de juiste keuze zou maken voor een kandidaat voor een bepaalde functie op basis van een analyse van het cv. Dit experiment werd na enkele testen als succesvol gezien en geïmplementeerd. Al snel bleek in de praktijk dat mogelijke kandidaten automatisch werden afgewezen omdat zij niet de juiste hobby’s hadden op hun cv.

Nu was dit niet van te voren zo vastgelegd, maar op basis van de gekozen trefwoorden die weer waren gebaseerd op de data van het bestaande personeel had het algoritme automatisch bepaald dat hobby’s als tennis en hockey acceptabel waren en andere hobby’s niet. En dat op basis daarvan mensen niet zouden passen in de bestaande bedrijfscultuur.

Zorgelijk is ook de recentelijke onthulling dat Nederlandse gemeentes data van Nederlandse burgers gebruiken om voorspellingen te doen over het gebruik van bepaalde openbare en sociale voorzieningen op basis van woonadres, postcode en gezinssamenstelling. Het is wachten op de eerste casus van een persoon die op basis van een onethische beslissing in het algoritme oneerlijk wordt gekort op zijn uitkering of een bezoekje krijgt van de kinderbescherming.

Nu gaan er veel stemmen op dat er strengere regulering moet komen. Vertegenwoordigers van bedrijven en overheden zeggen juist weer dat het allemaal wel meevalt en dat er eerst meer onderzoek nodig is om de impact op de samenleving te duiden. In mijn ogen een verkeerde reflex van alle partijen. Er zijn al voldoende uitstekende boeken geschreven over deze materie met talloze praktijkvoorbeelden (Algoritmes aan de macht van Hannah Fry om er maar eentje te noemen). Er is een expertgroep binnen de Europese commissie die sinds 2018 bezig de impact en mogelijkheden van AI binnen Europese landen te onderzoeken met interessante resultaten. Binnen de conservatieve accountancywereld circuleren er zelfs al meerdere AI-controleraamwerken direct toepasbaar voor de jaarlijkse audit. En voor de opzet van een ethisch opgestelde algoritme heeft de Utrecht Data School een prima model ontwikkeld.

Het is alsof bedrijven en overheden moedwillig hun ogen sluiten voor deze handvaten en in plaats hiervan zonder een goede voorbereiding en aandacht voor de daadwerkelijke impact data ten gelde wil maken met behulp van algoritmes. Zoals al met veel technologie: deze is net zo als goed als wij het bouwen. Kwestie van goed programmeren. En blijven nadenken. Jammer dat we nou juist deze hersenactiviteiten hebben uitbesteed.

Over Jeroen
Jeroen Tegelaar is managing director bij CRANIUM Nederland. Hij verbindt end-to-end oplossingen op het gebied van privacy, security en datamanagement. Door de juiste middelen en connecties te bieden, maar ook door deel te nemen aan de uitvoering van de projecten.

See all our brands