‘Voorzichtig zijn met AI bij personeelswerving’

Onderzoekers van de Hogeschool van Amsterdam ontwikkelden een discussietool voor organisaties die technologie voor werving en selectie in HR-processen implementeren. 'Als je geen goed antwoord hebt op deze vragen, doe je je werk niet goed genoeg.'

Kansen en risico’s

In het werving- en selectieproces wordt steeds meer technologie en AI ingezet. De Gemeente Amsterdam vroeg zich af wat de invloed hiervan is op diversiteit en inclusie op de werkvloer. Het Responsible AI Lab van de Hogeschool van Amsterdam zocht het uit. Om tot een antwoord op de vraag van de gemeente te komen, interviewden onderzoekers Pascal Wiggers en Hans de Zwart van de HvA ruim twintig leveranciers van wervings- en selectie-software, recruitmentspecialisten en organisaties die dit soort software gebruiken. Ook deden ze literatuuronderzoek. Het rapport beschrijft een aantal kansen die AI biedt om vooroordelen in het werving- en selectieproces tegen te gaan. Het gaat ook in op de risico's van de inzet van deze technologieën en geeft richtlijnen voor verantwoord gebruik ervan. Het allergrootste voordeel van AI in werving- en selectieprocessen zit in de schaal, zo blijkt. 'Als je uit 100.000 mogelijke kandidaten 500 mensen moet kiezen, dan gaat dat een stuk goedkoper met AI,' zegt De Zwart. 'Voor Amsterdam hebben we met name bekeken of de systemen daarnaast ondersteunen bij het vinden van een diverser publiek.'

Je kunt je afvragen in hoeverre de inzet van deze technologie leidt tot nieuwe vormen van discriminatie

Toetsbaar

In het wervingsproces kan technologie voor online marketing helpen om een breder groep mensen aan te spreken, door de vacatures online te tonen aan mensen die ze wellicht anders niet zouden zien. Bij selectie van kandidaten is het een voordeel dat de criteria waarop sollicitanten worden beoordeeld vastliggen in de technologie en daardoor toetsbaar zijn. Bias is zo beter meetbaar en verwijderbaar door discriminerende informatie te verwijderen. Het is mogelijk om achtergrondkenmerken van kandidaten irrelevant te maken. Zo kan een systeem uit sollicitatiebrieven de informatie halen die ertoe doet, zoals competenties, en alle andere kenmerken verwijderen. 'Dat biedt werkgevers kansen om kandidaten hopelijk meer te vergelijken op inhoud,' zegt Wiggers. 'Maar of je de stap erna ook moet automatiseren, betwijfel ik ten zeerste.'

Weinig bewijs

Een manier om kandidaten alleen op hun competenties te beoordelen, is door ze assessments te laten doen, bijvoorbeeld in de vorm van online games. De onderzoekers zijn kritisch over deze methode. Wiggers: 'Bewijzen de uitkomsten van deze spelletjes iets over hoe je de baan aankunt? We hebben psychologen en sociologen gesproken die ons vertelden dat ze dat niet hard kunnen maken. Een AI is een model getraind op voorbeelden, dat vertelt je ook niet veel over hoe het tot zijn conclusies komt.'  Er zijn ook systemen die persoonlijkheid van de kandidaat onder de loep nemen door de taal uit sollicitatiebrieven en LinkedIn-profielen te analyseren. Er is weinig bewijs dat dit iets zegt over hoe goed iemand zal zijn in het werk. Daarnaast: tot op zekere hoogte is weliswaar te controleren of de geselecteerde kandidaten geschikt zijn voor de baan waarvoor ze worden aangenomen, maar hoe weet je hoeveel geschikte kandidaten de computer heeft laten afvallen?

Bewijzen de uitkomsten van online games bij werving en selectie iets over hoe je de baan aankunt?

Bijsturen op bias

De technologie kan zeker wel onderdeel uitmaken van het werving- en selectieproces, mits met grote voorzichtigheid ingezet, zeggen de onderzoekers. De Zwart legt uit: 'Het is niet slecht om een idee te krijgen van de soft skills van kandidaten met behulp van assessments, naast andere signalen, maar doe dat met een leverancier die weet waar de risico's zitten en blijf bijsturen op bias. Kijk niet alleen of het eerlijk is voor mannen versus vrouwen, of mensen van kleur versus witte mensen, maar ook naar intersecties van groepen: is het ook nog eerlijk voor bijvoorbeeld vrouwen van kleur?' Je kunt je afvragen in hoeverre de inzet van deze technologie leidt tot nieuwe vormen van discriminatie, bijvoorbeeld van mensen met minder digitale vaardigheden. Dat beaamt Wiggers. 'Er is een handjevol aanbieders van dit soort technologie. Stel dat alle bedrijven diezelfde technologie gaan inzetten en jij kan daar niet mee overweg, dan wordt het een stuk moeilijk om überhaupt een baan te vinden.'

Discussietool

Al met al genoeg reden om kritisch te zijn over de rol van technologie in werving en selectie. Daarom ontwikkelden de onderzoekers de AI in Recruitment (AIR) Discussietool, twintig vragen die iedere organisatie zich wat hen betreft moet stellen. 'Als jij technologie implementeert binnen HR-processen voor werving en selectie en je hebt geen goede antwoorden op deze vragen, dan doe je je werk niet goed genoeg,' stelt De Zwart. 'Je moet zelf controleren of de technologie geen ongelijke impact heeft op verschillende mensen. Die verantwoordelijkheid kun je niet aan de leverancier overlaten. Anders loop je kans dat je mensen onrechtvaardig behandelt. Dat is een risico dat een gemeente zich niet kan veroorloven.'