De impact van de EU AI act op recruitment

Gezien ik regelmatig opleidingen AI voor recruiters geef, werd ik de afgelopen weken verschillende keren aangesproken met vragen over de impact van de EU AI act op recruitment. Want, ‘recruitment’ staat in de AI act aangegeven als “hoog risico”. En oei, dan schieten we als mens in paniek! Mogen we dan wel nog AI inzetten in het recruitmentproces? Wat betekent het concreet? 

Ja, niemand leest verder dan “recruitment is hoog risico” … Zo ontstaan er heel wat misvattingen over wat nu wel en niet mag. Dus ik besloot in mijn pen te kruipen om ‘in mensentaal’ te proberen schetsen wat de EU AI act voor recruitment betekent.

Disclaimer: ik ben geen jurist, maar volg momenteel wel een postgraduaat AI compliance officer aan PXL hogeschool, waar we ‘diep’ in de EU AI act duiken. Voor vragen rond specifieke cases mag je me steeds een e-mail sturen via elke@spinwise.digital of een jurist contacteren. Deze blog dient als introductie tot de AI act in mensentaal. Mocht je een fout opmerken, dan mag je mij dit steeds laten weten. 

Wat is de EU AI act?

De EU AI Act is een historische mijlpaal: de eerste wet ter wereld die regels opstelt voor het gebruik van artificiële intelligentie. In essentie is het een kwaliteitssysteem dat ervoor moet zorgen dat AI op een veilige en betrouwbare manier wordt gebruikt.

De wet werkt met verschillende risiconiveaus, vergelijkbaar met een verkeerslicht. Groene systemen hebben een beperkt risico en zijn toegelaten, rode systemen zijn verboden omdat ze te gevaarlijk zijn, zoals systemen die mensen manipuleren of sociale scores toekennen. En daartussen heb je de oranje categorie: de hoog-risico systemen. Deze mogen wel gebruikt worden, maar moeten aan bepaalde eisen voldoen. Recruitmentsystemen vallen in deze categorie, omdat ze belangrijke beslissingen nemen die een grote impact kunnen hebben op mensen.

Waarom is dit belangrijk voor recruiters?

Omdat deze wet gaat bepalen hoe we AI mogen gebruiken in het hele wervingsproces. Van het screenen van CV’s tot het gebruiken van AI in video-interviews – voor al deze toepassingen komen er duidelijke regels en standaarden. En natuurlijk zijn er ook tools die voor recruiters een ‘groene’ tool zijn: als je met ChatGPT je e-mail naar je kandidaat wat laat herschrijven, dan is dit geen hoog-risico systeem. 

De EU AI act is in voege sinds 1 augustus 2024. Dit betekent echter niet dat men meteen al met grote boetes komt aandraven als je niet voldoet. Er is een tijdslijn voorzien om de vereisten gradueel te implementeren. Maar, zoals je ziet, moeten we op de hoogte zijn, want 2025 wordt zeker het “jaar van de AI act” 🙂

Waarom een EU AI act? 

Heb je al eens de lift genomen?
Ben je al eens met het vliegtuig op vakantie geweest?
Heb je elektriciteit of gas in je woning?
Spelen je kinderen met speelgoed? 

Kans is groot dat je op één van de voorgaande vragen “JA” hebt geantwoord. 

Als je in het vliegtuig stapt ga je er als consument vanuit dat het vliegtuig voldoet aan bepaalde veiligheidsregels. Dat de lift die je in het winkelcentrum neemt gekeurd is. Elektriciteit- en gasinstallaties moeten verplicht gekeurd worden. Wil je speelgoed op de markt brengen, dan krijgt dit het “CE” keurmerk. 

Allemaal zaken waar je als consument niet bij stilstaat, maar waar je wel van uitgaat dat deze producten ‘veilig’ zijn. Niemand zou in een niet-gekeurde lift of vliegtuig willen stappen. 

Zo gaat het ook met AI. Het doel van de AI act is om veilige AI producten op de markt te brengen. Zodat jij je bij het gebruik van deze tools geen zorgen moet maken of ze al dan niet wel conform zijn aan de wettelijke vereisten. 

Om dit nog concreter te maken: denk eens aan de eerste auto’s die op de weg verschenen. In het begin waren er geen verkeersregels, geen rijbewijzen, geen veiligheidsgordels. Naarmate er meer auto’s kwamen en we beter begrepen welke risico’s er waren, ontwikkelden we regels en standaarden. Niet om het autorijden te verbieden, maar om het veiliger te maken voor iedereen.

We bevinden ons nu op een vergelijkbaar moment met AI. De technologie verspreidt zich razendsnel, en net als bij die eerste auto’s, moeten we nu goed nadenken over hoe we ervoor zorgen dat iedereen er veilig gebruik van kan maken.

Welke risico’s zijn er? 

Ik hoor het ook tijdens mijn opleidingen, mensen maken zich zorgen over de snelle AI (r)evolutie. AI toepassingen schieten als paddestoelen uit de grond, en mensen stellen zich dan ook vragen zoals:

• Wat gebeurt er met mijn data wanneer ik werk met AI tools?
• Als ik als kandidaat solliciteer, is het dan transparant voor mij dat het bedrijf AI inzet in het rekruteringsproces?
• Er wordt mij gevraagd of het oké is of de “AI notitienemer” deelneemt aan het gesprek. Wat betekent dit concreet en wat gebeurt er achteraf met deze notities?
• Zal mijn atypisch CV wel ‘gescreend’ kunnen worden door de AI tools?
• Als recruiter ga ik graag op ontdekking welke AI tools mijn werk makkelijker kunnen maken, maar hoe weet ik zeker of wat ik doe ook wel oké is?

En dit is op zich nog een lijstje van vrij ‘onschuldige’ risico’s. Er zijn ook ‘ergere’ risico’s zoals: wat als een video-interview opgenomen wordt om mijn gevoel tijdens het gesprek te analyseren, wat als de beslissing van de recruiter sterk beïnvloed wordt door de AI tool en de persoon hierdoor meer vertrouwt op de ‘mening’ van de AI tool dan zijn eigen mening, wat als je de toegang tot een job wordt ontzegd door een AI tool, wat als er door AI een psychologisch profiel van een kandidaat wordt opgesteld, en nog zoveel meer.

Deze zorgen zijn niet uit de lucht gegrepen. In het verleden zijn er al verschillende voorbeelden geweest van AI systemen die onbedoeld discrimineerden. Een bekend voorbeeld is een AI recruitment tool van een groot technologiebedrijf dat systematisch vrouwelijke kandidaten lager beoordeelde, simpelweg omdat het was getraind met historische data waarin mannelijke kandidaten oververtegenwoordigd waren.

Dit soort voorbeelden laten zien waarom we zorgvuldig moeten zijn. Maar ze laten ook zien dat het probleem meestal niet in de technologie zelf zit, maar in hoe we ermee omgaan. Net zoals een auto niet inherent gevaarlijk is, maar wel veilig gebruikt moet worden.

Een nieuwe manier van denken over AI

Voor we ingaan op wat precies “hoog risico” is, is het belangrijk om te begrijpen dat de AI Act een fundamenteel nieuwe manier van denken over AI introduceert. Tot nu toe werd AI vaak gezien als een ‘black box’: iets dat magisch werkt en waar we weinig controle over hebben. De AI Act dwingt ons om AI te behandelen zoals we andere technologische producten behandelen: met duidelijke standaarden, controles en verantwoordelijkheden.

Dit is vooral belangrijk in recruitment, omdat we hier direct impact hebben op mensenlevens en kansen. Een afwijzing voor een baan kan verstrekkende gevolgen hebben voor iemands carrière en leven. Daarom moeten we extra zorgvuldig zijn.

Wil je graag meer weten over de EU AI Act en andere trends in de arbeidsmarkt?

Wist je dat je gratis kan inbellen op trends en kennis?
Onze Learning Lunches zijn dé kans om elk kwartaal in slechts één uur helemaal bijgepraat te worden over de nieuwste ontwikkelingen in recruitment. Geen saaie presentaties, maar inspirerende sessies boordevol praktijkgerichte tips, inzichten en strategieën.

🌟 Wat kun je verwachten?
Elke sessie wordt geleid door een expert uit het vak, zodat je altijd waardevolle en actuele kennis krijgt. Of het nu gaat over sourcing, interviewtechnieken, AI in recruitment of employer branding, na deze lunch ben jij weer helemaal up-to-date en klaar om voorop te blijven lopen.

💡 Blijf scherp, blijf voorop!
En het mooiste? Deelname is gratis! Mis deze kans niet om te groeien en jouw recruitmentkennis een boost te geven. Schrijf je nu in voor de volgende Learning Lunch via deze link – want jouw carrière verdient het!

Is mijn AI tool “hoog risico”?

Deze vraag krijg ik vaak tijdens opleidingen. En ik begrijp de bezorgdheid volledig – want ja, recruitment staat inderdaad aangeduid als “hoog risico” in de EU AI Act. Maar laten we even een stap terug nemen. Want niet élke AI tool die je als recruiter gebruikt, vormt automatisch een hoog risico.

Laat me dit uitleggen aan de hand van een voorbeeld dat aansluit bij de lift-vergelijking van eerder. Stel je voor dat je als recruiter twee verschillende AI tools gebruikt: één die je helpt bij het schrijven van wervende vacatureteksten, en één die CV’s automatisch screent en rangschikt. Deze tools zijn heel verschillend in hun impact op mensen, net zoals er een verschil is tussen de lift zelf en de calculator die de monteur gebruikt om de onderhoudskosten te berekenen.

De eerste tool, die je helpt bij het schrijven, heeft geen directe impact op de kansen van een kandidaat. Het helpt je alleen om je boodschap beter over te brengen – vergelijkbaar met een spellingscontrole die je helpt bij het schrijven van een e-mail. Dit soort ondersteunende tools worden niet als hoog risico beschouwd.

Maar die tweede tool? Die heeft wel degelijk impact op wie wel of niet wordt uitgenodigd voor een gesprek. Het kan bepalen of iemand überhaupt een kans krijgt om zichzelf te presenteren. Net zoals een lift die mensen vervoert aan strenge veiligheidseisen moet voldoen, moeten we ook met deze AI tools voorzichtiger omgaan.

Het is belangrijk om te beseffen dat “hoog risico” geen waardeoordeel is over de kwaliteit van de tool. Het zegt alleen iets over de potentiële impact die de tool kan hebben. Vergelijk het met medicijnen: een krachtig medicijn dat levens kan redden wordt strenger gecontroleerd dan een simpele pijnstiller, niet omdat het een ‘slecht’ medicijn is, maar juist omdat het zo krachtig is.

Het verschil zit hem dus in de impact op mensen. Tools die direct impact hebben op de kansen van kandidaten, worden als hoog risico beschouwd. Dit zijn bijvoorbeeld systemen die:

• Beslissen wie wel of niet wordt uitgenodigd voor een gesprek
• Persoonlijkheid of emoties analyseren tijdens video-interviews
• Automatisch bepalen wie de beste kandidaat is
• Voorspellingen maken over iemands toekomstige prestaties

Maar tools die je alleen ondersteunen in je werk, zonder directe impact op kandidaten? Die vallen meestal niet in de hoog risico categorie. Denk aan:

• AI die je helpt bij het schrijven van teksten
• Chatbots die algemene vragen beantwoorden
• Tools die je agenda beheren
• Systemen die administratieve taken automatiseren

Wat als je toch een hoog risico AI systeem gebruikt?

“Oké,” hoor ik je denken, “maar wat als ik wel zo’n hoog risico tool gebruik? Moet ik daar dan meteen mee stoppen?”

Nee, absoluut niet! Het gebruik van hoog risico AI tools is niet verboden. Het betekent alleen dat je extra zorgvuldig moet zijn in hoe je ermee omgaat. Om terug te komen op onze lift vergelijking: je mag de lift gebruiken, maar je moet wel zorgen dat deze regelmatig gekeurd wordt en veilig is voor gebruik. En ja, het is ook de verantwoordelijkheid van de installateur van de lift om dit te doen, of wanneer een lift in je gebouw is geïnstalleerd dan is het jouw verantwoordelijkheid om de lift periodiek te laten keuren.

Laten we bij het voorbeeld blijven van die AI tool die CV’s screent. Als je deze tool gebruikt, moet je een aantal belangrijke zaken regelen:

Ten eerste: transparantie. Net zoals je bij een winkel duidelijk moet aangeven als er camerabewaking is, moet je kandidaten laten weten dat je AI gebruikt in het selectieproces. Vertel ze welke rol AI speelt en hoe ze daar meer informatie over kunnen krijgen. Dat klinkt misschien spannend, maar in de praktijk waarderen kandidaten deze openheid juist.

Ten tweede: menselijke controle. De AI mag dan wel helpen bij het screenen, maar laat de definitieve beslissingen altijd door mensen nemen. Zie de AI als een slim hulpmiddel, niet als de eindbaas. Een beetje zoals bij een navigatiesysteem in je auto: het geeft adviezen, maar jij blijft achter het stuur zitten.

Ten derde: kwaliteitscontrole. Controleer regelmatig of je AI tool wel eerlijk werk levert. Kijk bijvoorbeeld of bepaalde groepen kandidaten niet systematisch worden benadeeld. Dit is vergelijkbaar met hoe je regelmatig je de spanning van je autobanden controleert: het kost even tijd, maar het voorkomt grotere problemen.

Een aspect dat vaak over het hoofd wordt gezien is de training van het recruitmentteam. Het is niet genoeg om alleen de juiste systemen te hebben – je moet ook zorgen dat mensen ze op de juiste manier gebruiken. Dit is vergelijkbaar met een rijbewijs: de auto kan nog zo veilig zijn, maar de bestuurder moet wel weten hoe ermee om te gaan.

Conclusie: een praktische aanpak

Begin klein. Je hoeft niet meteen alles perfect te hebben. Start bijvoorbeeld met het documenteren van welke AI tools je gebruikt en wat ze precies doen. Maak een simpel overzicht: welke tools gebruik je, wat doen ze, en wie heeft er toegang toe?

Maar er is nog iets belangrijks wat we moeten bespreken: de conformiteitsbeoordeling. Dat klinkt misschien als een ingewikkeld woord, maar eigenlijk is het heel logisch. Laat me het uitleggen met onze vertrouwde lift vergelijking.

Wanneer een lift wordt geïnstalleerd, moet deze eerst gekeurd worden voordat mensen er gebruik van mogen maken. De installateur kan niet zomaar zeggen “vertrouw me maar, hij werkt prima!” Er moet een onafhankelijke instantie zijn die bevestigt dat de lift aan alle veiligheidseisen voldoet. Pas dan krijgt de lift zijn certificaat en mag hij gebruikt worden.

Zo werkt het ook met hoog risico AI systemen in recruitment. Voordat je zo’n systeem in gebruik neemt, moet er een conformiteitsbeoordeling plaatsvinden. Dit betekent dat er moet worden aangetoond dat het systeem voldoet aan alle eisen van de AI Act.

“Maar,” hoor ik je denken, “moet ik dat als recruiter zelf regelen?”

Gelukkig niet! De hoofdverantwoordelijkheid hiervoor ligt bij de leverancier van het AI systeem. Zij moeten zorgen dat hun product door de juiste beoordelingsprocedure gaat. Als gebruiker moet je wel controleren of deze beoordeling heeft plaatsgevonden. Het is een beetje zoals wanneer je een nieuwe auto koopt: je verwacht dat de auto alle nodige keuringen heeft doorstaan, maar het is wel slim om daar even naar te vragen en de papieren te checken.

Betrek je team erbij. Zorg dat iedereen die met de AI tools werkt, begrijpt wat ze doen en wat de grenzen zijn. Een tool is namelijk net zo goed als de mensen die ermee werken.

En misschien wel het belangrijkste: blijf kritisch nadenken. AI tools zijn geweldige hulpmiddelen, maar ze zijn niet onfeilbaar. Gebruik je gezonde verstand en je menselijke inzicht. Want uiteindelijk gaat recruitment om mensen, niet om algoritmes.