AI bij recruitment: wanneer loopt jouw bedrijf tegen de high-riskregels van de AI Act aan?

Steeds meer ondernemers gebruiken kunstmatige intelligentie bij het vinden en selecteren van personeel. Denk aan software die cv’s beoordeelt, kandidaten automatisch rangschikt, geschikte professionals opspoort of bepaalt welke personen een vacature te zien krijgen.

Dat kan veel tijd besparen. Juridisch is er echter een belangrijk aandachtspunt: onder de Europese AI Act kan recruitmentsoftware worden aangemerkt als een high-risk AI-systeem.

Voor ondernemers is dat geen theoretisch probleem. Zodra een AI-systeem binnen deze categorie valt, gelden zwaardere eisen op het gebied van onder meer risicobeheersing, documentatie, logging en menselijk toezicht.

De Europese Commissie heeft inmiddels concept-richtsnoeren gepubliceerd over de vraag wanneer AI-systemen precies als high risk moeten worden gezien. Recruitment en personeelsselectie krijgen daarin nadrukkelijk aandacht.

Waarom recruitment-AI al snel als high risk wordt gezien

De AI Act kent in Bijlage III een aantal toepassingen die vanwege hun mogelijke gevolgen voor personen als risicovol worden beschouwd. Daaronder vallen verschillende vormen van AI die worden ingezet bij werving en selectie.

Het gaat bijvoorbeeld om systemen die:

• bepalen welke personen een vacatureadvertentie te zien krijgen;

• sollicitaties of cv’s analyseren;

• kandidaten filteren of rangschikken;

• een geschiktheidsscore toekennen;

• ondersteunen bij de beoordeling van sollicitanten.

Het is daarbij niet noodzakelijk dat de AI volledig zelfstandig bepaalt wie wordt aangenomen. Ook wanneer het systeem slechts onderdeel is van het selectieproces, kan sprake zijn van een high-risk toepassing.

“Maar onze recruiter beslist uiteindelijk zelf”

Dat argument zal veel werkgevers bekend voorkomen.

Een onderneming gebruikt bijvoorbeeld AI om honderd sollicitanten terug te brengen tot een shortlist van tien kandidaten. Daarna bepaalt een recruiter zelf wie wordt uitgenodigd.

Dat menselijke eindbesluit betekent niet automatisch dat het AI-systeem buiten de high-riskcategorie valt.

Bij de classificatie wordt vooral gekeken naar het beoogde doel van het systeem. Als de software bedoeld is om kandidaten te beoordelen, selecteren of rangschikken, kan zij dus onder de high-riskregels vallen.

Menselijk toezicht is juist één van de maatregelen die bij high-risk AI moet worden georganiseerd. Het is geen eenvoudige manier om onder de classificatie uit te komen.

Recruitment begint vóórdat iemand solliciteert

Een interessant punt uit de Europese richtsnoeren is dat recruitment breder wordt uitgelegd dan alleen het beoordelen van binnengekomen sollicitaties.

Ook software die actief potentiële kandidaten zoekt, kan hieronder vallen.

Denk aan een systeem dat automatisch LinkedIn-profielen, een cv-database of andere bronnen doorzoekt en vervolgens bepaalt welke personen door een recruiter moeten worden benaderd.

De kandidaat heeft op dat moment misschien nog nooit op een vacature gereageerd. Toch kan het AI-systeem al onderdeel zijn van het wervingsproces.

Voor ondernemers betekent dit dat niet alleen sollicitatiesoftware relevant is. Ook sourcingtools en recruitmentmarketingsoftware moeten worden beoordeeld.

Ook selectie van zzp’ers kan hieronder vallen

De regels zijn bovendien niet beperkt tot traditionele arbeidsovereenkomsten.

Stel dat je een platform exploiteert waarop zelfstandigen worden gekoppeld aan opdrachten. Een algoritme bepaalt vervolgens welke zzp’er bovenaan verschijnt of welke professionals aan een opdrachtgever worden voorgesteld.

Ook zo’n systeem kan een selectiefunctie hebben die onder de AI Act valt.

Het feit dat iemand geen werknemer wordt, betekent dus niet dat de regels rond AI-selectie automatisch buiten beeld blijven.

Wanneer is recruitment-AI waarschijnlijk high risk?

Een aantal voorbeelden waarbij ondernemers extra alert moeten zijn:

Een systeem vergelijkt automatisch cv’s met een functieprofiel en maakt vervolgens een ranking van kandidaten.

Een AI-tool analyseert antwoorden tijdens een sollicitatieprocedure en kent kandidaten een score toe.

Software beoordeelt video-interviews en geeft aan welke kandidaat het beste bij de functie zou passen.

Een recruitmentplatform rangschikt zelfstandigen op basis van ervaring, prestaties of geschiktheid.

Een sourcingtool zoekt online naar potentiële werknemers en bepaalt wie interessant genoeg is om te benaderen.

Ook gerichte vacatureadvertenties kunnen relevant zijn wanneer persoonsgegevens en profiling worden gebruikt om te bepalen wie een bepaalde vacature krijgt aangeboden.

De rode draad is duidelijk: zodra AI daadwerkelijk invloed krijgt op de kansen van een persoon binnen het recruitmentproces, komt high-riskclassificatie snel in beeld.

Niet iedere HR-tool is high risk

Daar staat tegenover dat niet iedere vorm van automatisering binnen HR onmiddellijk onder het zware regime valt.

Een systeem dat bijvoorbeeld uitsluitend controleert of een vacaturetekst bepaalde ongewenste of niet-inclusieve woorden bevat, hoeft niet dezelfde invloed op individuele kandidaten te hebben.

Ook software die uitsluitend administratieve werkzaamheden uitvoert, kan buiten de high-riskcategorie blijven.

Denk bijvoorbeeld aan:

• het omzetten van cv’s naar hetzelfde bestandsformaat;

• het automatisch archiveren van sollicitaties;

• het ordenen van documenten;

• het ondersteunen bij onboarding nadat iemand al definitief is aangenomen;

• algemene employer-branding zonder individuele targeting.
  

De grens wordt vooral belangrijk zodra een systeem niet alleen informatie verwerkt, maar daar ook een beoordeling, aanbeveling, score of selectie aan koppelt.

De uitzondering van artikel 6 lid 3 AI Act

De AI Act kent bovendien situaties waarin een systeem wel verband houdt met een toepassing uit Bijlage III, maar vanwege zijn beperkte rol toch niet als high risk wordt behandeld.

Dat kan bijvoorbeeld het geval zijn wanneer AI slechts een nauw omschreven administratieve of voorbereidende taak uitvoert.

Denk aan een systeem dat uitsluitend controleert of een beroepsregistratie daadwerkelijk voorkomt in een officieel register.

Ook een tool die een reeds door een mens geschreven beoordeling uitsluitend taalkundig verbetert, zonder de inhoudelijke conclusie te veranderen, kan een andere positie hebben.

Hetzelfde kan gelden voor software die sollicitaties alleen structureert of indexeert zonder daar conclusies aan te verbinden.

Maar hier zit voor ondernemers een belangrijke grens.

Een tool die cv’s alleen netjes sorteert, is iets anders dan een tool die dezelfde cv’s vervolgens labelt als:

“zeer geschikt”,“gemiddeld geschikt” of“ongeschikt”.

Op dat moment wordt de output onderdeel van de beoordeling van een individuele kandidaat.

Profiling is een belangrijk waarschuwingssignaal

Bij het beoordelen van recruitmentsoftware moet daarom altijd worden gekeken naar profiling.

Worden kenmerken, gedragingen of eigenschappen van personen gebruikt om voorspellingen of beoordelingen over hen te maken?

Dan wordt het aanzienlijk moeilijker om een beroep te doen op uitzonderingen binnen de high-riskregels.

Voor ondernemers die recruitmentsoftware inkopen is dit daarom één van de eerste vragen die aan een leverancier moet worden gesteld:

Wat doet het systeem precies met de persoonsgegevens van kandidaten en welke conclusies trekt het daaruit?

Een commerciële omschrijving als “AI assisted recruitment” zegt juridisch namelijk weinig. De daadwerkelijke werking en het beoogde gebruik zijn doorslaggevend.

Meerdere losse AI-tools kunnen samen één probleem vormen

Een andere valkuil is het gebruik van meerdere systemen naast elkaar.

Stel dat software A kandidaten opspoort, software B hun cv analyseert en software C vervolgens een ranking maakt.

Het feit dat deze functies technisch over verschillende leveranciers zijn verdeeld, betekent niet vanzelfsprekend dat iedere toepassing juridisch los kan worden bekeken.

Wanneer de systemen samen een recruitmentproces vormen en gezamenlijk invloed hebben op de selectie van personen, moet ook naar dat totale proces worden gekeken.

Voor ondernemers die snel verschillende AI-tools aan hun HR-stack toevoegen, is dat een belangrijk aandachtspunt.

Wat moet je als ondernemer nu controleren?

Ondernemers die AI inzetten voor recruitment doen er verstandig aan niet alleen naar de technische mogelijkheden van de software te kijken, maar juist ook naar het juridische gebruik.

Controleer in ieder geval:

1. Waarvoor wordt de AI daadwerkelijk gebruikt?Administratie is juridisch iets anders dan beoordelen of selecteren.

2. Worden individuele kandidaten gescoord, gerangschikt of geprofileerd?Dan neemt het risico op high-riskclassificatie sterk toe.

3. Welke informatie geeft de leverancier over het beoogde gebruik?Kijk niet alleen naar de overeenkomst, maar ook naar handleidingen, marketingmateriaal en technische documentatie.

4. Welke AI-systemen werken binnen het recruitmentproces samen?Beoordeel niet alleen iedere tool afzonderlijk.

5. Kan worden uitgelegd hoe beslissingen tot stand komen?Zeker bij systemen die invloed hebben op werknemers of sollicitanten is transparantie steeds belangrijker.

6. Is intern vastgelegd wie verantwoordelijk is voor het gebruik van de tool?Het simpelweg aanschaffen van software ontslaat de onderneming niet van haar eigen verantwoordelijkheden.
   

Voorbereiden vóórdat de regels volledig gelden

De Europese richtsnoeren zijn op dit moment nog concept-richtsnoeren en zijn niet hetzelfde als bindende wetgeving. Ze geven echter wel een belangrijk beeld van de manier waarop de Europese Commissie naar de classificatie van high-risk AI kijkt.

Voor veel verplichtingen rond high-risk systemen wordt 2 december 2027 een belangrijke datum.

Dat lijkt misschien nog ver weg. Ondernemers die verschillende AI-systemen gebruiken, kunnen echter beter nu al inventariseren welke toepassingen binnen hun organisatie mogelijk onder het strengere regime vallen.

Technische documentatie, interne verantwoordelijkheden, logging, toezicht en risicomanagement richt je niet één week voor een deadline in.

Bovendien wordt AI inmiddels in steeds meer bedrijfsprocessen verwerkt. Wat vandaag alleen een handige HR-tool lijkt, kan morgen onderdeel zijn van een veel groter geautomatiseerd besluitvormingsproces.

Juridische ondersteuning voor ondernemers

AI-wetgeving is slechts één van de juridische onderwerpen waarmee ondernemers tegenwoordig worden geconfronteerd. Arbeidsrecht, contracten, klanten, personeel, aansprakelijkheid en nieuwe Europese regelgeving lopen steeds vaker door elkaar.

Met het rechtsbijstandabonnement van Van der Burg Juristen heb je als ondernemer juridische ondersteuning achter de hand wanneer dat nodig is. Zo kun je vragen en juridische problemen tijdig laten beoordelen, voordat ze uitgroeien tot kostbare geschillen.

Gebruik je AI binnen jouw onderneming, sluit je nieuwe contracten of loop je tegen een juridisch probleem met personeel, klanten of leveranciers aan? Dan is het prettig om direct met een jurist te kunnen schakelen.

Bekijk het rechtsbijstandabonnement voor ondernemers

Van der Burg Juristen – juridische ondersteuning voor ondernemers die vooruit willen, zonder juridische verrassingen achteraf.