AI en discriminatie bij werving: wat zegt de wet over algoritmische selectie?
Werkgevers maken in toenemende mate gebruik van geautomatiseerde systemen bij het werven en selecteren van personeel. Van het scannen van cv’s tot het analyseren van videogesprekken: algoritmes nemen een grotere rol in bij beslissingen die eerder uitsluitend door mensen werden genomen. Dit brengt belangrijke juridische vragen met zich mee. Wat als een selectie-algoritme bepaalde groepen systematisch benadeelt? Welke regels gelden er in Nederland en de Europese Unie? En welke verplichtingen rusten er op werkgevers die dit soort technologie inzetten?
De Algemene wet gelijke behandeling als fundament
In Nederland verbiedt de Algemene wet gelijke behandeling discriminatie op grond van onder meer geslacht, herkomst, leeftijd, handicap, godsdienst en seksuele gerichtheid. Deze bescherming geldt volledig op de arbeidsmarkt. Een werkgever mag bij de werving en selectie van personeel geen onderscheid maken op deze gronden. Het maakt daarbij niet uit of de discriminatie opzettelijk is of het onbedoelde gevolg van een besluitvormingsproces. Een algoritme dat bijvoorbeeld vrouwelijke sollicitanten vaker afwijst dan mannelijke, ook als dat niet expliciet is geprogrammeerd, kan in strijd zijn met de wet.
De EU Artificial Intelligence Act en hoogrisico-systemen
Sinds de invoering van de Europese Artificial Intelligence Act is er een specifieke wetgevingskader voor het gebruik van kunstmatige intelligentie binnen de Unie. De AI-wet classificeert systemen voor personeelsselectie en werving expliciet als hoogrisico-toepassingen. Dit betekent dat werkgevers die dergelijke systemen inzetten moeten voldoen aan strenge eisen op het gebied van transparantie, menselijk toezicht, documentatie en risicobeheer. Het algoritme moet te auditen zijn, de gebruikte data moet representatief en vrij van vooroordelen zijn, en er moet altijd een mens de uiteindelijke beslissing kunnen overrulen.
Op onze over-ons pagina leest u meer over onze visie op de juridische implicaties van kunstmatige intelligentie in de samenleving.
Vooroordelen in data: de bron van algoritmische discriminatie
De meeste selectie-algoritmes worden getraind op historische data. Als die data vertekeningen bevat, bijvoorbeeld omdat in het verleden bepaalde groepen structureel minder vaak werden aangenomen, dan leert het algoritme dit patroon als normaal te beschouwen. Het resultaat: het systeem herhaalt en versterkt bestaande ongelijkheid. Dit fenomeen staat bekend als bias-versterking en vormt een van de grootste juridische en ethische risico’s van geautomatiseerde werving. Werkgevers zijn verplicht om dit soort vertekeningen te identificeren en te mitigeren voordat zij een systeem in productie nemen.
Verplichtingen voor werkgevers
Werkgevers die algoritmische selectie gebruiken, dragen een aanzienlijke zorgplicht. Zij moeten kunnen verklaren op basis van welke criteria het systeem beslist, de werking van het algoritme regelmatig laten toetsen op discriminatoire effecten en sollicitanten informeren over het gebruik van geautomatiseerde besluitvorming. Ook moeten zij zorgen voor eerlijke en veilige werkgelegenheid, waarbij technologie de menselijke oordeelsvorming ondersteunt maar niet vervangt. Het niet voldoen aan deze verplichtingen kan leiden tot aansprakelijkheid, boetes van de toezichthouder en reputatieschade.
Rechten van sollicitanten
Sollicitanten hebben recht op informatie over de manier waarop hun aanvraag is beoordeeld. Als een algoritme een beslissing heeft beïnvloed, mag u als kandidaat vragen om uitleg over de criteria die zijn gehanteerd. Bij een vermoeden van discriminatie kunt u een klacht indienen bij het College voor de Rechten van de Mens of een procedure starten bij de kantonrechter. De bewijslast ligt in veel gevallen bij de werkgever, die moet aantonen dat het selectieproces niet discriminerend was. Op onze dienstenpagina leest u hoe wij u kunnen helpen bij het beoordelen van uw positie in een dergelijke zaak.
De balans tussen efficiëntie en rechtvaardigheid
Geautomatiseerde selectie kan efficiënter en in sommige opzichten objectiever zijn dan menselijke selectie, mits de juiste waarborgen zijn ingebouwd. Het is de verantwoordelijkheid van werkgevers om ervoor te zorgen dat technologie de gelijkbehandeling bevordert in plaats van ondermijnt. Meer over de spanning tussen technologie en rechtvaardigheid leest u in ons artikel over AI in de rechtspraak. Op de blog van AI Rechtshulp vindt u meer achtergrondartikelen over dit onderwerp.
De bredere rechten op de werkvloer staan bij het arbeidsrecht/”>arbeidsrecht.