AI-systeem verkiest ‘eigen’ cv’s boven die van anderen
Vooringenomenheid (‘bias’) is een van de mogelijke beperkingen van AI-systemen. Ook ten aanzien van zichzelf bestaat die bias bij AI-systemen: bij het beoordelen van sollicitaties blijken ze een sterke voorkeur te hebben voor cv’s die zij zelf gemaakt hebben. Werkgevers doen er goed aan hier scherp op te zijn.
Onderzoekers van drie universiteiten – twee Amerikaanse en één Singaporese – lieten ruim 2.000 cv’s van de hand van mensen herschrijven door zeven AI-systemen. Vervolgens vroegen ze elk systeem om van álle cv’s, dus zowel de AI-herschreven versies als de ‘menselijke’ versies, de beste uit te kiezen. Zonder uitzondering kozen de systemen voor de ‘eigen’ cv’s, waarbij ze die van de andere systemen bovendien aanzienlijk lager beoordeelden. De oorspronkelijke cv’s kwamen zelfs helemaal niet in de buurt van de AI-cv’s.
AI-systemen kunnen discrimineren
Op basis van de AI Act (infographic), de verordening van de Europese Unie die regels stelt aan het ontwikkelen en gebruiken van kunstmatige intelligentie, mogen werkgevers selectiebeslissingen niet volledig overlaten aan AI. Onlangs verduidelijkte ook de Autoriteit Persoonsgegevens welke strenge regels gelden voor ‘geautomatiseerde besluitvorming’. Maar werkgevers moeten dus ook bij adviezen van en voorselecties door AI-systemen scherp zijn. Uitkomsten van AI-systemen kunnen niet kloppen of onbetrouwbaar zijn, niet geschikt zijn om te beoordelen of iemand past bij de functie, onbedoeld discriminerende effecten hebben en/of gebaseerd zijn op onjuiste of verouderde gegevens. Werkgevers kunnen zich bij fouten niet verschuilen achter het systeem. Overigens is het ook mogelijk om het AI-systeem via een slim geformuleerde prompt kritisch te laten kijken naar zijn voorkeuren (al geeft dat uiteraard ook geen garantie voor een objectieve uitkomst die geen regels of wetten schendt).
Toezicht op AI Act
De AI-act deelt AI-systemen in op risiconiveaus. Hoe hoger de risico’s van een AI-toepassing, hoe strenger de regels. AI-systemen die mensen manipuleren of misleiden, zijn bijvoorbeeld verboden. Net als AI die emoties herkent op het werk. AI-systemen gericht op de werving en selectie van werknemers moeten aan strenge eisen voldoen. Het toezicht op de naleving van de AI-verordening moet grotendeels nationaal worden geregeld. Daarom is onlangs een conceptwetsvoorstel ter internetconsultatie gepubliceerd dat dit toezicht regelt. Het Nederlandse toezichtstelsel zal bestaan uit tien bestaande autoriteiten, die er nieuwe taken bijkrijgen. De Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur krijgen een coördinerende rol binnen dit toezichtstelsel. Belangstellenden kunnen tot en met 1 juni 2026 reageren op de internetconsultatie. Het is nog niet bekend wanneer het wetsvoorstel in werking zou moeten treden.
AI-gebruik lastig te beoordelen door recruiters
Tilburg University onderzocht in twee experimenten hoe AI-gebruik sollicitaties beïnvloedt. Het eerste experiment liet zien dat AI-gegenereerde sollicitatiebrieven – in dit geval door ChatGPT – kwalitatief beter zijn, maar niet de kans op een baan of sollicitatiegesprek vergroten. De brieven waren volgens de deelnemende recruiters grotendeels beter geschreven en bevatten minder spelfouten dan ‘menselijke’ brieven, maar verbeterden niet de persoonlijke motivatie en de helderheid van de brief. Terwijl de recruiters vooral op laatstgenoemde criteria letten.
Het tweede experiment toonde aan dat recruiters niet goed kunnen beoordelen of een sollicitatiebrief met behulp van AI is geschreven. Maar áls recruiters vooraf te horen krijgen dat een goede brief zonder AI is geschreven, beoordelen ze die brief extra positief. De intrede van AI in het sollicitatieproces kan er dus voor zorgen dat recruiters de kwaliteiten van sollicitanten minder goed kunnen beoordelen, waardoor de kans op een slechte match groter wordt.