Wat veel kandidaten zich misschien niet realiseren is dat de eerste hindernis bij het solliciteren tegenwoordig te maken heeft met kunstmatige intelligentie. Aanvragers moeten vaak een kunstmatige intelligentie systeem dat hun cv’s doorzoekt, in stilte bepaalt wie doorgaat en hun sollicitaties in een la of spammap opslaat, om nooit het daglicht te zien.
Nu iets nieuws oorzaak Dinsdag ingediend is de eerste in de Verenigde Staten die een kunstmatige intelligentie beschuldigt aannemen bedrijf de Fair Credit Reporting Act heeft overtreden. Eightfold AI, een door durfkapitaal ondersteund AI-wervingsplatform, wordt door twee werknemers in Californië aangeklaagd omdat ze naar verluidt rapporten hebben opgesteld die worden gebruikt om sollicitanten te screenen zonder hun medeweten, toestemming of enige mogelijkheid om de fouten te corrigeren.
“Ik heb op honderden banen gesolliciteerd, maar ik heb het gevoel dat een onzichtbare kracht mij ervan weerhoudt eerlijk in aanmerking te worden genomen”, zei Erin Kistler, een van de aanklagers, in een persbericht. Volgens de klacht solliciteerden beide eisers naar functies bij verschillende bedrijven die Eightfold AI gebruiken, waaronder PayPal en Microsoft.
Van de duizenden banen waarnaar hij het afgelopen jaar zocht, leidde slechts 0,3% van zijn sollicitaties tot een vervolggesprek of sollicitatiegesprek, zegt Kistler. gezegd De New York Times. “Het is ontmoedigend en ik weet dat ik niet de enige ben die zich zo voelt.”
Het Achtvoudige AI-algoritme Ontdek carrièresites, vacaturesites en CV-databases om een dataset te creëren van “1 miljoen functietitels, 1 miljoen vaardigheden en de profielen van meer dan 1 miljard mensen die in elke baan, beroep, sector en geografische regio werken”, aldus de website van het bedrijf, waarvan een groot deel “onnauwkeurig, onvolledig of afgeleid van onbekende bronnen van derden”, beweert de klacht.
Met behulp van een kunstmatige-intelligentiemodel dat op die gegevens is getraind, zeggen de eisers dat Eightfold AI sollicitaties scoort op een schaal van 1 tot 5, gebaseerd op de vaardigheden, ervaring en doelstellingen van de wervingsmanager van mensen. Deze door AI gegenereerde beoordelingen functioneren als “consumentenrapporten onder de federale Fair Credit Reporting Act (FCRA) en de Californische wet”, beweert de rechtszaak.
In tegenstelling tot kredietrapporten (een soort consumentenrapport dat de FCRA reguleert om nauwkeurigheid en eerlijkheid te garanderen), krijgen aanvragers geen feedback over hun scores of hoe de beoordeling is gegenereerd, en zijn ze zich er zelden van bewust dat een algoritme ze heeft beoordeeld. Als de tool fouten maakt, hebben kandidaten niet de mogelijkheid om deze te corrigeren.
Hierdoor ontstaat een ‘black box’-situatie waarin we kunnen zien wat er in een AI-systeem gaat en wat er uit komt. Maar de tussenliggende redenering blijft verborgen of onbegrijpelijk voor mensen of voor werkgevers die op de score vertrouwen bij het overwegen van potentiële aanwervingen. Deze ondoorzichtigheid is zorgwekkend in een tijd waarin steeds meer bedrijven dat doen vertrouwen op kunstmatige intelligentie bij het aannemen van personeel en kandidatenscreening.
Dat heeft een woordvoerder van Eightfold AI gezegd Snel bedrijf dat “deze karakterisering van onze producten feitelijk onjuist is. Eightfold levert de technologie die bedrijven gebruiken om talentprocessen te beheren en met kandidaten te communiceren. Eightfold ‘verbergt’ of verzamelt geen persoonlijke webgeschiedenis, sociale media en dergelijke om geheime dossiers te creëren. Het platform van Eightfold werkt op gegevens die door kandidaten aan onze klanten zijn verstrekt of door onze klanten zijn verstrekt.
“We gebruiken informatie zoals vaardigheden, ervaring en opleiding die kandidaten aan onze klanten willen verstrekken, en gegevens die contractueel door onze klanten zijn geautoriseerd.” De woordvoerder van het bedrijf verwees ook naar Eightfold’s project voor meer informatie over de specifieke gegevenspraktijken.
De aanklagers pleiten intussen niet voor het elimineren van AI uit de aanwerving. In plaats daarvan eisen ze dat AI-bedrijven aan dezelfde normen moeten voldoen als anderen.
“Het feit dat dit bedrijf ogenschijnlijk fraaie AI-technologie gebruikt en wordt ondersteund door durfkapitaal, plaatst het niet boven de wet”, zegt David Seligman, uitvoerend directeur van Towards Justice, een van de advocatenkantoren die de eisers vertegenwoordigt in de class action-rechtszaak, in het persbericht. “Dit is niet het Wilde Westen.”
Naarmate AI echter steeds meer doordringt bij het aannemen van personeel, kunnen dit soort juridische conflicten steeds vaker voorkomen.
