Inte säkert att AI förbättrar rekryteringen

Ett av Sveriges största dagligvaruföretag valde att vetenskapligt undersöka om AI kunde vara ett lämpligt verktyg i rekryteringsprocessen för att öka mångfalden i den redan blandade personalstyrkan.

– Det visade sig att personer med utomeuropeiska namn inte blev kallade till intervju i proportionerlig omfattning när rekryterande chefer vid företaget fick en lista med namn framtagen med hjälp av AI, säger Moa Bursell, docent i sociologi och forskningsledare vid Institutet för framtidsstudier samt ansvarig för studien.

Med stöd av svenska Vetenskapsrådet och i samarbete med Stockholms universitet undersöker hon om automatisering kan bidra till ökad inkludering på arbetsmarknaden.

Ingen sömlös övergång

Den automatiserade process som dagligvaruföretaget använde sig av hanterade själva screening-fasen.  Arbetssökande fick göra en personlighetstest, fylla i ett formulär med grundläggande krav och i vissa fall även göra ett problemlösningstest. Därefter tog en algoritm över och räknade ut hur de sökande klarat kraven.

– Mest slående var att personerna med utomeuropeiska namn inte hade sämre testresultat än övriga sökande. Därför kom de proportionerligt med i listan som sammanställts med hjälp av AI medan rekryterarande chefer i sitt urval till intervju ratade oproportionerligt många med just utomeuropeiska namn, säger Moa Bursell.

Cheferna mindre inkluderande med AI

Forskarna fick även tillgång till resultaten från den rekrytering som skedde med traditionella metoder. De kunde alltså jämföra resultaten från de båda processerna.

Det visade sig att när rekryteringscheferna själva fick ha hand om hela processen blev antal personer med utomeuropiskt namn proportionerligt kallade till intervju.

– De rekryterande cheferna agerade alltså mindre inkluderande med en lista som framställts med algoritmer än när de själva ägde hela processen, säger hon.

Studien utfördes med kvantitativa metoder och ger inga svar på orsaken till att rekryterarna valde bort oproportionerligt många personer med utomeuropeiska namn.

– Det är möjligt att rekryterarna skapar mångfald på sitt sätt i den traditionella processen även om det inte är på det mest meritokratiska viset, säger Moa Bursell.

Fortsatt forskning nödvändig

Den fortsatta forskningen om AI och algoritmer bör drivas i nya riktningar, det finns flera aspekter att undersöka, anser Moa Bursell.

– Man behöver titta på hur introduktionen av den nya tekniken gick till. Vilket sammanhang ska den verka i? Och undersöka vad som skedde efter att algoritmer infördes och vilka resultaten blivit, säger hon.

Testens utformning är också värd att studera, om det skapar strukturella hinder i ett större perspektiv, anser Moa Bursell.

– Om ett test används i stor skala och effekten blir att färre personer med utländska namn anställs riskerar detta att förstärka redan existerande mönster av ojämlikhet. Man måste också titta på om algoritmerna fungerar, om de bidrar till mer eller mindre rättvisa, säger hon.

Med egen och andras forskning hoppas Moa Bursell får svar på de kanske mest angelägna frågorna:

– När leder skiftet från människor till algoritmer till bättre bedömningar och beslut? När får det negativa effekter och för vem? Får vi svaren på dessa frågor vet vi vilka uppgifter vi ska delegera till algoritmerna. Och om vi ska göra denna delegering, säger Moa Bursell.