AI som kan tolka känslor testas i arbetslivet

Publicerad 22 november 2023

AI-system som läser av kroppsspråk vid anställningsintervjuer eller larmar när en anställd är ofokuserad och riskerar att skada sig. Emotion AI är det senaste inom den tillämpade AI-forskningen.

Föreställ dig att bli intervjuad av en robot på anställningsintervjun. Det låter som science fiction, men det är precis vad företaget Hirevue testat. De arrangerar anställningsintervjuer med en robot via videosamtal. Ett AI-system läser av ansiktsuttryck och kroppsspråk och registrerar vilka som flackar med blicken eller ger fel kroppspråkliga signaler. Så kallad emotion AI handlar om att lära maskiner att förstå och reagera på mänskliga känslor.

– Emotion AI bygger på maskininlärning, man utgår från stora mängder data, förklarar forskaren Sebastian Krakowski, forskare vid Handelshögskolan i Stockholm.

Sebastian Krakowski, forskare vid Handelshögskolan i Stockholm. — Semastian Krakowski är forskare vid Handelshögskolan i Stockholm.

Via bildigenkänning kan man hitta vissa regelbundenheter i människors ansiktsuttryck och korrelera det till hur man känner sig och hur man mår.

– Genom att förutspå hur människor mår kan man använda det för bättre igenkänning och förståelse.

Denna teknik kan vara en riktig livräddare för bilister. Otaliga olyckor inträffar varje år på grund av förare som nickar till bakom ratten.

– Med emotion AI kan en bil känna igen när föraren börjar bli trött. Då plingar den till och rekommenderar en paus med en kaffekoppikon, säger Sebastian Krakowski.

Inte oproblematiskt

Men emotion AI har även andra potentiella tillämpningar, till exempel inom lagermiljöer där säkerhet är av yttersta vikt. AI-tekniken kan identifiera farliga situationer genom att tolka de anställdas känslor och ansiktsuttryck. Sådan teknologi kan också förutse när en olycka är på väg att inträffa, som när en anställd känner sig distraherad eller arg.

På sikt kan emotion AI komma att förändra dynamiken och interaktionen mellan anställda, och Sebastian Krakowski understryker att det inte är oproblematiskt.

– Jag har sett prototyper som är skapade för att spåra och övervaka produktivitet nästan i realtid. Jag är bekymrad över att lita blint på tekniken. Även om teknologin förbättras snabbt finns det risker, exempelvis vid anställningsintervjuer där AI används i stället för en människa. Trots teknologins framsteg behöver vi alltid reflektera, hitta en balans och sätta människan i centrum – särskilt när det gäller etiskt och juridiskt ansvar.

Sebastian Krakowski anser att företag och arbetsgivare ett ansvar att balansera teknikens fördelar med etik och integritetsfrågor.

– Valet av hur man använder denna teknik beror helt och hållet på arbetsgivaren, avslutar han.