Børs og finans

Vraker AI-robot - Likte ikke kvinner

Amazon vraker et AI-basert rekrutteringssystem etter at progammet ikke likte kvinnelige søkere.

Foto: Thomas Reichhart / Shutterstock / NTB scanpix

Foto: Thomas Reichhart / Shutterstock / NTB scanpix

Artikkel av: Njål Eivind Kleiven
10. oktober 2018 - 20.01

Den disruptive retailgiganten Amazon har lagt sitt nye rekrutteringsverktøy på is, melder Reuters.

Selskapets maskinlæringsspesialister har siden 2014 bygd et program for gjennomgang av jobbsøknader og CVer for å finne de beste talentene.

Programmet benyttet seg av det stjernebaserte rangeringssytemet som Amazonkunder kjenner godt til. Skalaen som går fra én til fem stjerner skulle filtrere søkere og automasjonsprosessen skulle gi kostnadsbesparelser og mer objektiv behandling av søkere.

- Alle ønsket denne fantastiske løsningen. De ville at den skulle være en motor som kunne gå igjennom 100 søknader og spytte ut de fem beste slik at vi kunne ansette dem, sier en kilde til Reuters.

Det var bare et problem. Programmet likte ikke kvinner.

Modellene var basert på mønstre i søknader som var sendt til selskapet over en tiårs periode. De fleste søknadene hadde kommet fra menn, noe som reflekterer den skjeve kjønnsdelingen innenfor teknologiindustien, skriver Reuters.

Resultat ble derfor at systemet lærte seg selv til å foretrekke menn over kvinner. Søknader som inneholdt ordet "women" på en eller annen måte ble straffet i rangeringen.

Amazon har nå avsluttet prosjektet, men ifølge kilder som Reuters har vært i kontakt med skal rekrutteringsansvarlige ha benyttet seg av programmet når de så etter nyte kandidater sammen med andre metoder.

Amazon-aksjen faller 3,67 prosent til 1.800,52 dollar under handelen onsdag kveld norsk tid.