Automatisering är en bred trend i dag. Med maskininlärning kan uppgifter klaras av i betydligt raskare takt än vad vi människor klarar.

Men ibland går det snett. 2014 drog Amazon igång ett försök att använda sig av artificiell intelligens, AI, för att sålla bland kandidaterna inför en rekrytering. Men året efter, 2015, visade det sig att de som sökte vissa jobb inte rankades könsneutralt. Kvinnornas meriter nedgraderades, rapporterar Reuters.

Orsaken till att det gick snett var att Amazons modeller tränades genom att observera mönster i ansökningar som lämnats in under de senaste tio åren och lära sig utvärdera genom det. Men majoriteten av ansökningarna kom från män och det gjorde att programmet på egen hand lärde sig att män var att föredra.

Om någon exempelvis skrev att den varit lagledare för en damschackklubb eller gått på ett amerikanskt college för kvinnor så straffade det sig. Och trots att Amazon gjorde justeringar för att få programmet att förhålla sig neutralt till just sådana saker så fanns det fortfarande ingen garanti för att det inte skulle börja sortera kandidater på andra diskriminerande sätt, enligt personer med insyn.

I början av förra året hade ledningen tappat hoppet om projektet och det team som arbetade med rekryteringsverktyget upplöstes.

Amazon har inte velat kommentera uppgifterna till Reuters men uppger att man aldrig använt verktyget för att utvärdera jobbsökande.