Questo sito utilizza cookie, anche di terze parti, per migliorare la tua esperienza e offrire servizi in linea con le tue preferenze. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsenti all'uso dei cookie.

CHIUDI

All’algoritmo di Amazon non piacciono i CV femminili. Quando l’intelligenza artificiale genera discriminazione.

12/10/2018

 

All'intelligenza artificiale di Amazon non piacciono le donne: il software programmato dal colosso dell'e-commerce per sperimentare un nuovo metodo di recruitment online preferiva i CV maschili a quelli femminili per posizioni di sviluppatori.

Ma com'è possibile che un player delle dimensioni di Amazon sia scivolato su un tema così attuale come la gender equality?

Come funzionava il software

Il software di intelligenza artificiale, su cui un team Amazon ha lavorato tra il 2014 e il 2017, era stato programmato attraverso il machine learning ed utilizzava un punteggio da 1 a 5 (proprio come il celebre rating utilizzato all'interno del marketplace) per valutare l'appetibilità dei curriculum ricevuti.

Su quali criteri di scelta si basava il software? Essendo un processo di machine learning, quindi di apprendimento, per permettere alla macchina di imparare sono stati inseriti al suo interno i modelli dei CV ricevuti dalla compagnia nell'arco di 10 anni per posizioni simili a quella ricercata.

La maggioranza di questi CV apparteneva a uomini. 

Shut down

Ne è risultato che la macchina ha imparato a riconoscere come "positivi" i CV maschili, penalizzando invece tutti i CV in cui appariva la parola "donna".

Scoperta questa "falla", il team a capo del progetto ha cercato di modificare l'algoritmo per rendere lo screening più equo rispetto al genere ma, nonostante questi accorgimenti, non c'erano sicurezze che il software sarebbe stato in grado di assicurare la parità di giudizio nella valutazione dei CV.

A fronte di questi risultati, all'inizio dell'anno scorso Amazon è stato costretto a chiudere questo progetto, sciogliendo il team che aveva lavorato alla sua creazione.

 

 

Pregiudizi

La "colpa" di questo fallimento, se così vogliamo chiamarla, non è però del tutto imputabile alla macchina: trattandosi di machine learning, sono stati proprio i dati ad essere determinanti nel processo.

Nei dati, quindi nei CV utilizzati per l'apprendimento, erano infatti presenti pregiudizi interiorizzati, trasmessi attraverso le scelte effettuate dalle persone che avevano eseguito lo screening iniziale. 

I pregiudizi ci accompagnano nella nostra vita di tutti i giorni e hanno un impatto non indifferente sulle nostre scelte quotidiane.

«Il sistema ha analizzato centinaia di milioni di parole, mettendole in relazione a quelle più vicine nella frase. Interrogato sugli accostamenti di parole, il software rispondeva replicando i pregiudizi impliciti presenti online. Per esempio associava la parola donna, o ragazza, ad arte; e quella di uomo a scienza, replicando uno stereotipo diffuso. I pregiudizi del software riflettevano quelli misurati con test psicologici tra le persone». scrive il Corriere Comunicazione.

Andare oltre gli stereotipi

Come fare quindi per evitare gli stereotipi durante il processo di selezione e diventare più oggettivi? 
La nostra soluzione è il blind recruitment, in altre parole la selezione "al buio".

Questo tipo di selezione permette di nascondere tutti i dati che potrebbero influenzare il processo di giudizio: sesso, età, provenienza geografica ecc. Vi suona familiare? È lo stesso principio usato per le Blind Audition di The Voice e di cui vi abbiamo già parlato in questo articolo!

Quello che fa The Voice con i cantanti noi invece lo applichiamo ai CV: nascondiamo l'identità dei candidati ai recruiter per permettergli di valutare le loro reali capacità concentrandosi sui business case presentati.

Volete un esempio concreto? Abbiamo fatto un esperimento invitando diversi esperti nel campo delle risorse umane a valutare CV dai quali abbiamo nascosto nome e cognome e altri dati personali. Il risultato è stato sorprendente: 

 

       

Impresa: sostantivo femminile


Just Knock


16/04/2019

Se puoi sognarlo puoi esserlo: a 60 anni Barbie insegna ancora a sognare in grande


Just Knock


08/03/2019

Combattere lo stress in azienda con la mindfulness



05/02/2019
Just Knock S.r.L. - P.I. IT 08772940964 - info@justknock.it