Un recente studio del professor Latanya Sweeney di Harvard ha segnalato la presenza di “discriminazioni significative” nei risultati che si ottengono “googlando”. In particolare se il nome verosimilmente appartiene a un bianco, escono informazioni sulla sua email, indirizzo ecc. Se il nome è tradizionalmente di un nero escono notizie su crimini. Cosa significa questo? Si chiede l’autrice dell’articolo sul Guardian, Arwa Mahdawi.
In realtà Google non ha strumenti per tracciare profili razziali, per così dire. La discrepanza demografica si spiega facendo riferimento, non agli algoritmi della rete, ma alle abitudini degli esseri umani in carne e ossa. In sostanza se c’è un risultato discriminatorio, questo molto banalmente riflette i pregiudizi reali. Quello che allora diventa interessante è se la tecnologia può correggere quello che il professor Sweeney definisce “razzismo strutturale”, anziché limitarsi a confermarlo.
Ma al di là di tutto questo, la ricerca di Sweeney, ci ricorda ancora una volta come la nostra “impronta digitale”, cioè le tracce che lasciamo in rete abbiano una profonda implicazione sulla nostra vita reale. Vale a dire che per liberarsi dei risultati discriminanti non serve cambiare gli algoritmi, bisogna che cambino le cose nel mondo reale.
Salta al contenuto
