USA, algoritmi razzisti incanalano gli studenti in università “semplici”
Alcune università statunitensi adoperano algoritmi di orientamento che tengono conto dell’etnia come fattore di rischio d’alto impatto.
I giornalisti di The Markup hanno scoperto che diversi atenei hanno adottato dei modelli predittivi digitali per assistere i docenti e gli amministratori nella gestione degli studenti, un dettaglio che influenza non poco le liste degli studenti meritevoli di entrare nei corsi di specializzazione più ambiti. Si tratterebbe di una semplice ed encomiabile ottimizzazione della burocrazia, se non fosse che neri e latini sono penalizzati di partenza.
Potete trovare i dettagli del software prodotto da EAB in un documento da quasi un centinaio di pagine, ma la situazione si può riassumere con un esempio concreto: solamente l’8 per cento degli studenti dell’Università del Massachusetts è afroamericano, tuttavia il 14 per cento degli studenti che l’accademia considera ad alto rischio sono neri. Secondo alle stime, insomma, gli afroamericani hanno meno chance di concludere gli studi e per questo meritano una priorità inferiore.
Gli istituti statunitensi vogliono massimizzare il numero di studenti che portano a compimento gli studi, il che rischia di tradursi con la tendenza a spingere le minoranze verso percorsi che vengono comunemente considerati più “abbordabili”.
Interessante notare che, in piena linea con uno stereotipo razzista di lunga data, gli algoritmi delle università prese in considerazione non penalizzano gli studenti asiatici, anzi in alcuni casi li considerano meno rischiosi dei loro colleghi caucasici.
[I dati di rischio] riflettono le disparità sottostanti e che sono presenti nei campus già da molto tempo. Quello che stiamo cercando di fare con le nostre analitiche è evidenziare queste disparità e stimolare le scuole a compiere azioni per infrangere il pattern,
ha spiegato Ed Venit della EAB.
Ammesso e non concesso che un presupposto tanto virtuoso sia sincero, al personale delle istituzioni scolastiche manca la formazione adeguata per leggere e interpretare i dati, con almeno uno dei vicepresidi contattati che non era neppure a conoscenza della presenza di discriminanti raziali all’interno del sistema informatico.
La preoccupazione è che, nel tentativo di ottimizzare i libri contabili, le università siano tentate dall’affidarsi ciecamente a questi algoritmi, enfatizzando una disparità che è già di per sé sistemica.
Potrebbe anche interessarti:
