Pregiudizio dell’automazione: di cosa si tratta?
Il pregiudizio dell’automazione affligge il mondo moderno, ecco come combatterlo ed evitarlo.
Ogni giorno dobbiamo vedercela con tanti pregiudizi cognitivi che divergono dalla razionalità e che possono influenzare i giudizi. Possono esistere altri tipi di pregiudizi non cognitivi, come la teoria del social proofing, oppure la dissonanza cognitiva quando abbiamo idee contrastanti nella nostra mente. L’effetto placebo, infine, può portare a cambiamenti fisiologici.
Vediamo però in questo caso cos’è il pregiudizio dell’automazione e come evitarlo. Partiamo da cos’è, si tratta della propensione degli esseri umani a favorire i suggerimenti dei sistemi decisionali automatizzati guidati dall’intelligenza artificiale. Questo è diventato un problema per il processo decisionale in tanti differenti ambiti e molte discipline. Esempi sono i bias di automazione che partono dal far volare un aereo con il pilota automatico fino a decidere quale serie tv guardare.
Anche quando i medici accettano la guida di un sistema automatizzato si parla sempre di pregiudizio dell’automazione. I medici cessano di cercare prove di conferma, magari dando la colpa del processo di decisione alla macchina stessa. L’essere umano fa troppo affidamento alla tecnologia di apprendimento automatico, l’uomo perde così il suo potere decisionale e la curiosità. Purtroppo, il progetto dell’automazione, come altri pregiudizi cognitivi, non ha una soluzione semplice e universale. Viene richiesta così una combinazione di strategie, ad esempio una formazione continua per aumentare la consapevolezza personale. Oppure anche la sperimentazione di tecniche di debiasing, o ancora seguire il proprio pensiero e affidarsi alla curiosità dell’uomo.
