Al MIT di Boston è stata creata una intelligenza artificiale che presenta tratti tipici della psicopatia al fine di dimostrare quanto il set di dati utilizzato per allenare le IA sia importante.

Norman, così è stata chiamata l’intelligenza artificiale psicopatica. Nome preso in prestito dal famoso personaggio Norman Bates, che di disturbi mentali se ne intende.

Questa intelligenza artificiale è stata allenata per creare una descrizione testuale di immagini che le vengono sottoposte. Va da sé che per allenarla serve fornirle un set di immagini abbastanza ampio, in modo che l’algoritmo riesca ad apprendere.

 

Più o meno simili come visioni, dai.

 

Nel caso specifico di Norman, il set di immagini utilizzato proveniva da un subreddit, un canale di Reddit, che si occupa della documentazione e osservazione della disturbante realtà della morte, a quanto riporta il team del MIT.

Una volta addestrata è stata sottoposta al Test di Rorschach, e le sue risposte sono state confrontate con quelle di una rete neurale addestrata invece con un set di immagini più standard (MSCOCO dataset).

Dove l’IA addestrata con un dataset standard vedeva una persona che teneva sollevato un ombrello, Norman ha visto un uomo colpito a morte davanti alla propria moglie urlante.

E ancora dove l’altra IA vedeva un primo piano di un vaso di fiori, Norman ha visto un uomo colpito a morte da un proiettile. Dove l’altra IA vedeva un gruppo di uccelli su un ramo, Norman ha visto un uomo morto folgorato.

Come spiega Iyad Rahwan, il leader del progetto, lo scopo dei ricercatori era evidenziare come i dati utilizzati nella fase di allenamento contino più degli algoritmi, quando si sviluppa una intelligenza artificiale.

Il test evidenzia l’idea che i dati che usiamo per addestrare le IA si riflettano nel modo in cui l’IA percepisce il mondo e come si comporta

 

Guardando al futuro dice:

Gli ingegneri devono trovare una via per bilanciare i dati in qualche modo

C’è una crescente convinzione che il comportamento delle macchine possa essere qualcosa che sia studiato come si studia il comportamento umano

 

Una sorta di psicologia delle macchine quindi, che permetta di verificare periodicamente i comportamenti delle intelligenze artificiali per assicurarsi che siano quelli desiderati, ed eventualmente correggerli in caso contrario.