Si può fare affidamento su ChatGPT?
OpenAI è stata interrogata su una tematica abbastanza complessa e delicata: il cancro. Come se l'è cavata?
Uno studio pubblicato sul Journal of The National Cancer Institute Cancer Spectrum ha esaminato le chatbot dell’intelligenza artificiale (AI), che sono diventati risorse molto popolari anche per quanto riguarda le informazioni sul cancro. È emerso che queste risorse forniscono informazioni accurate quando vengono interrogate su falsi miti e credenze comuni sul cancro. Nel primo studio di questo tipo, Skyler Johnson, medico e ricercatore presso l’Huntsman Cancer Institute e professore nel dipartimento di radio-oncologia dell’Università dello Utah, ha valutato l’affidabilità e l’accuratezza delle informazioni sul cancro fornite da ChatGPT. Interrogando ChatGp utilizzando informazioni basate su falsi miti riguardanti il cancro, Johnson e il suo team hanno constatato che il 97% delle risposte erano corrette. Tuttavia, questo risultato è accompagnato da alcune importanti avvertenze, tra cui la preoccupazione del team che alcune delle risposte di ChatGPT possano essere interpretate in modo errato. “Questo potrebbe portare a decisioni sbagliate da parte dei pazienti oncologici”, afferma Johnson.
Lo studio si è servito di alcuni previsori per verificare l’accuratezza delle risposte della chat. I revisori erano in cieco, cioè non sapevano se le risposte provenissero dalla chatbot o dall’National Cancer Institute. Sebbene le risposte fossero accurate, i revisori hanno riscontrato che il linguaggio di ChatGPT era indiretto, vago e, in alcuni casi, poco chiaro.
“Riconosco e capisco quanto possa essere difficile per i pazienti oncologici e i caregiver accedere a informazioni accurate”, afferma Johnson. “Queste fonti devono essere studiate in modo da poter aiutare i pazienti oncologici a navigare nelle acque torbide che esistono nell’ambiente dell’informazione online quando cercano di trovare risposte alle loro diagnosi”, ha commentato il dottor Johnson
Le informazioni errate possono danneggiare i pazienti oncologici. In uno studio precedente, pubblicato sul Journal of the National Cancer Institute, Johnson e il suo team hanno scoperto che la disinformazione era comune sui social media e poteva potenzialmente danneggiare i pazienti oncologici. I prossimi passi saranno quelli di valutare la frequenza con cui i pazienti utilizzano le chatbots per cercare informazioni sul cancro, quali domande pongono.
