Uno studente di Princeton ha creato un’applicazione in grado di rilevare il testo generato dall’intelligenza artificiale. Edward Tian ha creato GPTZero durante le sue vacanze invernali. Edward afferma che il software è in grado di determinare “in modo rapido ed efficiente” se una persona o una ChatGPT ha scritto un saggio. Il 22enne studia attualmente informatica e giornalismo all’Università. Parlando con The Daily Beast, Tian ha detto che non si aspettava che GPTZero ottenesse molto seguito. “Mi aspettavo al massimo qualche decina di persone che avrebbero provato l’applicazione”, ha dichiarato. Ma poche ore dopo essere stata caricata sulla piattaforma di hosting Streamlit, oltre 2000 persone si erano iscritte alla versione beta. Alla fine, il sito è andato in crash quando si è diffusa la notizia del programma. Tian ha creato l’applicazione per combattere l’aumento del plagio attraverso l’intelligenza artificiale. Da quando è stata rilasciata ChatGPT, si sono verificati diversi casi di studenti che hanno utilizzato il modello linguistico per spacciare per propri i lavori scritti dall’intelligenza artificiale. Per questo motivo ha deciso di trovare un modo per rilevare i contenuti dell’AI. Quando la sua app ha debuttato, Tain ha detto che le persone meritavano di sapere da dove provenissero i lavori scritti.
Perplessità e casualità
GPTZero utilizza due metriche per rilevare l’IA. Queste includono la “perplessità e la “burstiness”. Al testo copiato nell’app vengono assegnati dei numeri per entrambe le unità di misura. Se il numero è basso, probabilmente il testo è stato creato da un bot.
La perplessità è una metrica che misura il grado di casualità di una frase. Quando un testo impiega un uso o una struttura di parole inaspettati, tende a produrre un punteggio di perplessità più alto. Tian ha detto di aver sfruttato le capacità di GPT-2, un modello linguistico gratuito e open source, per addestrare la sua applicazione a questa particolare metrica che aiuta a rilevare l’intelligenza artificiale.
Il termine burstiness si riferisce al livello di casualità all’interno di un dato testo. Quando si parla di scrittura umana, le frasi presentano un’ampia gamma di complessità. Alcune sono semplici, altre molto intricate. Ma l’intelligenza artificiale tende a generare frasi che spesso hanno una complessità relativamente bassa, mantenendo un livello costante in tutto il testo. “Ci sono qualità bellissime nella prosa scritta dagli esseri umani che i computer non possono e non devono mai cooptare”, ha dichiarato Tian al Daily Beast, spiegando di essere stato ispirato a creare l’applicazione dopo aver letto le opere del quattro volte finalista al Premio Pulitzer John McPhee. Sebbene la sua app sia in grado di rilevare l’intelligenza artificiale, il 22enne non è contrario alla tecnologia. Tian ritiene che l’IA possa trovare spazio se utilizzata in modo etico e con il consenso. “Non mi oppongo all’uso dell’IA per la scrittura quando ha senso”, ha detto, ammettendo di aver usato programmi come CoPilot per supportare la sua codifica.
