Studente accusato ingiustamente di frode basata sull'intelligenza artificiale dal nuovo strumento di rilevamento Turnitin

Di Miles Klee

Louise Stivers ha sempre fatto controllare i suoi compiti tramite software.

Stivers, 21 anni, laureato in scienze politiche di Santa Barbara, in procinto di laurearsi all'Università della California, a Davis, con l'intenzione di frequentare la facoltà di giurisprudenza, è cresciuto in un'epoca in cui ci si aspetta che gli studenti sottopongano compiti scritti attraverso strumenti anti-plagio come Turnitin. Gli educatori si affidano a questi servizi per valutare il testo e contrassegnare qualsiasi testo che sembri copiato da fonti esistenti, e lei non si è mai scontrata con uno di essi. Ma oggigiorno anche le amministrazioni scolastiche sono alla ricerca di compiti completati con l’intelligenza artificiale generativa. È così che Stivers si è ritrovata nei guai, anche se non aveva tradito.

"Stavo andando fuori di testa", dice a Rolling Stone.

Alcune ore dopo aver caricato un documento per una delle sue lezioni in aprile (era un breve riepilogo di un caso della Corte Suprema), Stivers ha ricevuto un'e-mail dal suo professore che indicava che una parte di esso era stata contrassegnata da Turnitin come scritta dall'intelligenza artificiale. Il suo caso era già stato inoltrato all'Ufficio per il sostegno agli studenti e gli affari giudiziari dell'università, che si occupa della disciplina per cattiva condotta accademica. Stivers era sconcertato e stressato, ma subito dopo ha dovuto sostenere un quiz per un'altra classe. Poi ha iniziato a raccogliere prove del fatto che aveva scritto lei stessa il brief.

"È stato decisamente molto demotivante", dice Stivers dell'accusa, che si è trasformata in un incubo burocratico durato più di due settimane mentre cercava di riabilitare il suo nome. Ci si aspettava che lei analizzasse le fitte politiche di frode della scuola e organizzasse una difesa formale del suo lavoro, con poco supporto istituzionale e affrontando le normali pressioni dell'ultimo anno. Lei la definisce una "enorme perdita di tempo" che avrebbe potuto essere "spesa a fare i compiti e studiare per gli esami intermedi". A causa di questa concentrazione divisa, dice, i suoi voti iniziarono a peggiorare.

Stivers non è certo il solo ad affrontare una simile prova poiché studenti, insegnanti e istituzioni educative sono alle prese con il potere rivoluzionario dei robot linguistici artificialmente intelligenti che imitano in modo convincente la scrittura umana. Il mese scorso, un professore del Texas ha utilizzato erroneamente ChatGPT nel tentativo di valutare se gli studenti avevano completato un compito utilizzando quel software. Affermava di aver scritto ogni saggio a cui dava da mangiare, quindi ha temporaneamente rifiutato i voti finali di un'intera classe.

In effetti, Stivers apprese di non essere nemmeno la prima studentessa della UC Davis a dover affrontare una falsa accusa di imbroglio nell'intelligenza artificiale. Alcuni giorni prima di sapere che sarebbe stata sottoposta a una revisione dell'integrità accademica, USA Today ha pubblicato un articolo su William Quarterman, uno studente senior e specialista in storia del college. Un professore aveva eseguito le sue risposte all'esame attraverso un rilevamento AI chiamato GPTZero, che ha restituito un risultato positivo. Il professore diede a Quarterman un voto negativo e lo indirizzò allo stesso ufficio affari studenteschi che avrebbe giudicato il caso di Stivers. Stivers venne presto a conoscenza della difficile situazione della sua compagna di classe. "Suo padre è stato in grado di aiutarlo", dice, e i due a loro volta le hanno dato "molti consigli e le hanno spiegato anche come funziona la politica scolastica a questo riguardo".

Anche così, la posta in gioco sembrava intimidatoriamente alta. L'e-mail iniziale "molto lunga" ricevuta da Stivers spiegava quando avrebbe avuto la possibilità di raccontare la sua versione della storia in una conversazione Zoom individuale con un amministratore, ma era a corto di dettagli sul processo di revisione o su cosa esattamente aveva bisogno di prepararsi. Ha anche detto che avrebbe potuto avere un avvocato presente per la chiamata, cosa che l'ha allarmata. In generale si sentiva "all'oscuro" di cosa fare, per non dire confusa riguardo alle possibili conseguenze di questa valutazione.

"Ero già molto esausto negli ultimi due trimestri", afferma Stivers. "E quando ti iscrivi alla facoltà di giurisprudenza, c'è molta pressione per mantenere alto il tuo GPA. Sì, non è divertente dover capire le complicate politiche di integrità accademica della scuola mentre fai lezione." In effetti, è diventato qualcosa di simile a compiti aggiuntivi ed estremamente stressanti.