★ Le intelligenze artificiali generative sono un JPEG di quello che l'umanità ha scritto
La newsletter per abbonati numero 2: un caso di plagio al New York Times, il patto tra chi scrive e chi legge, e perché dovremmo pensare alle IA come a degli algoritmi di compressione
Mettiamo che un uomo, sobrio, salga in auto e investa una persona sulle strisce pedonali. Non troveremmo strano se un giornale titolasse “Fermato un uomo perché guidava un’auto”? Penso siamo tutti d’accordo che l’azione “fuori norma” non sia stata mettersi alla guida ma investire il pedone: ovviamente se non fosse salito in auto non avrebbe investito nessuno, ma il motivo dell’intervento della polizia (e del biasimo sociale) non è quello.
Il Guardian ha fatto un titolo analogo a quello che ho immaginato, ma la stortura è passata sostanzialmente inosservata perché riguarda un (imbarazzante) caso di plagio e intelligenza artificiale: «Il New York Times scarica un freelance che ha usato l’IA per scrivere una recensione».
Il collaboratore — del quale si fa nome e cognome, come se il suo fosse un crimine di particolare rilevanza sociale — ha effettivamente usato un LLM (Large language model, il tipo di intelligenza artificiale dietro ChatGPT, Gemini, Claude eccetera) per scrivere la recensione. Il problema però è un altro: alcuni passaggi del suo testo sono identici a quelli di una recensione dello stesso libro pubblicata tempo prima dal Guardian. Un caso di plagio, appunto.
Se non avesse usato l’IA probabilmente non avrebbe inserito quelle frasi — oppure se ne sarebbe accorto e le avrebbe correttamente attribuite. Oppure no: ci sono espressioni o parole che ti entrano in mente ma non ricordi se e dove le hai lette oppure se le hai rielaborate tu e così le usi in buona fede. Impossibile saperlo ma penso si possa (debba) riconoscere che l’utilizzo dell’intelligenza artificiale sia rilevante, in questa storia. Ma non sembra essere — non dovrebbe essere — il motivo per cui il New York Times ha concluso la collaborazione con il freelance. Il giornale infatti non proibisce l’utilizzo delle IA: il loro codice etico indica solo che per trasparenza bisogna segnalare se sono state usate in modo significativo (substantial use). E infatti il giornale ha fatto ammenda aggiungendo un link alla recensione originale del Guardian, biasimando il collaboratore non per aver usato l’IA, ma per essersi fidato ciecamente di essa (reliance).
Il codice etico del New York Times è quanto di più vicino riesca a immaginare a un “patto” tra chi il giornale lo scrive e lo pubblica e chi lo legge. Ma sarebbe ingenuo pensare che le aspettative del pubblico si esauriscano nel rispetto di quel codice etico: è quindi legittimo che, al di là del plagio, quella recensione scritta con l’assistenza di una intelligenza artificiale possa essere percepita come un tradimento. Perché per molte persone in quel “patto” c’è l’aspettativa di leggere il frutto di un onesto, e magari faticoso, lavoro intellettuale.
