Il complottista e l'intelligenza artificiale
La newsletter numero 105 del 20 settembre 2024
Ciao,
sono Ivo Silvestro e questa è la 105ª edizione della mia newsletter settimanale di segnalazioni e riflessioni.
Oggi parliamo di una intelligenza artificiale che smonta le fantasie di complotto, di Sudd, del costo di caffè e succo d’arancia e dell’ultima centrale a carbone del Regno Unito.
Ma prima una foto, senza tante spiegazioni:
Farsi convincere da una intelligenza artificiale
Perché le persone credono alle fantasie di complotto, tipo – restiamo sui classici – che non siamo mai andati sulla Luna, che l’11 settembre è stata una montatura della Cia e di Bush Jr., che gli alieni viisitano regolarmente il nostro pianeta a bordo di dischi volanti e magari hanno pure costruito le piramidi in Egitto?
Semplificando un po’, ci sono due teorie al riguardo. Ma prima di descriverle, devo precisare una cosa: trovo questa domanda ingenua e parziale. Non dovremmo chiederci solo perché c’è chi crede che le piramidi le abbiano costruite gli alieni (o la civiltà perduta di Atlantide), ma anche perché noi1 crediamo che le abbiano costruite gli antichi egizi. Dopotutto, non ho mai studiato approfonditamente le cose, né sui libri né andando in Egitto ad analizzare le piramidi o altri reperti archeologici.
Perché credo negli antichi egizi e non nei dischi volanti? Perché la storia degli antichi egizi, al contrario di quella dei dischi volanti, mi sembra verosimile e perché mi fido di quel che mi hanno raccontato a scuola, di quello che ho letto o ascoltato in giro. Cosa che credo valga anche per chi crede nei dischi volanti.
Perché quindi crediamo a cose che non conosciamo “direttamente”? Come accennato, ci sono due teorie. La prima dice che comunque la nostra credenza si basa sulle informazioni a disposizione; la seconda che invece alla base c’è, almeno per alcune credenze che potremmo definire identitarie, il bisogno di far parte di un gruppo. Nel primo caso sono convinto che le piramidi le abbiamo costruite gli egizi perché le prove che ho a disposizione mi sembrano convincenti; nel secondo caso perché questa convinzione è condivisa all’interno del mio gruppo sociale di riferimento.
La differenza tra le due teorie la si vede se proviamo a cambiare idea, o meglio ancora a far cambiare idea a un’altra persona. Nel primo caso mi basterà portare delle prove che smentiscono la credenza di partenza e ne sostengono una nuova: di fronte a queste prove non si potrà che cambiare idea. Ma nel secondo caso quelle prove sono inutili quando va bene, perché semplicemente ignorate, e controproducenti quando va male, perché percepite come un attacco alla propria identità che va “rinegoziata” con una operazione che può richiedere molto tempo.
Ora, questa è una semplificazione, perché c’è di mezzo tutta la questione della fiducia nella fonte delle nuove informazioni – se a dirmi che il vino è buono è l’oste, o un ubriacone che si scolerebbe anche l’antigelo dell’auto, mi fido poco, se è una persona che conosco o un enologo già di più –, perché comunque fornire delle prove può portare a mettere in discussione la propria identità sociale, perché non tutte le credenze hanno lo stesso peso per tutte le persone, per gli effetti psicologici di certe convinzioni (più rassicuranti o al contrario che spingono all’azione) eccetera.
Questa è una semplificazione eppure è il punto di partenza di una ricerca recentemente pubblicata su Science che appunto scardinerebbe uno dei due modelli a favore dell’altro, mettendo in discussione anni di ricerca. Il che mi pare un pessimo modo di presentare una ricerca che è comunque molto interessante.
Ora, parliamo di questa ricerca qui: Durably reducing conspiracy beliefs through dialogues with AI di Thomas H. Costello, Gordon Pennycook e David G. Rand. Nature – la sezione “giornalistica” della testata, ma comunque la concorrenza – ci ha anche scritto un articolo: This AI chatbot got conspiracy theorists to question their convictions.
Cosa hanno fatto Costello e colleghi? Si sono detti che ok, dare informazioni vere e smentire quelle false non fa cambiare idea ai complottisti, ma questo per via di tutta quella storia sulle credenze identitarie o semplicemente perché quella roba lì di fact cheking la abbiamo fatta male? Da qui l’idea di un “fact checking personalizzato” realizzato con una intelligenza artificiale, in pratica una versione modificata di ChatGPT che volendo si può provare qui. Hanno quindi preso duemila persone, hanno fatto scrivere loro un breve testo in cui dovevano raccontare la propria fantasia di complotto e con quella hanno fatto partire una conversazione con l’intelligenza artificiale. Il risultato? Una marcata e duratura riduzione della credenza nelle fantasie di complotto – dove “duratura” significa che rimane anche a un paio di mesi di distanza (certo, ci sono grandi storie d’amore che son durate meno, e capisco che non si potevano aspettare anni prima di pubblicare la ricerca, ma ho un’altra idea di duraturo) e dove “marcata” significa il 20% di meno (che non è poco, ma neanche tantissimo direi).
Proseguo con le cose che non mi hanno convinto di questa ricerca, lasciando in fondo le cose secondo me molto interessanti. Un aspetto delicato è la scelta del campione: per come è stato selezionato – i partecipanti sono ad esempio stati pagati per partecipare all’indagine –, più che complottisti convinti ci sono un sacco di perplessi o indecisi: persone per cui c’è qualcosa che non va nella versione ufficiale dell’allunaggio, dell’assassinio di Kennedy, del Covid, delle presidenziali del 2020 eccetera, ma questa convinzione non è per loro fondamentale. L’efficacia del fact checking in questi casi è contemplata anche dal modello identitario che in teoria questa ricerca avrebbe affossato. I ricercatori, va detto, hanno chiesto quando importante fosse questa loro credenza nella loro visione del mondo e – in perfetto accordo con il modello che dicono di aver refutato – hanno riscontrato una minore efficacia in chi l’ha definita molto importante. Va comunque detto che anche con queste persone c’è stata una riduzione significativa.
Con queste persone avrebbe avuto effetto anche un fact checking tradizionale? Non lo sappiamo e questo mi sembra un grosso problema di questa ricerca. Hanno previsto un gruppo di controllo, ma invece di mandarli su un sito tradizionale di fact checking l’hanno fatto chiacchierare con l’intelligenza artificiale su temi generali. In pratica hanno dimostrato che il fact checking personalizzato è più efficace di un “buongiorno come va tutto bene grazie e lei?”.
Alcune persone che hanno provato “privatamente” il chatbot si sono inoltre sentite manipolate – ma di questo credo si parlerà nella puntata che uscirà alle 10 del podcast Ci vuole una scienza2 con Emanuele Menietti e Beatrice Mautino.
Arriviamo finalmente alle cose positive. Dalla ricerca è emerso un effetto non solo sulla fantasia di complotto oggetto della conversazione con l’intelligenza artificiale, ma anche su altre. Mostrando come queste credenze ci arrivino “a grappoli” (e di nuovo compatibilmente con il modello identitario e non con quello della mancanza di conoscenze, perché non ha senso che una informazione sull’assassinio di Kennedy mi faccia cambiare idea sull’elezione di Biden).
Ma la cosa secondo me più interessante di questo lavoro è che una intelligenza artificiale può essere proficuamente utilizzata per fornire supporto personalizzato, adattandosi alle specifiche credenze e motivazioni del soggetto e avendo a disposizione una grande quantità di informazioni, risolvendo così il “problema della montagna di merda”.3 Mi chiedo se proprio il fatto di conversare con una intelligenza artificiale abbia avuto un effetto positivo, rendendo in qualche modo neutrale una conversazione che con un essere umano sarebbe risultata polarizzante. Detto questo, non credo che funzionerebbe granché proporre una chat con Debunkbot a chi ad esempio fa strane ricerche su Google…
In poche parole
Non mi piace fare quello del “l’avevo detto, io”, però ogni tanto bisogna – per quanto la previsione fosse abbastanza facile. Una settimana fa, a proposito delle bufale sugli haitiani che mangiano i gatti gentilmente propalate da Trump, scrivevo di essere “abbastanza sicuro che questa storia porterà a una maggiore diffidenza verso gli haitiani e magari anche a qualche atto di violenza”. Facta ha un dettagliato, ma temo non completo, elenco di cose accadute e si va da allarmi bomba a delegazioni del Ku Klux Klan. La BBC ha anche realizzato un reportage da Springfield nell’Ohio e direi che abbiamo sufficienti elementi per dire che quella fake news ha portato a delle conseguenze concrete. Certo, non è solo colpa della fake news sugli haitiani, ma l’elemento scatenante è stato quello e – particolare tutt’altro che irrilevante – al candidato alla vicepresidenza JD Vance e verosimilmente anche a Trump non importa nulla se quella storia è vera o falsa, a loro interessa solo che faccia discutere: “If I have to create stories so that the American media actually pays attention to the suffering of the American people, then that’s what I’m going to do”. Anche se la sofferenza è lui a provocarla.
Ci siamo: potremmo avere i primi sfollati permanenti a causa della crisi climatica. Il Sudd (che in arabo significa “barriera”) è una vasta regione paludosa nel Sud del Sudan e finora gli abitanti hanno gestito le frequenti alluvioni alternando agricoltura e pesca, costruendo muri per proteggere gli edifici e spostando le mandrie su terreni alti. Ma questo equilibrio sembra non reggere più, stando a quanto riportano Liz Stephens e Jacob Levi su The Conversation.
Di mezzo non c’è solo il clima, ma anche le violenze in corso nella regione; i due fenomeni sono tuttavia legati e i cambiamenti climatici rischiano di rendere permanente lo sfollamento di centinaia di migliaia di persone. Il riscaldamento globale si conferma un “moltiplicatore di caos” come scrive – a proposito della Somalia – il climate editor della BBC Justin Rowlatt.
A fine mese chiuderà l’ultima centrale elettrica a carbone del Regno Unito, quella di Ratcliffe-on-Soar nel Nottinghamshire. A fine giugno era arrivato l’ultimo carico di carbone e subito dopo la chiusura inizieranno i lunghi lavori di smantellamento.
Non mi piace molto la retorica, ma potremmo considerare il 30 settembre come la conclusione – dopo qualche secolo – dell’era del carbone. Almeno nel Regno Unito, che certo è il posto dove è iniziato lo sfruttamento industriale del carbone ma se guardiamo alla produzione mondiale la situazione è meno rassicurante:
Quanto saremo disposti a pagare una tazzina di caffè o un bicchiere di succo d’arancia? Secondo la BBC un caffè a Londra potrà arrivare a costare cinque sterline4 e a New York 7 dollari. Per quanto riguarda il succo d’arancia (surgelato), è il Financial Times5 a descrivere un prezzo (all’ingrosso) quadruplicato dal 2021.
I motivi? Ovviamente la legge della domanda e dell’offerta: la produzione è in calo, la richiesta è costante quindi il prezzo aumenta. D’accordo, ma perché la produzione è in calo? Per via del clima che mette a rischio i raccolti e spinge molti agricoltori a convertirsi ad altre colture: la canna da zucchero al posto delle arance e il durian al posto del caffè.
Io mi faccio un’altra domanda: mettiamo che tutti i prodotti alimentari raddoppino di prezzo, cosa cambierebbe? Immagino che per le persone benestanti la situazione cambierebbe di poco; io probabilmente dovrei modificare le mie abitudini ma senza stravolgimenti – nel senso: non mi ritroverei a patire la fame o a dover rinunciare a cure mediche perché ho speso tutto in pane e cipolle.6 Sospetto che non sarebbe così per tutte le persone ed ecco, quando pensiamo che la lotta al riscaldamento globale è una cosa da ricchi, ricordiamoci che in realtà il conto più salato sarà per chi ricco non è.
In pochissime parole
Chissà se è un noi inclusivo o esclusivo – insomma, se c’è qualche lettore o lettrice di questa newsletter che insomma, forse gli alieni su in disco volante no, però… nel caso, benvenuto o benvenuta!
Lo so non grazie a doti paranormali, ma semplicemente perché discutendo tra divulgatori di quell’articolo Beatrice Mautino ha sollevato il tema.
Produrre una montagna di merda è sempre molto più facile che pulirla – fuor di metafora, ci vuol poco a inventare una spiegazione fantasiosa di qualcosa, ma smentirla richiede tantissime conoscenze e competenze diverse.
Ignoro cosa intendano di preciso con “cup of coffee”, che può variare dall’espresso bevande ben più elaborate che già adesso si avvicinano a quei prezzi – il concetto dell’articolo comunque è che il caffè costerà “tanto”.
Link accessibile: archive.is/vupuj.
Ma potrei dover rinunciare a cure mediche perché le cure mediche stesse costano troppo, ma questo è un altro discorso.