Problemi reali e artificiali

La newsletter numero 51 del 25 agosto 2023

Ciao,
sono Ivo Silvestro e questa è la 51ª edizione della mia newsletter. Oggi parliamo di intelligenza artificiale, Michela Murgia, parole che polarizzano e l’OMS che fa l’alternativa.

Ma prima una foto:

Quella che si vede sulla terrazza di casa è una “entità digitale” generata dall’app Replika. In pratica è la versione seria di Her di Spike Jonze – ma i riferimenti potrebbero andare molto più indietro nel tempo, direi almeno fino a Pigmalione –, una intelligenza artificiale pensata per creare relazioni personali (non solo di amicizia) con caratteristiche che mi ricordano quelle di The Stepford Wives (mi riferisco ai film del 1975 e del 2004, non al romanzo che non ho mai letto).

Intelligenze artificiali e schiavi reali

Di Replika scriverò un’altra volta, anche perché le cose più interessanti credo riguardino la psicologia umana – degli utenti e dei creatori di Replika –, non l’intelligenza artificiale che c’è dietro. E oggi scrivo di intelligenza artificiale.

Sono convinto che, per essere buoni cittadini del mondo digitale del futuro, dovremmo conoscere a grandi linee come funzionano le “intelligenze artificiali che scrivono cose”. Cosa vuol “a grandi linee”? Certamente sapere che nessuno inserisce le istruzioni per scrivere poemi o disegnare cose, ma che si tratta di sistemi che vengono addestrati dando loro in pasto enormi quantità di testi – o immagini con la loro descrizione, video, suoni eccetera – affinché riescano a “fare da soli”, prevedendo statisticamente quali parole seguono la frase “In che anno è morto Napoleone?”.

Se volete una spiegazione più dettagliata, ho trovato un interessante articolo di Timothy B. Lee e Sean Trott: Large language models, explained with a minimum of math and jargon.

Ho così scoperto – riassumo per come l’ho capita – come questi modelli linguistici di grandi dimensioni affrontano le ambiguità del linguaggio, insomma capiscano se la parola “porta” è un sostantivo o un verbo e “vecchia” è un aggettivo.¹  In pratica, il testo viene analizzato più volte aggiungendo a ogni passaggio informazioni che arrivano dai passaggi precedenti e dai testi usati per l’addestramento.

E il significato delle parole? È un insieme di coordinate, un po’ come quando identifichiamo una città con le sue coordinate – solo che non abbiamo solo longitudine e latitudine, ma decine, centinaia o migliaia di valori. Il che permette, una volta trasformare le parole in questa sfilza di numeri, di fare calcoli tipo “dottore - uomo + donna = infermiera”.²

Il discorso è ovviamente più complesso e direi che supera il livello di conoscenze necessarie per essere “cittadini digitali consapevoli”, ma per i curiosi rimando all’articolo di Lee e Trott. Io ritorno un attimo sulla fase di addestramento che se me la devo raffigurare in qualche maniera, mi immagino i volumi di un’enciclopedia messi in una specie di macinino che li trasforma in numeri. Ecco, in realtà è un lavoro sporco o meglio un “bullshit jobs”, un lavoro privo di significato, soprattutto quando si tratta di immagini o altri contenuti che vanno “etichettati”. Un lungo articolo del New York Magazine e di The Verge ci mostra questa realtà nascosta. Un piccolo assaggio:

Over the past six months, I spoke with more than two dozen annotators from around the world, and while many of them were training cutting-edge chatbots, just as many were doing the mundane manual labor required to keep AI running. There are people classifying the emotional content of TikTok videos, new variants of email spam, and the precise sexual provocativeness of online ads. Others are looking at credit-card transactions and figuring out what sort of purchase they relate to or checking e-commerce recommendations and deciding whether that shirt is really something you might like after buying that other shirt. Humans are correcting customer-service chatbots, listening to Alexa requests, and categorizing the emotions of people on video calls. They are labeling food so that smart refrigerators don’t get confused by new packaging, checking automated security cameras before sounding alarms, and identifying corn for baffled autonomous tractors.

E ci sono anche problemi di diritto d’autore.

Ho invece scoperto che le belle ragazze asiatiche che periodicamente mi scrivono su Telegram o WhatsApp non sono un’intelligenza artificiale – che non fossero belle ragazze asiatiche che sbagliavano numero di cellulare ci ero arrivato anch’io. Non mi ha stupito scoprire che dietro c’è una truffa con le criptovalute, ma che a scrivere fossero persone tenute prigioniere sì:

Thuy was 29 but looked younger, with a thin mustache and wavy bangs that covered his forehead. When he opened his mouth to light a cigarette, he revealed that he was missing at least four front teeth—knocked out, he told me, by his captors in Cambodia. Sitting cross-legged on the green-tiled floor of his aunt’s tiny apartment, we went over satellite photos of Chinatown. Thuy showed me the gates manned by guards and the areas the captive workers couldn’t leave. He also pointed out a hotel with a gilded facade within the complex where he said the bosses were serviced by prostitutes.

Da un estratto del libro Number Go Up: Inside Crypto’s Wild Rise and Staggering Fall di Zeke Faux pubblicato da Bloomberg.

Due cose su Michela Murgia…

… nel senso di due articoli, uno “pro” e l’altro “contro”: Le persone facili si dimenticano, Michela Murgia no di Nicola Lagioia e Piccolo trattato intorno alla beatificazione di Michela Murgia di Paolo Ferrucci.

Ho letto diversa roba – comunque una piccola frazione di quanto pubblicato dopo la morte di Murgia – e questi due testi sono tra i pochi che ho trovato interessanti per quanto non del tutto condivisibili (soprattutto quello di Ferrucci che ho trovato in alcuni passaggi eccessivamente severo). Segnalarli tutti e due è un po’ democristiano: consideriamolo un modo per evitare quella polarizzazione che forse a Murgia non sarebbe dispiaciuta – quantomeno sui temi “femministi” a lei cari – ma che continuo a considerare una cosa sbagliata.

… e due sulla polarizzazione

In Ticino la polemica della settimana è il nuovo diario scolastico³ che in ben due pagine ammette l’esistenza di giovani che mettono in discussione la propria identità di genere. In questa foto si vedono le due pagine incriminate.

Il tema è delicato, innanzitutto per chi in una fase già complicata di suo della propria vita – preadolescenza e adolescenza – si ritrova a identificarsi in profili socialmente non ancora riconosciuti e accettati. Per questo non ho nessuna stima di chi si mette a sbraitare di “indottrinamento gender”, rendendo praticamente impossibile affrontare il discorso in maniera obiettiva.

In tutto questo delirio ho apprezzato in particolar modo le parole di un politico liberale, Alex Farinelli:

Leggere banalizzazioni dove si scrive che “ogni individuo è libero di sentirsi maschio, femmina e magari in futuro cane, gatto o canarino” è qualcosa che urta e ci dimostra proprio quanto sia essenziale parlarne. Evidentemente, purtroppo, non si è ancora colto che chi vive queste situazioni è confrontato, soprattutto a causa di un’impreparazione della società, a una vita molto complicata e irta di non pochi ostacoli. Ridicolizzarne e banalizzarne la situazione non aiuta sicuramente a migliorarne il percorso, anzi.

Sul tema “esistono solo due sessi”, una lettura interessante per capire che la realtà (biologica oltre che sociale) è molto più ricca: I machi del Cile, l'identità del se e le caselle dei biologi di Lisa Signorile.

La seconda cosa sulla polarizzazione riguarderebbe il famigerato libro del generale Vannacci. Ma qui mi limito a riprendere una riflessione di Marino Sinibaldi pubblicata sul Post su un aspetto apparentemente marginale, quello dell’importanza dei libri: Perché un libro fa (ancora) casino.

Perché un libro fa (ancora) tutto questo casino? Perché insomma affermazioni che girano un po’ dappertutto e sono altrove normali (che non vuol dire, Generale, «di tutti» e nemmeno «della maggioranza»: significa semplicemente che ci stanno, insieme ad altre) diventano, stampate su un libro, drammatiche, pesanti, influenti? Evidentemente l’oggetto, perso molto del suo valore materialmente economico e persino la centralità simbolica che lo connotava in un universo culturale passato, resta una specie di totem. Un mix di autorevolezza e sacralità (largamente esagerata la prima: quello del Generale non è l’unico libro pieno di fesserie; del tutto infondata la seconda: il libro è un oggetto laico e felicemente banale) che sopravvive a ogni rivoluzione tecnologica. L’esito, semplice e inspiegabile, che siccome sono finite in un libro, frasi e pensieri hanno assunto una serietà che non gli avremmo attribuito altrove.

La parola clandestino

Un articolo di Federico Faloppa sul termine clandestino – con un titolo infelice, perché non si tratta di “vietare” una parola, ma di riconoscere il suo valore e la sua forza per quello che è:

Il viaggio dei meteoriti e la medicina “alternativa”

In assenza di fornaci, dove ci si procura il ferro? Dai meteoriti – e capita che del metallo “estone” finisca in una freccia “svizzera”.

L’OMS si sta giocando parte della sua residua credibilità sulle medicine alternative. Non tanto perché chi crede che esista una sola medicina, quella che ha dimostrato di funzionare guarda con diffidenza al “Summit mondiale sulla medicina tradizionale” che l’OMS ha appena organizzato, ma perché dare risalto a queste pratiche sembra essere necessario per i delicati equilibri internazionali che regolano l’operato dell’ente.

Personalmente apprezzo che, nel comunicato stampa si parli di medicina tradizionale, alternativa e complementare “evidence-based”. Del resto è già capitato che pratiche tradizionali portassero a trattamenti medici standard.

Questa edizione della newsletter finisce qui; sperando di non aver fatto troppi errori e che vi sia piaciuta, vi invito a consigliarla o condividerla con altre persone…

Ci leggiamo tra sette giorni.

1. Penso a quello che considero un piccolo capolavoro del genere: “La vecchia porta la sbarra” descrive una anziana signora che cammina tenendo in mano una sbarra oppure una porta non più recente che blocca qualcosa?

2. Se prendessimo le definizioni di un dizionario, dovrebbe essere “dottoressa”. Ma qui ci basiamo su un insieme di testi che contengono anche stereotipi e preconcetti – e ce li mettono davanti agli occhi.

3. Sì, in Ticino c’è una sorta di “diario scolastico ufficiale” per le medie; credo che la cosa dipenda dalla necessità di avere qualcosa con il calendario scolastico ticinese, includendo quindi gli ultimi giorni di agosto e le prime settimane di giugno oltre alle corrette vacanze e festività – poi nessuno impedisce di usare un diario qualsiasi o un quadernetto anonimo.