La moratoria sulle intelligenze artificiali. E su quelle umane

La newsletter numero 30 del 31 marzo 2023

Ciao,
sono Ivo Silvestro e questa è la 30ª edizione della mia newsletter. Oggi parliamo di cosa fare con le IA, di TikTok, di cibi estinti e di traffico.

Ma prima una foto. Mi sarebbe piaciuto mettere la fotografia dell’agente di polizia con la scritta ACAB sulla cintura, ma non me la sono sentita di fotografarlo. Sopperisco con un altro microscopico atto di ribellione:

Un radar alla fermata del bus. Chissà chi si è messo ad aspettare l’arrivo del bus proprio davanti all’obiettivo…

La moratoria sulle IA è una buona idea, ma…

Credo che questa cose delle intelligenze artificiali ci stia un po’ sfuggendo di mano. Non dico tanto la tecnologia in sé – che tra l’altro non è esattamente una novità – ma delle chiacchiere che ne facciamo, tra persone fortemente entusiaste e fortemente preoccupate.

Non voglio minimizzare l’impatto – positivo e negativo – che tutto questo potrà avere sulla società e sulle nostre vite. È solo che ho l’impressione che guardiamo nella direzione sbagliata. Perché quando leggo che in Belgio un uomo si sarebbe tolto la vita per colpa di un programma simile a ChatGPT,¹ mi chiedo se a preoccuparci debba essere l’intelligenza artificiale o quella umana. Asimov nei suoi racconti sui robot aveva introdotto questo bellissimo personaggio, la robopsicologa Susan Calvin, che non solo capiva come si comportano i robot con cervello positronico, ma anche come si comportano gli esseri umani alle prese con i robot. Avremmo anche noi bisogno di figure simili.

Un pensiero simile l’ho avuto leggendo la lettera aperta firmata da numerosi ricercatori e imprenditori che chiede unapausa di almeno 6 mesi nello sviluppo di modelli linguistici ancora più evoluto di GPT-4. Intendiamoci: l’idea di una moratoria è opportuna – probabilmente inapplicabile ma decisamente opportuna. I firmatari non son neoluddisti che vorrebbero distruggere tutti gli algoritmi ma persone preoccupate dal fatto che la società non è pronta a gestire la diffusione di questi modelli linguistici. Tuttavia: la fantascienza, pur con tutti i suoi limiti e i suoi abbagli, è da un secolo che ci racconta storie di intelligenze artificiali, di reti neurali artificiali si parla dagli anni Quaranta e i filosofi hanno iniziato a discutere del tema poco dopo. Com’è che come società solo adesso, a marzo 2023, ci rendiamo improvvisamente conto del problema? Come mai abbiamo ignorato tutto quel dibattito, quasi fossero solo sogni o remote eventualità?

Ecco, a me la moratoria di sei mesi sulle intelligenze artificiali – chiamiamola così, anche se la proposta è più specifica ed elaborata – va bene; ma vorrei anche una moratoria sull’intelligenza umana finché non capiamo come fare in modo che affronti i problemi per tempo, senza aspettare che effetti ampiamente prevedibili si materializzino. E non vale solo per l’intelligenza artificiale – qui mi limito a citare la crisi climatica.

Chiudo questa sezione con qualche lettura interessante su ChatGPT e simili. Iniziamo da una spiegazione di come funzionano i modelli linguistici, cosa che – almeno negli aspetti generali – credo ormai tutti debbano sapere anche per capirne i limiti. Andrea Beltrama ha scritto un bel pezzo su Rivista Studio: “Che differenza c’è tra ChatGPT e un pappagallo?”.

Ironicamente, mi verrebbe da rispondere che il pappagallo sa anche volare, mangiare e deporre uova. La risposta però è più seria di quel che si potrebbe pensare: gli esseri viventi sanno fare molte cose diverse e si adattano all’ambiente e questo non è modellabile da un algoritmo di deep learning che è forzatamente limitato a un tipo specifico di compiti. È un’impossibilità matematica, come hanno spiegato Jobst Landgrebe e Barry Smith.

C’è poi un testo di Colin Porlezza, professore dell’Università della Svizzera italiana, su rischi e opportunità del giornalismo automatizzato. E una mia cosa sulla disinformazione.

E ora qualcosa di completamente diverso

Un po’ di segnalazioni sparse.

Il Guardian ha scoperto di avere un passato di schiavismo – ed è corso ai ripari con una certa coerenza.

È una riflessione un po’ antropocentrica, ma l’estinzione di specie animali e vegetali significa anche la scomparsa di cose da mangiare.

Negli Stati Uniti si discute di proibire TikTok perché usato dal governo cinese per scopi vagamente loschi. Se la proposta vi pare sensata – come inizialmente lo è parsa a me – Cory Doctorow potrebbe farvi cambiare idea:

Corporations are remorseless, paperclip-maximizing colony organisms that perceive us as inconvenient gut-flora, and they lack any executive function (as do their "executives"), and they cannot self-regulate. To keep corporations from harming us, we must make it illegal for them to enact harm, and punish them when they break the law.

America doesn't need a Great Firewall to keep itself safe from tech spying – it needs a privacy law.

Andrea Daniele Signorelli, Cosa significa per Bitcoin l’inverno cripto su Guerre di rete – una delle più interessanti analisi sulle criptovalute che ho letto negli ultimi mesi:

E allora, qual è la funzione dei bitcoin? Al di là del fatto che, in una società che si appresta a diventare cashless, le criptovalute rivestiranno inevitabilmente un ruolo importante per l’economia illegale e sommersa (che secondo il World Economic Forum nel 2015 valeva tra l’8 e il 15 per cento dell’economia globale), al momento i bitcoin stanno confermando sempre di più la loro funzione di “oro digitale”: di bene d’investimento puro, senza alcun utilizzo che non sia quello di essere rivenduto un domani a un prezzo superiore.

Il libro della settimana

Purtroppo l’edizione italiana di questo libro di Tom Vanderbilt è esaurita – o forse per fortuna, perché direi che Rizzoli ha fatto un pessimo servizio al testo, con un titolo e una copertina che fan pensare a una sorta di “non tutti sanno che” riferito alle automobili.

Il libro non è una raccolta di informazioni curiose, ma una analisi di come noi esseri umani ci spostiamo e dei tanti aspetti, dalle abitudini di guida alle strade alle automobili, ai quali non pensiamo quasi mai. Se lo trovate in qualche bancarella, prendetelo; se no cercatelo in biblioteca o leggetevi la versione originale.

Una curiosità: nel libro non si dice quasi nulla sull’inquinamento dovuto alle automobili. Ma non perché il tema non fosse di attualità, ma perché la soluzione a questo problema è poco interessante: basta cambiare il motore a benzina con uno elettrico o a idrogeno. Cosa che lascia invariati tutte le altre difficoltà di un mezzo di trasporto che presenta diversi svantaggi.

Questa edizione della newsletter finisce qui; se vi è piaciuta potete consigliarla o condividerla con altre persone…

… e volendo potete anche fare una piccola donazione:

Ci leggiamo tra sette giorni.

1. In realtà ho qualche dubbio sull’affidabilità di questa notizia o quantomeno che la conversazione con l’IA sia la causa del suicidio.