La Neolingua di Facebook (o della... “Demenza Artificiale”)

Questa riflessione nasce da una serie di esperienze personali su Facebook, ma anche da diverse testimonianze e analisi critiche da parte di numerosi “contatti” (parola allo stesso tempo stimolante e orribile) della mia cerchia sociale digitale.

Occorre premettere che il problema che da tempo sta vivendo il social gestito da Meta e che appare più evidente di giorno in giorno, ovvero quello della moderazione del tutto inadeguata, squilibrata e inefficiente, aggiungerei pure irritante, non può dipendere solo da oggettive difficoltà tecniche.

I nuovi “Modelli di Linguaggio Esteso” hanno dimostrato negli ultimi mesi la loro capacità di contestualizzare le frasi idiomatiche di noi esseri umani, arrivando addirittura, con le ultime versioni, a cogliere sfumature comunicative che a noi homo sapiens spesso sfuggono.

In parole povere, una cosiddetta Intelligenza Artificiale come GPT4 è tranquillamente in grado di distinguere se una frase è detta in senso ironico o meno, che “finocchiona” si riferisce a un salume toscano, e che “Negri” può essere un cognome e non un epiteto razzista.

Facebook no, non ne è capace.

Quindi, o Mister Zuckerberg ha perso del tutto la bussola investendo troppo sul Metaverso e ignorando le molto più promettenti ricerche sui Modelli di Linguaggio Esteso (il che sarebbe molto strano per una compagnia come Meta), oppure…

Oppure?

Ecco gli uffici di Facebook a Zurigo in cui nascerà il Metaverso

La decontestualizzazione storica, o dei vizi del pensiero unico

Il sottoscritto non è certamente definibile un “complottista”, ma devo dire che negli ultimi anni ho colto dei segnali preoccupanti su un modus pensandi che, dipartendosi dagli Stati Uniti, sta diffondendosi anche in Europa, proprio grazie alla spinta “linguistica” del maggiore social network.

Dove appunto non si può più citare l’imprenditore e filantropo Mario Negri senza apparire razzisti o criticare scherzosamente la scuola che in Florida ha licenziato la dirigente rea di avere mostrato ai poveri virgulti dodicenni le pornografiche nudità del David di Michelangelo senza che il poco intelligente algoritmo di Facebook ti accusi di “incitamento all’odio e alla violenza”.

Qualcuno ha definito questo movimento di pensiero “Cancel culture”, riferendosi appunto alla tentazione di “cancellare” tutto quello che non viene ritenuto corretto alla luce della sensibilità moderna, arrivando a eccessi come quelli di alcuni genitori in Florida.

Niente di totalmente nuovo, beninteso: già in passato ad esempio le fiabe come Cappuccetto Rosso erano state accusate di violenza eccessiva, anche se non ricordo accuse di abusi sessuali per il famoso bacio al principe azzurro ne “La Bella Addormentata”.

Ma non è questo il punto principale della mia riflessione.

L’algoritmo della stupidità sociale non è frutto dei Social

Il digitale come fattore di amplificazione di qualsivoglia realtà

La novità odierna è, appunto, la potenza pervasiva del digitale e la sua capacità di influenzare il “mondo reale” di tutti i giorni, che ne siamo consapevoli o meno.

Se a questo fattore aggiungiamo l’ipotesi di Sapir-Whorf secondo la quale il linguaggio influenza il nostro modo di pensare, teoria alla base del bellissimo racconto “Storia della tua vita” di Ted Chiang, dal quale è stato tratto l’altrettanto bel film di fantascienza “Arrival”, e il concetto di Neolingua descritto da George Orwell nel suo romanzo distopico “1984” il gioco è fatto. Mi spiego meglio.

Facebook, i dati di milioni di profili diffusi pubblicamente

L’ipotesi Sapir-Whorf: come il linguaggio influenza il pensiero

La tuttora molto discussa ipotesi di Sapir-Whorf, presentata dall’antropologo Edward Sapir e dal suo allievo Benjamin Lee Whorf, secondo la quale la morfologia di una lingua, quindi un livello ben più profondo della sintassi, può influenzare il modo di pensare di chi parla di tale lingua, il modo in cui i suoi pensieri vengono organizzati e rappresentati.

Tale ipotesi nella sua prima versione, che effettivamente risultava estrema e semplicistica, fu presto confutata da altri studiosi ma ancora oggi una sua versione “debole” viene studiata, anche alla luce delle ultime scoperte nel campo del Natural Language Processing e nel funzionamento dei Modelli Linguistici Estesi come GPT.

La Bossa Nova come l’AI esito di un ingegno antico e diffuso

Dialogo fra l’autore è il più avanzato sistema di intelligenza artificiale…

Ma lasciamo per un momento la parola proprio a ChatGPT 3.5 sull’argomento:

Edoardo Volpi Kellermann: “Quali sono i risultati delle ultime ricerche sull’ipotesi Sapir-Whorf, anche in relazione al funzionamento dei modelli di linguaggio estesi e agli studio sul Natural Language Processing?”.

ChatGPT: “L’ipotesi Sapir-Whorf, anche conosciuta come ipotesi della relatività linguistica, afferma che il modo in cui una persona pensa e interpreta il mondo è influenzato dalla lingua che parla. In altre parole, la lingua modella il pensiero e le percezioni delle persone.
Negli ultimi anni, ci sono state diverse ricerche che hanno esplorato l’ipotesi Sapir-Whorf in relazione al funzionamento dei modelli di linguaggio estesi e agli studi sul Natural Language Processing (NLP). Ad esempio, una ricerca ha esaminato come il genere grammaticale di una lingua può influenzare la rappresentazione semantica delle parole all’interno di un modello di linguaggio. La ricerca ha rilevato che i modelli di linguaggio basati sull’apprendimento automatico possono acquisire differenze semantiche in base al genere grammaticale della lingua di addestramento.
Altre ricerche hanno esplorato come i modelli di linguaggio possono essere utilizzati per analizzare e identificare le strutture linguistiche e semantico-culturali di gruppi di parlanti, in modo da studiare come queste strutture influenzino il modo in cui le persone pensano e interpretano il mondo.
Tuttavia, nonostante questi studi, l’ipotesi Sapir-Whorf rimane oggetto di dibattito nella comunità scientifica. Alcuni ricercatori sostengono che la lingua influenzi il pensiero, mentre altri affermano che la relazione tra linguaggio e pensiero sia più complessa di quanto suggerisca l’ipotesi Sapir-Whorf”.
In sintesi, gli studi sul funzionamento dei modelli di linguaggio estesi e sul NLP stanno contribuendo a un maggiore approfondimento della comprensione delle relazioni tra linguaggio e pensiero, ma l’ipotesi Sapir-Whorf continua a essere oggetto di dibattito e ricerca”.

Il futuro dei social media fra opportunità e pericoli…

La profezia di George Orwell in “1984” non fu così peregrina?

L’ipotesi è utilizzata da George Orwell nella sua accezione più estrema all’interno del suo romanzo più famoso, “1984”, la descrizione di un mondo dominato da una dittatura assoluta che utilizza la cosiddetta Neolingua per rinforzare il proprio potere.

La Neolingua immaginata dallo scrittore, giornalista, saggista, attivista e critico letterario britannico sarebbe stata capace di impedire certi pensieri eretici, non fornendo alla mente una possibile rappresentazione semantica di tali pensieri.

Un “Meta New Deal” per reagire alla crisi ambientale e culturale?

Tutto nella corretta prospettiva anziché la burocrazia dell’AI

Prima di essere accusato di faciloneria e semplicismo, vorrei chiarire che ho ben presente la differenza fra l’estremizzazione concettuale propria dei romanzi distopici come quello di George Orwell e la complessità del funzionamento della nostra mente.

Non sto accusando Facebook di voler consapevolmente cambiare il nostro modo di pensare.

Meta, come le altre Big Tech, è prigionera del meccanismo: però non è del tutto innocente, vista l’evidente mancanza di volontà nel migliorare il servizio di moderazione, dopo anni che tali problemi vengono puntualmente fatti presente alla loro assistenza da parte degli utenti.

L’algoritmo non è migliorato, anzi diventa sempre più invadente e arriva a comportamenti aberranti e ridicoli come quello di impedire la pubblicità di un panino alla finocchiona.

I cosiddetti “ricorsi” non permettono alcun contatto con persone vere, rapportarsi all’Oversight Board di Meta assomiglia ai tentativi di instaurare un rapporto umano con i Vogon, razza di alieni burocrati descritta nei libri della saga “Guida Galattica per Autostoppisti” di Douglas Adams.

Una cosa però è evidente: Facebook si sta rivelando sempre di più un problema sociale e culturale, da una parte amplificando le polarizzazioni delle posizioni, dall’altra creando evidenti disparità di trattamento nei confronti dei suoi utenti.

E soprattutto sta impedendo il linguaggio colloquiale fra le persone, spesso basato su modi di dire ironici o sarcastici, instaurando una sorta di “Regime di Terrore giacobino” che lentamente erode la già ridotta capacità linguistica di noi esseri umani.

Finiremo per esprimerci tutti come corretti e anonimi Modelli Linguistici Estesi?

Fonti:
https://www.questionecivile.it/2021/09/09/ipotesi-sapir-whorf-e-il-relativismo-linguistico/
https://it.wikipedia.org/wiki/Neolingua

L’intelligenza artificiale e i conflitti in una raccolta di saggi inediti