IA: la guerra che sta per scatenarsi non sarà come ci aspettiamo...

L’immaginario in qualche modo imposto dalla maggioranza della narrativa fantascientifica ci prospetta un mondo dove l’umanità, prima o poi, dovrà fare i conti con l’Intelligenza Artificiale. Lo scontro esploderà non appena l’IA prenderà coscienza di se stessa e deciderà di sterminarci, o di trovare un modo di controllarci.

Se questa prospettiva è realistica (e ci sarebbe da discutere parecchio sull’argomento), la guerra che ci aspetta risulta piuttosto lontana nel tempo, vista l’assoluta mancanza di qualsivoglia consapevolezza nei sistemi generativi attuali. Possiamo quindi dormire sonni tranquilli, per adesso. Oppure no?

“È urgente una regolamentazione sull’AI per fini militari”
Guerra russo-ucraina: è l’intelligenza artificiale a fare la differenza?
Complottismo, fake news e xenofobia: pericoloso mix digitale

I pericoli reali delle attuali Intelligenze Artificiali

Vige ancora molta confusione sull’argomento Intelligenza Artificiale. Confusione che, duole dirlo, è in buona arte alimentata da colleghi giornalisti entusiasti nello scriverne, ma spesso non altrettanto preparati nel comprenderne la reale natura, le potenzialità e i rischi.

Tale confusione è incoraggiata anche dalla nostra tendenza naturale a proiettare noi stessi su ogni ente esterno, sia esso un’altra persona, un animale o, come in questo caso, un oggetto software.

Da qui la nostra difficoltà a comprendere come un comportamento apparentemente intelligente non presupponga affatto un’autentica consapevolezza.

Così, incoraggiati dai fin troppi titoli “acchiappa click” dei giornali generalisti, ci arrovelliamo su problemi che ancora sono lontani nel tempo, ma non vediamo o sottovalutiamo quelli che già oggi ci riguardano direttamente.

Come sempre la tecnologia può essere applicata in modo da aiutare l’essere umano, ma anche in modo da danneggiarlo.

A livello sociale, ad esempio, l’Intelligenza Artificiale può essere utilizzata per ottimizzare processi e servizi, come il traffico nelle città, o i servizi burocratici e sanitari.

Oppure essa può aiutare i docenti a preparare lezioni o verifiche personalizzate sulle caratteristiche e peculiarità di ogni alunno.

A livello personale, può aiutare ognuno di noi a organizzare meglio il nostro lavoro e il nostro tempo, gestendo per noi le parti più noiose o ripetitive.

Oppure può aiutarci a esprimere meglio la nostra creatività, generando immagini, musica o filmati seguendo le nostre indicazioni.

L’Intelligenza Artificiale ben adoperata dovrebbe integrare, non sostituire, le nostre attività.

Ma poiché gli attuali sistemi generativi, capaci di produrre testo, immagini e video, si basano su enormi basi dati pescati soprattutto da Internet, spesso rispecchiano i nostri “bias” e, soprattutto, lavorano su delle medie statistiche.

Man mano che sempre più contenuti vengono generati dalle Intelligenze Artificiali stesse, il rischio è che si creino medie di medie di medie, con un livellamento verso il basso sempre più tangibile.

Questi sono tuttavia problemi che si possono affrontare e risolvere: il rischio più grande, di cui ancora non ho parlato, è il fattore umano.

Fotogallery, le vignette che esorcizzano le paure della rete
Innovazione e giornalismo: una convivenza spesso difficile
L’Intelligenza Artificiale è (anche) una rivoluzione del fotoritocco

La potenza dell’AI e il confronto bellico che verrà

Finora ho trattato problemi già noti e, dopotutto, affrontabili senza troppe angosce. Il bello (o il brutto) viene adesso.

Immaginiamo un’Intelligenza Artificiale ben addestrata, capace di riprodurre con realismo la voce di chiunque. Esistono già sistemi del genere.

Uniamola a un’altra Intelligenza Artificiale capace di creare video credibili con protagonisti persone reali. Anche questi sistemi esistono e, in alcuni casi, sono già stati adoperati.

Ecco che possiamo creare “deep fake” (video totalmente falsi ma del tutto credibili) con estrema semplicità, a danno di avversari politici, Paesi nemici o più semplicemente persone che ci stanno antipatiche.

Quindi creiamo migliaia (no, decine di migliaia) di Chat Bot che si fingono persone vere, si iscrivono ai social più diffusi e iniziano a condividere i video creati per calunniare, rovinare la carriera degli avversari o per creare più caos possibile nel Paese nemico, magari durante un periodo elettorale.

Così nasce la guerra della verità, e rischiamo fin d’ora di perderla tutti.

E dimenticatevi delle ultime elezioni americane, secondo alcuni analisti falsate da propaganda “inoculata” dall’esterno (leggi: Federazione Russa).

Rispetto alle potenzialità dei sistemi attuali e a quelle ottenibili nel medio futuro, gli eventuali tentativi di distorsione delle notizie del novembre 2020 erano giochi da bambini.

Così rullano i tamburi della Prima Guerra Mondiale dell’AI
Dai pizzini ai social network: ecco come la mafia prolifera sulla Rete
La Battaglia di Morat sarà il più grande oggetto digitale al mondo

Le allucinazioni usate come armi non convenzionali

Le Intelligenze Artificiali generative hanno un difetto intrinseco nei loro principi di funzionamento: soffrono di allucinazioni. Le ultime versioni, come ad esempio ChatGPT-4, stanno cercando di limitare e correggere questa tendenza, con più o meno successo.

Questa “potenzialità allucinatoria” potrebbe essere altresì sfruttata a proprio vantaggio da utilizzatori non ben intenzionati, per diffondere notizie apparentemente veritiere che cavalchino le convinzioni più o meno esplicite di determinati gruppi politici, rinforzandone i “bias”.

Il tutto con una “potenza di fuoco” immensamente superiore a quella disponibile fino a pochi anni fa.

Un gruppo ben organizzato (magari aiutato sottobanco da un governo compiacente) sfrutterebbe le vulnerabilità già note di una buona maggiorana dei computer in Rete per attacchi ottimizzati e prendere il controllo di milioni di apparecchi.

Lo farebbe utilizzandoli a loro volta come server per la creazione di falsi account social non facilmente distinguibili da quelli autentici.

I falsi account quindi diffonderebbero tesi e notizie pianificate per rinforzare le convinzioni dei gruppi di cui sopra.

E l’unico modo di combattere attacchi del genere è… utilizzare l’Intelligenza Artificiale.

L’intelligenza artificiale e i conflitti in una raccolta di saggi inediti
Attori in sciopero: difesa dell’autenticità e della creatività contro l’AI
Video, è digitalizzato e conservato lo scontro svizzeri-borgognoni

La crisi e le opportunità di una simile evoluzione

Chi vincerà la guerra futura?

Le Intelligenze Artificiali al servizio dei sabotatori sociali, o quelle demandate a difenderci?
Nessuno può dirlo, al momento.

Di una cosa possiamo essere certi: soltanto un Paese (o, ancora meglio, una federazione di Paesi) ben preparato, dalla popolazione dotata di capacità di pensiero critico e di conoscenza dei mezzi digitali, potrà affrontare queste sfide.

Serve che esso non viva l’Intelligenza Artificiale come un miracolo o una minaccia, ma impari a conoscerne meriti, potenzialità e problematiche, con una classe dirigenziale lungimirante e un’attenzione reale verso l’innovazione etica e la tecnologia.

Occorre, al più presto, partire da qui…

Se è l’Intelligenza Artificiale l’amico del cuore dei nostri figli
La Neolingua di Facebook (o della “Demenza Artificiale”)
Fotogallery, le tavole dell’opera da 1000 metri quadri di Louis Braun