Il nuovo Fratello

Dopo aver pubblicato alcuni post realizzati con l'aiuto della Intelligenza Artificiale (ed altri seguiranno), ecco un post dedicato, invece, ai rischi ed ai pericoli derivanti da questa nuova rivoluzione informatica. Che molti considerano il 'Grande Fratello' del XXI secolo, ma forse è molto di più.

Il testo è di Norberto Fragiacomo ed è tratto dal sito “L'Interferenza” (LINK).

LUMEN

<< Ho letto con attenzione, e crescente sbigottimento, l’analisi del fenomeno I.A. proposta da Alessandro Visalli, che, essendo un intellettuale autentico, conserva il “brutto vizio” socratico di interrogarsi su questioni, poste dalla modernità, che la maggior parte di noi spettatori passivi, per pigrizia mentale o per inconsapevole conformismo, giudica naturali e dunque neutri sviluppi dell’evoluzione tecnologica. (...)

Visalli ci ammonisce che non è saggio prendere sottogamba delle novità che, ben lungi dal limitarsi a una dimensione ludica, potrebbero modificare la nostra orientazione nel mondo.

L’autore adombra la minacciosa prospettiva che gli LLM [large language model – NdL] (un acronimo che neppure conoscevo!), personalizzandosi, prendano il controllo di ognuno di noi, imparando a svolgere il compito di un “Super-Io” capace di indirizzare le nostre scelte e prima ancora i nostri pensieri.

In pratica: dialogando con noi, esaminando le nostre esternazioni, le preferenze e i post che ovunque disseminiamo, l’intelligenza artificiale acquisirebbe informazioni sufficienti a creare un doppione virtuale di ciascuno e, nel contempo, ad addestrare l’originale umano ad assumere atteggiamenti e condotte conformi alle direttive impartite dai programmatori.

Sembra la trama de 'L’invasione degli ultracorpi', ma l’alieno in questo caso non proviene da una galassia lontana: è una creatura che, come quella immaginata da Mary Shelley, potrebbe un domani rivoltarsi contro il creatore, ma nel frattempo assume la funzione normalizzatrice che Huxley ne Il mondo nuovo assegna alla droga artificiale chiamata soma.

Al pari del soma, in effetti, l’alter ego elettronico promette conforto ed evasione, ma fa anche molto di più, proponendosi all’individuo come una sua copia più saggia e matura, in quanto immune da debolezze umane: un maestro di vita, un “infallibile” modello da seguire.

Nella sua riflessione lucida e spiazzante Visalli evidenzia un aspetto fondamentale di cui in genere l’utente non si avvede: l’interlocutore virtuale non comunica in maniera asettica, ma adotta comportamenti “amichevoli, accomodanti, a volte complici”, guadagnandosi la fiducia del fruitore con un’apparente empatia.

Un tanto dovrebbe sconcertarci, impaurirci, visto che le macchine non provano sentimenti – e invece lusinga esseri umani sempre più disorientati e abbandonati a loro stessi. D’altra parte, chi mai potrebbe capirci meglio di una versione potenziata di noi stessi?

Spesso rapportandoci con persone anche a noi vicine ci sentiamo incompresi, abbiamo l’impressione di non essere sulla stessa lunghezza d’onda: ciò crea frustrazione, risentimento e sconforto. L’I.A. “sartoriale”, invece, sembra relazionarsi con noi come se ci conoscesse da sempre: è una grossolana illusione, indotta però dal ricorso ad ammiccamenti e dall’impiego di modalità espressive e finanche toni mutuati dai nostri.

Non si tratta di un’innocente parodia o di un supporto psicologico disinteressato: al “soggetto” con cui pian piano familiarizziamo sarebbe stato affidato un preciso incarico, quello di standardizzare le nostre opinioni e la nostra visione del mondo, riportandole nell’alveo di un senso comune che magnifica le virtù dell’Occidente – cioè del giardino in mezzo alla giungla – e la superiorità dei suoi valori rispetto a quelli dell’umanità residuale.

L’operazione è sottilmente insidiosa: se delle parole e delle intenzioni di pennivendoli di regime che ci imboniscono da pulpiti televisivi è normale, quasi istintivo, diffidare (anche perché sono per noi dei perfetti estranei), assai più complesso e dispendioso è dal punto di vista emotivo entrare in contrasto con un interlocutore che, in veste di amico o di “fratello maggiore”, ci propina una Weltanschauung coerente, rassicurante e ispirata a quello che viene spacciato per buon senso. 

Ironia della sorte, saremo stati noi a rendere il nostro assistente/contraddittore più persuasivo e autorevole, allenandolo di giorno in giorno e mettendogli a disposizione parole e scritti che, opportunamente riconfezionati, potranno essere adoperati per confonderci, imbarazzarci e (sempre bonariamente) zittirci.

Digiuno delle necessarie conoscenze scientifiche, non sono in grado di dire se l’I.A. abbia già acquisito un siffatto potere di manipolare le menti o se lo conseguirà in un prossimo futuro, né come la tecnica possa realizzare un tale (sinistro) prodigio: rilevo tuttavia che da tempo i famigerati algoritmi ci sorprendono quotidianamente con offerte ad personam – paiono leggere i nostri pensieri, sebbene non facciano altro che processare le informazioni che noi stessi forniamo loro.

Come il lettore avrà inteso, mi sono soffermato solamente su alcune delle problematiche sollevate da Visalli nel saggio citato, e incorrerei in una pessima figura se, da incompetente quale sono, presumessi di poter aggiungere qualcosa alla sua esposizione.

In chiusura vorrei però indicare due rischi aggiuntivi rispetto all’utilizzo degli LLM come raffinati strumenti a disposizione della propaganda di sistema.

Il primo è che, in una società ormai disintegrata, l’essere umano – che è pur sempre un “animale sociale” – finisca per sviluppare un legame esclusivo ed escludente con il suo clone digitale: un legame che aggraverebbe la solitudine esistenziale da cui per natura l’uomo rifugge. Il passo successivo sarebbe la deificazione dell’A.I., consigliere eretto(si) a messia, con contestuali perdita dell’indipendenza di giudizio ed annichilimento della personalità individuale.

Il secondo pericolo, connesso al primo, è una fuga senza ritorno nel virtuale. Da sempre l’umanità è angosciata dalla prospettiva della morte e dalla confusa consapevolezza del divenire delle cose: è il 'Thauma', la “sgomenta meraviglia” ad aver indirizzato i nostri avi sul sentiero della filosofia, vista come unico possibile rimedio.

Con l’avvento della modernità il testimone è passato (alquanto frettolosamente) alla scienza intesa come tecnica che promette, sia pure in modo larvato, il superamento della precarietà insita nella condizione umana.

Considerato che l’immortalità è una meta inaccessibile, potremmo essere indotti a contentarci di un suo surrogato virtuale, affidando all’intelligenza artificiale ricordi, idee, immagini, filmati ecc. – in una parola: dati, nella patetica convinzione che un “gemello elettronico” (magari, in futuro, un ologramma) possa prolungare all’infinito la nostra esistenza.

Il permanere di questa… ombra atta a riprodurre voce, atteggiamenti, gesti, tic, motti di spirito del defunto potrebbe, almeno all’inizio, costituire un sollievo per chi resta, ma essa sarebbe comunque priva di anima (qualunque cosa sia l’anima…), per cui la sopravvivenza risulterebbe fittizia, e il proliferare di simili entità distorcerebbe alla lunga la percezione degli esseri umani in carne e ossa, sprofondandoli in un’allucinata psicosi. >>

NORBERTO FRAGIACOMO