Sempre più veloce

L'Intelligenza Artificiale, nonostante le dichiarazioni entusiastiche dei suoi creatori, presenta numerosi punti oscuri ed infonde una sensazione di timore e diffidenza nella gente comune.
Il pericolo maggiore, però, paradossalmente, potrebbe risiedere proprio nella sua maggiore efficienza.
Ce ne parla Jacopo Simonetta in questo pezzo tratto dal sito Apocalottimismo.
LUMEN

<< [A proposito dell'Intelligenza Artificiale] c’è un rischio profondo di cui la stampa parla poco e che i pensatori sistemici dovrebbero discutere più approfonditamente: si tratta della probabilità che la IA sia un acceleratore significativo di tutto ciò che noi umani stiamo già facendo.

Le ultime migliaia di anni di storia umana hanno già visto diversi acceleratori critici. La creazione dei primi sistemi monetari, circa 5.000 anni fa, ha permesso una rapida espansione del commercio che alla fine è culminata nel nostro sistema finanziario globalizzato. Le armi metalliche hanno reso più letali le guerre, portando alla conquista di società umane meno armate da parte di regni e imperi dotati di metallurgia.

Gli strumenti di comunicazione (tra cui la scrittura, l’alfabeto, la stampa, la radio, la televisione, Internet e i social media) hanno amplificato il potere di alcune persone di influenzare le menti di altre. E, nell’ultimo secolo o due, l’adozione dei combustibili fossili ha facilitato l’estrazione delle risorse, la produzione manifatturiera, la produzione alimentare e i trasporti, consentendo una rapida espansione economica e la crescita della popolazione.

Di questi quattro acceleratori del passato, l’adozione dei combustibili fossili è stata la più potente e problematica. In soli due secoli il consumo di energia pro capite è aumentato di otto volte, così come le dimensioni della popolazione umana. Il periodo successivo al 1950, che ha visto un drammatico aumento della dipendenza globale dal petrolio, ha visto anche la più rapida crescita economica e demografica di tutta la storia umana. Non per nulla gli storici lo chiamano la “Grande Accelerazione”.

Gli economisti neo-liberali acclamano la Grande Accelerazione come una storia di successo, ma i conti stanno appena iniziando a essere pagati. L’agricoltura industriale sta distruggendo il suolo terrestre a un ritmo di decine di miliardi di tonnellate all’anno. La natura selvaggia è in ritirata: le specie animali hanno perso, in media, il 70% dei loro effettivi nell’ultimo mezzo secolo.

E stiamo alterando il clima planetario in modi che avranno ripercussioni catastrofiche sulle generazioni future. È difficile evitare la conclusione che l’intera impresa umana è cresciuta troppo e che sta trasformando la natura (“risorse”) in rifiuti e inquinamento troppo velocemente per potersi sostenere. L’evidenza suggerisce che dobbiamo rallentare e, almeno in alcuni casi, invertire la rotta riducendo la popolazione, il consumo e i rifiuti.

Ora, mentre affrontiamo una poli-crisi globale di tendenze ambientali e sociali convergenti e spaventose, è nato un nuovo acceleratore sotto forma di IA. Questa tecnologia promette di ottimizzare l’efficienza e aumentare i profitti, facilitando così, direttamente o indirettamente, l’estrazione e il consumo delle risorse.

Se ci stiamo effettivamente dirigendo verso un precipizio, l’IA potrebbe portarci sull’orlo del baratro molto più velocemente, riducendo il tempo a disposizione per cambiare direzione. Ad esempio, se l’intelligenza artificiale rende più efficiente la produzione di energia, significa che l’energia sarà più economica, quindi troveremo ancora più usi per essa e ne useremo di più (un fenomeno noto come “paradosso di Jevons”.

Internet e le funzioni di ricerca avanzate hanno già cambiato le nostre capacità cognitive. (...) In un certo senso, abbiamo già fuso le nostre menti con le tecnologie basate su Internet e sui computer, in quanto dipendiamo totalmente da esse per svolgere alcune attività di pensiero al posto nostro.

L’intelligenza artificiale, in quanto acceleratore di questa tendenza, presenta il rischio di un’ulteriore riduzione delle capacità mentali dell’umanità, tranne forse per coloro che scelgono di farsi imiantare un computer nel cervello. E c’è anche il rischio che le persone che sviluppano o producono queste tecnologie controllino praticamente tutto ciò che sappiamo e pensiamo, perseguendo il proprio potere ed il proprio profitto.

Daniel Schmachtenberger (...) ha spiegato che l’IA può essere vista come un’esternalizzazione delle funzioni esecutive del cervello umano. Affidando le nostre capacità logiche e intuitive a sistemi informatici, è possibile accelerare tutto ciò che la nostra mente fa per noi. Ma all’intelligenza artificiale manca un aspetto fondamentale della coscienza umana: la saggezza, il riconoscimento dei limiti unito alla sensibilità per le relazioni e per i valori che danno priorità al bene comune (pare però che anche gli alti dirigenti umani che danno prova di saggezza e si preoccupano del bene comune non siano poi tanti - NdT).

Il nostro barattare la saggezza con il potere è probabilmente iniziato quando le nostre abilità linguistiche e di costruzione di strumenti hanno reso possibile a un piccolo sottoinsieme dell’umanità, che viveva in determinate circostanze ecologiche, di iniziare un processo di evoluzione culturale auto-rinforzante guidato dalla selezine a più livelli. Persone con armi migliori, che vivevano in società più grandi, hanno sempre soggiogato persone con strumenti più semplici e società più piccole.

I vincitori hanno visto questo come un successo, quindi sono stati sempre più incoraggiati a rinunciare alla consapevolezza dei limiti ambientali e sociali, conoscenze conquistate a fatica che hanno permesso alle società indigene di continuare a funzionare per lunghi periodi di tempo, a favore di una sempre maggiore innovazione e potere a breve termine.

I combustibili fossili hanno mandato in tilt questo processo di feedback auto-rinforzante, producendo così tanti benefici e così velocemente che molte persone potenti sono arrivate a credere che non ci siano limiti ambientali alla crescita e che la disuguaglianza sia un problema che si risolverà da solo quando tutti si arricchiranno grazie all’espansione economica.

Ora, proprio nel momento in cui abbiamo più bisogno di frenare l’uso dell’energia e il consumo di risorse, ci ritroviamo a esternalizzare non solo l’elaborazione delle informazioni, ma anche il nostro processo decisionale a macchine che mancano completamente della saggezza necessaria per comprendere e rispondere alle sfide esistenziali che l’accelerazione precedente ha posto. Abbiamo davvero creato apprendista stregone. (...)

Schmachtenberger ritiene che l’unica soluzione sia che i progettisti di sistemi umani infondano saggezza all’IA. Ma, naturalmente, gli stessi sviluppatori dovrebbero prima coltivare la propria saggezza per trasferirla poi alle macchine. E se i programmatori avessero tale saggezza, potrebbero magari esprimerla prima di tutto rifiutandosi di sviluppare l’IA. E così, torniamo a noi stessi.

Noi umani tecnologici siamo la fonte delle crisi che minacciano il nostro futuro. Le macchine possono accelerare notevolmente questa minaccia, ma probabilmente non possono ridurla in modo significativo. Questo dipende da noi. O recuperiamo la saggezza collettiva più velocemente di quanto le nostre macchine riescano a sviluppare un’intelligenza esecutiva artificiale, o probabilmente il gioco sarà finito. >>

JACOPO SIMONETTA