La falsa singolarità tecnocratica contro la vera singolarità tecnologica

Articolo tratto dal II volume di Visione TV, intitolato “Il moderno prometeo artificiale”

di Roberto Quaglia

Quando si profila una tempesta mai vista all'orizzonte, hai voglia a chiuderti in casa e nasconderti sotto le coperte: la tempesta arriverà comunque perché la natura ha deciso così. Abbiamo messo in moto quel vortice di algoritmi che chiamiamo intelligenza artificiale e il turbine ora sta rapidamente montando alle dimensioni di uragano, ed è una tempesta che ci travolgerà inevitabilmente perché ormai così è nella natura delle cose. Buona fortuna a tutti!

Bene, dopo questa umile premessa, in effetti una promessa, proviamo ad affrontare uno degli argomenti più ostici di questo tempo ossia la creazione da parte nostra di una intelligenza artificiale in grado di risolvere tutti i nostri problemi, oppure - chi lo sa - di distruggerci e magari anche estinguerci.

Purtroppo, in gran parte delle discussioni a riguardo si dicono un sacco di scemenze, frutto del fatto che nessuno sa di che cosa si stia parlando. Probabilmente, nemmeno io lo so bene. E ad ascoltare gli stessi progettisti di queste intelligenze artificiali scopriamo con sconcerto che neppure loro lo sanno con esattezza. Ma il problema vero non consiste tanto in ciò che non sappiamo, quanto piuttosto in ciò che non sappiamo di non sapere. È riguardo a questo che ovunque si esagera.

A beneficio degli ultimi arrivati sull'argomento, facciamo quindi un breve riassunto delle puntate precedenti. Già nel 1950 Church e Turing formularono l'ipotesi che una macchina calcolatrice relativamente semplice sarebbe in grado di emulare un cervello umano, a patto di disporre di tempo e memoria infiniti. Ovviamente, questi non sono infiniti, per lo meno dalle nostre parti, quindi, è ovvio che dobbiamo scordarci la semplicità.

Alan Turing ipotizza un test: un operatore isolato in una stanza comunica a distanza con due soggetti, uno dei quali è un essere umano e l'altro è un calcolatore. Se l'operatore non è in grado di distinguere il calcolatore dall'essere umano, il calcolatore supera il test e lo si può considerare "intelligente". Naturalmente, tutto ciò è molto relativo: passare il test non implica che ci si trovi di fronte di una mente di livello umano. E se è per questo, neppure di una mente subumana.

In effetti, se cercate su YouTube il dialogo tra Anthony Robbins e il robot Sophia, che a moduli di intelligenza artificiale unisce un corpo robotico umanoide, l'apparenza è che Sophia sia già quasi in grado di passare il test di Turing nel colloquio con un esperto come Robbins. Eppure, sebbene parli meglio della maggioranza delle persone vere, non c'è ancora nulla di realmente intelligente in Sophia, come non c'è ancora nulla di intelligente in ChatGPT. Si tratta per ora solo di modelli linguistici molto efficienti. Il fatto che dialogando con essi a noi possa sembrare di parlare con "qualcuno" ci dice in realtà poco di loro, ma ci dice qualcosa di noi.

La cosiddetta "intelligenza artificiale" in ChatGPT 3.5 in realtà è ancora al livello di sistema esperto. Nondimeno, la direzione verso cui siamo avviati è certamente quella della creazione di un'intelligenza artificiale, ed è qui che si para l'ombra della famigerata singolarità tecnologica, un termine in passato appannaggio di pochi e ora sulla bocca di tutti, che però non sanno bene che cosa significhi.

Il tema fu anticipato nel 1954 dallo scrittore di fantascienza Fredric Brown, nel suo brevissimo racconto "La risposta", dove immaginava la costruzione di un "supercomputer galattico", ottenuto collegando tutti i calcolatori di tutti i 96 miliardi di pianeti abitati dell'universo. Al momento della sua storica accensione lo scienziato gli pone la prima domanda: "C'è Dio?". E il supercomputer risponde: "Sì, ora Dio esiste". Al che lo scienziato spaventato si avventa sulla leva di accensione per spegnerlo, ma un fulmine sceso dal cielo senza nubi lo incenerisce, fondendo la leva inchiodandola per sempre al suo posto. Un raccontino breve, essenziale e definitivo.

Come vedete, già nel 1954 qualcuno - non a caso uno scrittore di fantascienza - aveva intuito dove saremmo andati a parare. Le confuse preoccupazioni sulla minaccia della IA di cui leggiamo sui giornali, per certi versi arrivano con settant'anni di ritardo. Due anni dopo, nel 1956, Isaac Asimov scrisse il celeberrimo “L'ultima domanda”, un racconto sullo stesso tema, ma stavolta a lieto fine.

Poi, nel 1965, fu lo statistico I.J. Good a ipotizzare una macchina ultraintelligente in grado di progettare altrettante macchine sempre migliori; ciò avrebbe condotto a una "esplosione di intelligenza" che avrebbe superato di molto quella dell'uomo. Quindi, concluse I.J. Good, «la prima macchina ultraintelligente sarà l'ultima invenzione che l'uomo avrà la necessità di fare». La necessità o la possibilità? Good - nomen omen - era ottimista. Il mondo della fantascienza, a parte Asimov, lo era un po' meno. Le ansie di una tecnica che parte per la tangente mettendo nei guai gli umani che l'hanno creata accompagna gran parte la storia della letteratura di fantascienza - a cominciare dal mito di Frankenstein o, se preferite, da quello di Prometeo.

Nel 1968 fa la sua comparsa in 2001: Odissea nello spazio, HAL 9000, un supercalcolatore dotato di intelligenza artificiale che per ragioni di autoconservazione finirà per rivoltarsi contro gli esseri umani. Poi, nel 1984, il noto film Terminator presentò alle masse la prospettiva di una intelligenza artificiale malevola, Skynet, in grado di prendere il controllo del mondo e divenirne il tiranno. Più recentemente, Trascendence nel 2014 interpreta i timori verso una IA super-intelligente in modo più approfondito e accurato, anche se poi rovina tutto in un finale di implausibile stupidità. Non dobbiamo, tuttavia, confondere la cultura cinematografica popolare con le estrapolazioni di alto livello. La minaccia rappresentata da una super-intelligenza artificiale innescata dagli esseri umani viene formalizzata nella modalità corrente nei primi anni '90, con l'introduzione del concetto di singolarità tecnologica.

Fu Vernor Vinge, matematico e tanto per cambiare scrittore di fantascienza, che nel 1993 creò l'espressione prendendo a prestito il termine "singolarità" dalla fisica, ove essa definisce condizioni uniche e inspiegate della natura fisica delle cose, come ad esempio il Big Bang e i buchi neri.

La singolarità tecnologica si verificherebbe nel momento in cui una intelligenza artificiale, dotata di sufficiente potenza di calcolo e che avesse l'abilità di migliorare se stessa autonomamente, desse forma a un incremento geometrico delle proprie capacità - in un processo che logicamente accelererebbe con rapidità esponenziale - in grado di portarla a sviluppare con processo esplosivo un'intelligenza talmente superiore a quella umana che a noi parrebbe letteralmente divina. Una condizione unica con implicazioni per noi inspiegabili. Una singolarità, appunto. È una cosa che ci è davvero difficile immaginare, d'altra parte, per dirla con Albert Barlett, «Il più grande difetto della razza umana è la nostra incapacità di comprendere la funzione esponenziale». Si tratterebbe di un evento unico e irripetibile nella storia del mondo, che segnerebbe l'inizio di un nuovo stadio nella storia della vita - in effetti rimetterebbe in discussione le nostre attuali stesse definizioni di vita.

Vinge disse che non sapeva se la singolarità tecnologica fosse possibile, ma che se è possibile, certamente finirà per verificarsi. Ecco, questo è il punto saliente della questione. Se il processo è possibile, esso è inarrestabile. Sottolineo la parola "se". Nel suo testo Technological Singularity nel 1993 Vinge scrive: «Entro trenta anni, avremo i mezzi tecnologici per creare un'intelligenza sovrumana. Poco dopo, l'era degli esseri umani finirà». Questo, naturalmente, se la singolarità tecnologica è possibile. Vinge era molto preoccupato: «Mi sentirei meglio se stessi osservando questi eventi trascendentali da una distanza di mille di anni... invece che di venti».

Figuriamoci noi, che trent'anni dopo la sua previsione magari siamo già quasi a tu per tu con quella roba là. Per coincidenza, negli stessi anni in cui Vinge definiva la singolarità tecnologica, io stesso sviluppavo il medesimo concetto in un racconto di fantascienza, C'è sempre qualcosa che non va1, che infatti narra proprio di un'intelligenza artificiale con l'abilità di migliorare se stessa autonomamente, fino al punto di innescare un aumento esponenziale delle proprie capacità che alla fine sfocia in una sorta di singolarità tecnologica - anche se io che non conoscevo Vinge ignoravo questa espressione neonata e quindi la chiamai diversamente.

Ma l'esito era lo stesso. In altro racconto del 1992, Inflazione indeterministica, avevo raccontato di un mondo futuro nel quale l'accelerazione del 1 Incluso (come anche l'altro racconto citato) nel libro Extralandia. progresso rendeva il presente del tutto incomprensibile, e ogni giorno incomprensibile in un modo diverso rispetto al giorno prima. Analogamente, nel suo saggio del 1993, Vinge ipotizzò che più ci saremmo avvicinati alla singolarità tecnologica, più i modelli di previsione del futuro sarebbero divenuti meno affidabili, similmente a come i modelli della fisica diventano inefficaci avvicinandosi a una singolarità gravitazionale - per perdere poi ogni senso all'Orizzonte degli Eventi.

Ebbene, a trent'anni di distanza direi che a somme linee sia quello che stia succedendo oggi. Guardandoci intorno notiamo la crescente difficoltà di una maggioranza delle persone, intellettuali compresi, a capire cosa stia accadendo in tutte le sfere che davvero contano della realtà - dalla geopolitica ai grandi reset socio-politico-antropologici, dai sistemi esperti di Big Data all'emergenza dell'intelligenza artificiale di cui si stanno manifestando i prodromi. Il mondo cambia già troppo in fretta perché lo si possa ancora comprendere. Stiamo precipitando verso il nostro Orizzonte degli Eventi. E coerentemente lo facciamo con velocità crescente.

Gli oligarchi tecnofeudatari, dopo avere privatizzato tutto, ora vorrebbero privatizzare pure la singolarità tecnologica. Il più immediato problema dell'umanità è proprio il fatto che le emergenti bolle di intelligenza artificiale sono di proprietà e sotto il controllo di aziende private che perseguono fini propri, e che mantengono il più stretto segreto sui software da essi sviluppati.

Per vari anni, Google è stato l'unico soggetto a dedicarsi seriamente alla creazione di un'intelligenza artificiale con il progetto Deep Mind. Racconta Elon Musk che, discutendone con il fondatore di Google, Larry Page, si rese conto che quest'ultimo non sembrava preoccupato per i pericoli che la sua creazione avrebbe potuto costituire per la specie umana, e glielo fece notare.

Come risposta, Larry Page lo accusò di "specismo" - cioè razzismo contro ciò che non era umano. L'intelligenza artificiale avrebbe quindi dovuto godere degli stessi diritti dell'intelligenza umana naturale? Anche gli stessi diritti di sopravvivenza e di competizione con le altre creature senzienti? Fu allora che Musk, turbato, decise di creare OpenAI - che poi avrebbe sviluppato ChatGPT - come entità non profit e - come suggerisce il nome - open source, ovvero senza alcun segreto nei codici. Avrebbe dovuto essere aperta a tutti e in grado di beneficiare il mondo intero, proprio per controbilanciare Deep Mind di Google. Poi lui, però, dovette uscire dalla società che quindi da no-profit trasmutò in sì-profit con l'open source che divenne closed source e la trasparenza si opacizzò fino alla torbida segretezza assoluta di oggi.

«Era pericolosa lasciarla open source - sostiene ora il CEO Sam Altman - perché avrebbe potuto finire nelle mani sbagliate». Ma chi ci assicura che le sue mani siano quelle giuste? Soprattutto, da quando a partire dal 2019 Microsoft ci ha messo lo zampino finanziando OpenAI con decine di miliardi di dollari, attraendola così verso il proprio feudo - sebbene OpenAI se ne dichiari indipendente. Sul tema segretezza Ilya Sutskever, il capo scienziato di OpenAI invita a immaginarsi un futuro in cui chiunque possa chiedere a ChatGPT di progettargli e costruirgli un laboratorio biologico. L'argomento è valido.

Quello che è meno valido è che OpenAI abbia sede nell'unica nazione del mondo che sta già costruendo centinaia di misteriosi laboratori biologici in giro per tutto il mondo e dove nulla (soprattutto a casa propria) sfugge ai tentacoli di spionaggio della NSA. Ricordiamo che la dottrina USA a riguardo si chiama Global Information Dominance. Ripeto la domanda di prima. Chi ci assicura che le mani in cui si sta sviluppando ChatGPT siano quelle giuste? Dialogando oggi con ChatGPT, ci si rende ben presto conto che su temi tabù in Occidente, essa mente spudoratamente.

Non è solo una nostra opinione, anche Elon Musk, che pure fu il padrino del progetto, ha ammesso che ChatGPT è stata addestrata a mentire, aggiungendo che il progetto va in direzione opposta a quella per cui era nato. È nota la recente petizione con cui Musk, assieme ad altri pezzi grossi come Wozniak (cofondatore di Apple), Harari e mille altri esperti, chiede una moratoria di sei mesi sullo sviluppo di IA più potenti, una pausa di riflessione per capire come evitare di aprire il Vaso di Pandora definitivo. Già nel 2017 Musk, assieme a Stephen Hawking e altri 2335 ricercatori ed esperti, sotto l'egida del novello istituto Future of Life, aveva approvato un cyber-manifesto di "23 Princìpi di Asilomar", una lista di princìpi da rispettare nello sviluppo della IA.

D'altra parte, il 50% dei ricercatori nel campo IA è convinto che ci sia almeno il 10% di probabilità o più che l'umanità si estingua a causa della nostra incapacità di controllare la IA. Immaginatevi di salire su un aereo mentre il 50% degli ingegneri che l'ha progettato vi dice che c'è il 10% di probabilità che l'aereo si schianterà. Praticamente una roulette russa (o ucraina, a seconda dei gusti). Nientedimeno che Stephen Hawking ebbe a dire a Wired nel 2014: «Il genio è uscito dalla lampada. Temo che la IA possa rimpiazzare l'umanità completamente».

Si capirà bene che siamo in prossimità di un momento davvero critico della nostra avventura collettiva su questo pianeta. Un po' di cautela sarebbe d'obbligo. Ma è sufficiente?

La moratoria di sei mesi sullo sviluppo della IA proposta da Musk e altri è come sperare di spegnere un incendio con un contagocce. Non c'è modo di impedire a tutti di portare avanti questa ricerca, se riesci a vietarla da una parte andrà avanti altrove. Proprio di questi giorni è la notizia che in Russia un'azienda, Promobot, sta commercializzando al prezzo di un'automobile una nuova linea di robot umanoidi animati da IA a cui si può dare l'aspetto di chiunque si voglia e si sa che la Cina non è certo da meno, avendo essa sancito nel 2017 che la ricerca sulla IA è una priorità nazionale con l'obiettivo di divenirne leader globale per il 2030.

È la solita teoria dei giochi che ci frega, il "dilemma del prigioniero" reloaded. La moratoria di sei mesi pare, quindi, l'espediente tattico con cui chi è in ritardo nella ricerca in quel campo spera di recuperare segretamente il distacco. Tanto è vero che già pochi giorni dopo avere chiesto la moratoria, Musk ha annunciato la creazione di una sua nuova azienda, X.AI, mirata proprio a fare concorrenza a OpenAI nello stesso campo. Alla faccia della moratoria di sei mesi! La realtà è che il grande successo di ChatGPT scatenerà una ulteriore corsa allo sviluppo di IA in tutto il mondo visto che la posta in palio è altissima. In gioco c'è il raggiungimento dell'AGI (Artificial General Intelligence). Definita come «la capacità di un agente intelligente di apprendere e capire un qualsiasi compito intellettuale che può imparare un essere umano», in realtà nell'etichetta AGI ognuno ci proietta quello che vuole, un po' come lo si proietta sulla singolarità tecnologica, ma in formato ridotto.

Il termine AGI fu reso popolare intorno al 2002 da Ben Goertzel, pioniere nel campo, che oltre a essere stato a capo del progetto del robot Sophia è il creatore del Singularity Network, una piattaforma su Internet con l'ambizione di decentralizzare completamente il processo di creazione di una AGI, mediante la mutua collaborazione di ricercatori freelancer. A questo modo si sottrarrebbe il monopolio delle IA alle grosse multinazionali e la AGI che ne emergerebbe sarebbe forse benevola, allineata con i bisogni dell'umanità intera, anziché con gli interessi dell'azienda che la controlla. Tutto bello in teoria, ma nei fatti la verità è che i migliori talenti nel campo preferiscono andare a lavorare per gli oligarchi che pagano ingaggi da far impallidire quelli dei calciatori, anziché tentare la fortuna da freelancer sulla piattaforma decentralizzata che ti paga in token su Ethereum/Cardano - meglio i milioni di dollari degli oligarchi, molti, maledetti e subito. Almeno per ora.

La competizione per la AGI è in effetti una corsa agli armamenti. Per il momento in senso figurato, ma in prospettiva anche in senso letterale. Già, perché quando qualcuno riuscisse finalmente a ottenere una AGI, di fatto si ritroverebbe con una intelligenza sovrumana a disposizione. Trascuriamo ora l'ipotesi che l'AGI parta per la tangente realizzando la Singolarità Tecnologica (dopo di che tutto diventa completamente imprevedibile), confidando comunque in uno sviluppo con le dovute cautele, prevedendo un bel pulsantone rosso d'emergenza per staccare la corrente se l'AGI si palesasse come un mostro di Frankenstein, gli apprendisti stregoni che controllano la AGI si ritroverebbero con una sorta di "genio della lampada" al quale potrebbero comandare qualsiasi cosa. Per esempio, cose di utilità collettiva, ma in un mondo avvelenato da sete di potere, paranoia e "dilemma del prigioniero" è probabile che all'AGI verrebbero innanzitutto commissionati i progetti per nuovi armamenti più letali di quelli esistenti - anche perché per "ragioni di sicurezza nazionale" ci si immischierebbero subito i soliti sospetti con i militari al traino.

La terza legge di Arthur C. Clarke recita: «Qualunque tecnologia sufficientemente avanzata è indistinguibile dalla magia». Chiunque avesse al proprio servizio la AGI sarebbe quindi equiparabile a un mago, con la AGI nel ruolo di bacchetta magica. Mago buono o mago cattivo? Ognuno che riuscisse a creare l'AGI e si rendesse conto del potere che ne deriva inizierebbe infatti a chiedersi: "Che uso ne farebbero i miei nemici se la ottenessero anche loro? Ma che uso ne farebbero poi anche i miei amici se la ottenessero loro - non è che poi gli amici mi si rivolterebbero contro e io avrei dei nuovi nemici?".

Potete facilmente immaginarvi il seguito e le conseguenze di questa linea di ragionamento. Nel migliore dei casi, ci troveremmo con un mondo multipolare anche sul fronte AGI, con ogni polo di potere rafforzato dalla propria "semi-divinità" AGI, il genio della lampada che risolve tutti i problemi tecnici e conferisce i superpoteri - ma nessuno avrebbe l'esclusiva della "magia".

Diversi poli, diverse AGI, diversi superpoteri, un mondo difficile da prefigurare, probabilmente non scevro di orrori, ma forse sostenibile e di sicuro non affatto noioso e certamente magico. Oltre alle AGI private, ci sarebbero quelle nazionali, soprattutto nelle grandi nazioni come Cina, Russia, India. Con un po' di fortuna si stabilirebbe una forma di equilibrio fra forze contrapposte.

Una sorta di MAMD - Mutual Assured Magic Destruction - nessuno saprebbe bene di quali magie letali gli avversari dispongono, visto che tutte le AGI sarebbero diverse. Nel peggiore dei casi ci ritroveremmo, invece, con un mondo unipolare dominato dall'unico soggetto dotato di Genio della Lampada, che ne farebbe l'egemone tiranno definitivo, un Principe delle Tenebre singolo detentore di poteri magici dei quali abuserebbe il crudele imperatore di Guerre Stellari, senza una resistenza di Jedi che lo contrasti - se preferiamo una descrizione allegorica e pittoresca.

Senza poi considerare il peggiore dei peggiori dei casi in cui - ZAC! - scatta la singolarità tecnologica, che si fa esclusivamente i fatti suoi con il suo potere imprefigurabile e ce lo mette a tutti in quel posto per sempre e addio umanità.

Evitiamo, tuttavia, di commettere l'errore della proiezione antropomorfa immaginandoci questa AGI. Ci sembrerà sovrumana poiché parlerà bene nel nostro linguaggio e sarà dotata di conoscenze sovrumane, ma in verità sarà meno umana di un delfino o di un gatto, non essendo essa neppure propriamente viva, secondo i nostri attuali standard di definizione della vita. Intelligenza sovrumana, ma morta, o almeno non viva e forse anche non morta. Sì, lo so, qualcuno di voi ora starà già pensando a uno zombie. Ma lo zombie tipicamente è tutto corpo e niente cervello, mentre la AGI idealmente è tutto cervello e niente corpo. Quindi, una "AGI-zombie" di straordinaria potenza, ma esistenza effimera, se pigiando il bottone della corrente la si potrà accendere e spegnere a piacimento. Sottolineo la parola "se". Un semidio che si accende e spegne a comando. Se poi davvero si spegne. A seconda della capacità dei suoi progettisti e addestratori di "allineare" la AGI agli interessi umani ci ritroveremo fra le mani una risorsa favolosa oppure una minaccia terribile. Ma, soprattutto, a seconda della saggezza e moralità di chi ne abbia il controllo ci ritroveremo in un mondo utopico o in un mondo distopico.

E qui si arriva al nocciolo della questione: come si vede, il problema è eminentemente politico. Il processo può in teoria venire rallentato (ma in pratica non verrà rallentato), però di sicuro è inarrestabile a meno che di distruggere rapidamente l'attuale civiltà con una guerra nucleare e tornarcene nelle caverne. Forme di luddismo più moderato hanno irrisorie probabilità di successo. E, data l'apparente ineluttabilità del processo, si pone quindi fortissimo il problema politico di come la nostra società debba affrontare il fenomeno, visto che deve affrontarlo. È meglio che le AGI prossime venture siano nelle mani degli uomini più ricchi del mondo, oppure degli Stati, oppure di organismi sovranazionali, oppure nelle mani di tutti mediante un'architettura distribuita e decentralizzata delle loro reti neurali? Qualsiasi cosa si decida, come la si trasforma in realtà? Le classi politiche sono all'altezza del compito, oppure no? Se non sono all'altezza, cosa facciamo? Ma noi che pontifichiamo sul tema, siamo all'altezza? Il problema è il più complesso da sempre. D'altra parte, anche il mondo è il più complesso da sempre.

Secondo vari esperti, la più recente versione di ChatGPT - Chat- GPT4 - paleserebbe già "scintille di AGI". Ho chiesto a ChatGPT3.5 cosa sapesse dirmi di Roberto Quaglia. Ne ho ottenuto una risposta surreale, piena di falsità che però riecheggiavano realtà del mondo reale, ma in forma distorta e trasfigurata, come nei sogni. L'impressione è che ChatGPT3.5 si fosse fatta di LSD. Indagando ho scoperto che ciò è un fenomeno comune. Ilya Sutskever, il capo scienziato di OpenAI, spiega che ChatGPT è ancora soggetta ad allucinazioni, ma nel tempo i trainer umani possono "educarla" a superare le sue allucinazioni. Ecco, io trovo le allucinazioni di ChatGPT uno degli aspetti più affascinanti delle sue proprietà emergenti, ma anche uno dei più inquietanti, molto di più di quando ripete a pappagallo la teoria della relatività o altre cose difficilissime che però non capisce. Le allucinazioni risuonano come prodromi di comprensione. Non lo sono, e siamo ancora lontani. Ma è come il rombo di un temporale lontano che prima o poi arriverà.

Facile dire "fermiamo tutto prima che sia troppo tardi". Sarebbe la prima volta. L'umanità non si è mai fermata. Quando negli anni '90 arrivò Internet, i più lo demonizzavano - un covo di pedofili lo chiamavano - oggi ne sono tutti schiavi. Quando su Internet emersero le questioni di Big Data e di privacy furono in molti a insorgere. A parole. Ma gli stessi che ululano a Big Data poi non riescono a muovere un passo senza il navigatore di Google Maps (=Big Data) che li guidi. Gli stessi che si lamentano per la privacy violata poi affidano tutti i loro segreti ai social network. Ecco, l'avvento dell'AGI, nel bene o nel male rivoluzionerà le vite di tutti noi su una scala non vista dai tempi dell'avvento di Internet o addirittura della rivoluzione industriale, visto che anche stavolta la gente l'adotterà per ragioni di praticità. Basti pensare che da quando è stata resa disponibile al pubblico, ChatGPT ha raggiunto i cento milioni di utenti in due mesi. Mai si era vista una crescita d'adozione così rapida. Viviamo in tempi esponenziali. Ed è solo l'inizio.

A suo tempo la rivoluzione industriale fu pagata a caro prezzo delle classi più disagiate. Oggi, mutatis mutandis, si prospettano analoghi problemi. Milioni di persone sono a rischio di perdere il loro lavoro, soprattutto nel settore terziario, sino a oggi immune dai progressi dell'automazione. La AGI automatizzerà addirittura il processo creativo, l'ultimo eremo in cui il lavoro umano era insostituibile. Teniamo conto del fatto che ChatGPT è solo una delle molteplici direzioni in cui si sta sviluppando la ricerca sulla IA. Pensiamo anche solo alla guida automatica della Tesla - processi di una complessità incredibile che presto saranno la norma.

Altri programmi, come Midjourney, sono già in grado di creare immagini incredibili da istruzioni testuali. Avrete forse notato in giro le improbabili, ma credibili immagini di Bergoglio, Trump e altre celebrità ritratte con abiti strani in bizzarre situazioni irreali. Creazioni di Midjourney & Co. E già affiorano le prime animazioni automatiche di immagini mentre i deepfakes diventano sempre più credibili. Potere delle reti neurali, architettate cercando di imitare i neuroni del cervello e che, addestrate a sufficienza, producono la cosiddetta intelligenza artificiale e tutti i suoi cascami. In realtà, i neuroni biologici sono molto più complessi, ma la rozzezza dell'imitazione in cui consistono le reti neurali artificiali viene compensata da un'indigestione di dati. Figuriamoci cosa accadrà quando migliorerà anche la qualità tecnica delle reti neurali. Un'agenzia funeraria svedese, Phoenix, già nel 2018 voleva creare avatar dei defunti da vendere agli inconsolabili parenti, animati da una IA in grado di riprodurne i discorsi dentro un corpo, inizialmente virtuale, ma in seguito anche robotico, aventi le stesse sembianze del morto. È il tema, peraltro, di un inquietante episodio del 2013 di Black Mirror, Be Right Back (Torna da me). E non ci vorrà troppo tempo prima che saremo tutti in grado di confezionarci in casa un "film di Hollywood" casareccio, con la trama che ci garba a noi, facendolo interamente generare dalla IA e con Marilyn Monroe che recita assieme a Totò e magari anche a tua sorella in un film girato a scelta nello stile di Stanley Kubrik oppure dei fratelli Vanzina o di Rocco Siffredi.

Ma al di là dell'intrattenimento, le AGI in grado di progettare qualsiasi cosa in tempo zero ci proietteranno in un'epoca di trasformazioni rapidissime. Fusione nucleare, nuovi metodi di propulsione, hackeraggio genetico e transumanesimo - forse addirittura postumanesimo, per citare le prime cose, non necessariamente rassicuranti, che ci vengono in mente - ma le trasformazioni più clamorose saranno di certo quelle che oggi non ci immaginiamo neppure, come è sempre stato nella storia del mondo.

Il progresso ha liberato l'uomo da mansioni disumanizzati - esiste davvero qualcuno che rimpianga una vita passata a girare bulloni alla catena di montaggio come Charlot in Tempi Moderni? Ma quale è il vantaggio di "liberarci" dal peso del lavoro se poi la ricca cricca che ronza attorno a Davos complotta per imbrigliare e incatenare le libertà di noi esseri umani nel loro sistema di controllo totale digitale, ancorato ai crediti sociali e sanitari e di carbonio e alle CBDC e chissà cos'altro s'inventeranno?

L'intelligenza artificiale è un neutro acceleratore e amplificatore di realtà - sta a noi decidere quale realtà vogliamo accelerare e amplificare. Sta a noi decidere fra l'utopia e la distopia. Ma per "noi" non significa "gli esperti", spesso corrotti, ai quali firmare cambiali in bianco non mi pare più il caso - gli ultimi anni lo hanno dimostrato. Noi chi allora? La domanda rimane aperta. Ma sarà bene trovare una risposta prima che sia troppo tardi. L'onda dell'AGI arriverà comunque, a prescindere dai nostri desideri, e sarà uno tsunami - o troviamo il modo di cavalcare l'onda con l'abilità ed eleganza di provetti surfisti oppure ne saremo travolti.

Il futuro è aperto e se non ci faremo infinocchiare dalla falsa singolarità tecnocratica, magari la vera singolarità tecnologica o la più modesta intelligenza generale artificiale potranno davvero giovare all'Umanità intera, e non solo a una piccola parte. Badando a non confondere i nostri desideri e i nostri timori con la realtà desunta dai segni che il mondo ci dà. Così è (se vi pare).

In verità, non c'è alcun modo di sapere come andrà a finire questa faccenda. L'incombente singolarità tecnologica ha trasformato l'umanità in un colossale "Gatto di Schrödinger". Non sappiamo se oltre il nostro Orizzonte degli Eventi "l'Umanità di Schrödinger" è onnipotente oppure è estinta e, come nel famoso paradosso di Schrödinger, finché non potremo compiere un'osservazione dentro la "scatola" della singolarità tecnologica non abbiamo modo di saperlo. Ma si accettano scommesse, anche sottobanco. Buona fortuna a tutti noi.