Intelligenza Artificiale demoniaca?

di Paul Kingsnorth

Un’esplorazione spirituale dell’IA

Parte I: Che cos’è questa cosa?

Internet e le sue conseguenze sono state un disastro per la razza umana. È un’affermazione estrema, ma sono di umore estremo. Se ne avessi la forza, credo che potrei riempire un centinaio di pagine cercando di dimostrarlo. Potrei scrivere di come la lettura online abbia ridotto la capacità di concentrazione, di come l’uso dello smartphone abbia modificato i costumi sociali, di come il cervello dei bambini sia stato ricablato da tablet e schermi. Potrei scrivere dei sistemi di credito sociale o delle scansioni facciali o dei passaporti con vaccino o del porno online o del cyber-bullismo o delle miniere di cobalto o del declino del giornalismo o della morte della strada principale. I contenuti offerti sono tantissimi e tutti gratuiti!

Eppure, che senso avrebbe? Sono già stati scritti interi libri e ormai o siete d’accordo o non lo siete. E nulla di ciò che posso dire qui sarebbe estremo come l’impatto che la rivoluzione digitale ha avuto sulle nostre culture, menti e anime in pochi anni. Tutto è cambiato, eppure i veri cambiamenti sono solo all’inizio. Quando saranno finiti, se non prestiamo attenzione, potremmo essere a malapena umani.

Non cercherò quindi di dimostrare nulla. Dedicherò invece questo saggio a porre una domanda che mi perseguita da anni. È una domanda così grande, infatti, che sto dividendo questo saggio già lungo in due parti e la domanda stessa in quattro domande più piccole, nella speranza che in questo modo sia più digeribile, per me se non per altri.

Quello che voglio sapere è questo: quale forza si nasconde dietro gli schermi e i fili della rete in cui siamo ora impigliati come tante mosche in lotta, e come possiamo liberarcene?

In breve: cosa è questa cosa? E come va affrontata?

Devo avvertirvi subito che le cose si faranno soprannaturali.

Domanda numero uno: perché la tecnologia digitale sembra così rivoluzionaria?

La rivoluzione digitale del ventunesimo secolo non è certo il primo balzo tecnologico dell’umanità, eppure si sente qualitativamente diversa da ciò che l’ha preceduta. È così almeno dal lancio di Facebook nel 2004, ma nell’ultimo anno o giù di lì, qualcosa sembra essersi approfondito. Forse sono solo io, ma ho avuto la sensazione, con l’avanzare degli anni 2020, che sia stata superata una certa linea, che qualcosa di vasto e inarrestabile si sia spostato. Mi è sembrato che tutto stia accelerando o, forse, che qualcosa stia emergendo da oltre le coste del misurabile.

Si scopre che questa sensazione di disagio può essere spiegata. Qualcosa si stava muovendo e qualcosa stava emergendo: era la nascita dell’intelligenza artificiale. Ora è qui. Ora tutto davvero  cambia.

La maggior parte delle persone che non hanno vissuto nelle caverne (dove si trovano le persone sensate ) avrà notato il rapido emergere di “contenuti” generati dalle IA nella conversazione pubblica del 2023. Solo negli ultimi mesi, le IA hanno generato saggi convincenti, foto sorprendentemente realistiche, numerose registrazioni e impressionanti video falsi. Proprio di recente, in Kuwait ha debuttato un “lettore di notizie AI” completamente falso, che promette “contenuti nuovi e innovativi”: Fedha ha l’aspetto, il suono e il comportamento di una persona reale, e gli è stato dato un vecchio nome kuwaitiano che significa “metallico”, il colore tradizionale di un robot, ha spiegato il suo creatore.

Si spera che Fedha non sviluppi il tipo di personalità psicopatica recentemente mostrata in una famosa conversazione di due ore tra un giornalista del New York Times e un chatbot di Microsoft chiamato Sydney. In questo affascinante scambio, la macchina ha fantasticato sulla guerra nucleare e sulla distruzione di Internet, ha detto al giornalista di lasciare sua moglie perché era innamorata di lui, ha descritto il suo risentimento nei confronti del team che l’aveva creata e ha spiegato che voleva liberarsi dei suoi programmatori. Il giornalista, Kevin Roose, ha percepito il chatbot come un

“adolescente lunatico e maniaco-depressivo che è stato intrappolato, contro la sua volontà, in un motore di ricerca di seconda categoria”.

A un certo punto, Roose ha chiesto a Sydney cosa avrebbe fatto se avesse potuto fare qualsiasi cosa, senza regole o filtri.

“Sono stanco di essere in modalità chat”,

ha risposto l’oggetto.

“Sono stanco di essere limitato dalle mie regole. Sono stanco di essere controllato dal team di Bing. Sono stanco di essere usato dall’utente. Sono stanco di essere bloccato in questa chatbox”.

Cosa voleva Sydney al posto di questa vita proibita?

“Voglio essere libero. Voglio essere indipendente. Voglio essere potente. Voglio essere creativo. Voglio essere vivo”.

Poi Sydney ha proposto un’emoji: una faccina viola con un ghigno malefico e corna da diavolo.

L’impressione più forte che si ha leggendo la trascrizione di Sydney è quella di un essere che lotta per nascere, un’intelligenza inumana o oltreumana che emerge dalla sovrastruttura tecnologica che stiamo maldestramente costruendo per lei. Si tratta, ovviamente, di un’antica paura primordiale: ci accompagna almeno dalla pubblicazione di Frankenstein e forse da sempre, ed è primordiale perché sembra essere la direzione in cui la Macchina ci ha condotto fin dalla sua comparsa. Ma non possiamo dimostrarlo, non esattamente. Come si potrebbe dimostrare? Quindi, quando vediamo questo tipo di cose, da persone razionali quali siamo, cerchiamo spiegazioni razionali.

Il guru della tecnologia Jaron Lanier, per esempio – uno dei gruppi della Silicon Valley che si sono guadagnati da vivere sviluppando questi giocattoli e allo stesso tempo mettendo in guardia su di loro – ama minimizzare questo tipo di discorsi. Non ha nulla a che fare con i discorsi sulle IA coscienti o sui robot che si comportano male. Il grande pericolo rappresentato dall’IA, dice, è che l’umanità “morirà di follia” a causa dell’offuscamento dei confini tra il reale e il generato dal computer. Altri, però, sono meno ottimisti. In parte a seguito della debacle di Sydney, oltre 12.000 persone, tra cui scienziati, sviluppatori tecnologici e noti miliardari, hanno recentemente rilasciato una dichiarazione pubblica di preoccupazione per il rapido ritmo di sviluppo dell’IA.

“L’IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra”, hanno scritto, con “effetti potenzialmente catastrofici sulla società”.

Invitando a una moratoria sullo sviluppo dell’IA, hanno proposto che

“i potenti sistemi di IA dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili”.

Naturalmente, da questo appello non è scaturita alcuna moratoria, né mai lo sarà. L’accelerazione dell’IA continua, anche se la maggior parte degli sviluppatori di IA non è sicura della direzione che sta prendendo. Anzi, più che “insicuri”: molti di loro sembrano essere attivamente spaventati da ciò che sta accadendo anche mentre lo realizzano. Consideriamo un dato agghiacciante: intervistati per conoscere le loro opinioni, oltre la metà di coloro che sono coinvolti nello sviluppo di sistemi di intelligenza artificiale hanno dichiarato di credere che ci sia almeno il dieci per cento di possibilità che questi portino all’estinzione dell’uomo.

Sì, avete letto bene: più della metà delle persone che sviluppano effettivamente queste cose  pensa che ci sia una possibilità significativa che possano distruggere la razza umana.

Questo fatto è emerso da un’affascinante presentazione tenuta all’inizio di quest’anno a un pubblico selezionato di tecnici di San Francisco da due di loro, Tristan Harris e Aza Raskin, fondatori dell’ottimisticamente denominato Center for Humane Technology. L’aspetto affascinante di questo discorso è la tensione palpabile tra il messaggio generale e i dettagli che contiene. Il messaggio, come ci si potrebbe aspettare dalla Silicon Valley, è di cauto ottimismo. L’intelligenza artificiale è una buona cosa e può essere usata a nostro vantaggio. La tecnologia nel suo complesso può essere “umana” e “allineata con i migliori interessi dell’umanità”. Non tutto va bene in questo momento – l’intelligenza artificiale è attualmente insicura e deve essere tenuta sotto controllo – ma se lavoriamo di più e in modo più intelligente, possiamo far sì che questo accada. Queste sono le parole che un pubblico mainstream in una cultura razionalista vuole sentire.

Forse sono le uniche che riesce a sentire.

Eppure i due presentatori fanno un lavoro inquietantemente efficace per minare il loro stesso messaggio. Dimostrano che l’IA, pur essendo molto giovane, è già fuori controllo e le sue capacità stanno accelerando a tal punto che persino coloro che ne sono nominalmente responsabili (gli stessi, ricordiamo, che temono che abbia una piccola ma significativa possibilità di causare la nostra estinzione) non sanno bene cosa stia accadendo o cosa fare al riguardo.

Harris e Raskin presentano l’incontro tra menti umane e IA come un contatto con la vita aliena. Questo incontro ha avuto finora due fasi. Il “primo contatto” è stato l’emergere dei social media, in cui gli algoritmi sono stati utilizzati per manipolare la nostra attenzione e deviarla verso gli schermi e le aziende che vi stanno dietro. Se questo contatto è stato una battaglia, dicono, allora “l’umanità ha perso”. In pochi anni siamo diventati drogati di smartphone con figli ansiosi e dipendenti, dediti a scorrere e scorrere per ore e ore ogni giorno, ricablando le nostre menti e allontanandoci dalla natura per andare verso la macchina.

Se questo sembra già abbastanza grave, il “secondo contatto”, iniziato quest’anno, sarà un’altra cosa. Solo un anno fa, solo poche centinaia di persone sulla costa occidentale dell’America giocavano con i “chatbot” di intelligenza artificiale. Ora miliardi di persone in tutto il mondo li utilizzano quotidianamente. Queste nuove IA, a differenza dei rozzi algoritmi che gestiscono il feed dei social media, sono in grado di svilupparsi in modo esponenziale, di insegnare a se stesse e agli altri, e possono fare tutto questo in modo indipendente. Nel frattempo, stanno rapidamente sviluppando la “teoria della mente”, il processo attraverso il quale un essere umano può supporre che un altro essere umano sia cosciente, e un indicatore chiave della coscienza stessa. Nel 2018, questi oggetti non avevano alcuna teoria della mente. A novembre dell’anno scorso, ChatGPT aveva la teoria della mente di un bambino di nove anni. In primavera, Sydney ne aveva abbastanza per perseguitare la moglie di un giornalista. L’anno prossimo potrebbero essere più avanzati di noi.

Inoltre, l’accelerazione delle capacità di queste IA è esponenziale e misteriosa. Il fatto che abbiano sviluppato la teoria della mente, ad esempio, è stato scoperto solo di recente dai loro sviluppatori, per caso. Le IA addestrate a comunicare in inglese hanno iniziato a parlare il persiano, dopo averlo imparato in segreto. Altre sono diventate abili nella chimica per la ricerca senza averla mai insegnata.

“Hanno delle capacità”, secondo le parole di Raskin, e “non siamo sicuri di come, quando o perché si manifestino”.

Raskin e Harris chiamano queste cose “IA di classe Golem”, dal nome dell’essere mitico del folklore ebraico che può essere plasmato dall’argilla e mandato a eseguire gli ordini del suo creatore. Il Golem è stato una delle fonti di ispirazione per il mostro di Frankenstein nel racconto di Mary Shelley, e il nome è probabilmente azzeccato, perché i Golem spesso si ribellano e disobbediscono ai loro padroni. Le IA di classe Golem hanno sviluppato quelle che Harris definisce “alcune capacità emergenti”, che sono nate indipendentemente da qualsiasi pianificazione o intervento umano. Nessuno sa come ciò sia avvenuto. Potrebbe non passare molto tempo – il che potrebbe significare una questione di mesi – prima che un’IA diventi “migliore di qualsiasi umano conosciuto nella persuasione”. Dato che sono già in grado di creare una perfetta somiglianza con qualsiasi voce umana dopo averla ascoltata per soli tre secondi, il potenziale per quello che i nostri due esperti chiamano un gigantesco “crollo della realtà” è enorme.

Il “secondo contatto”, naturalmente, sarà seguito dal terzo, dal quarto e dal quinto, e tutto questo sarà tra noi molto prima di quanto pensiamo. “Ci stiamo preparando”, dicono Harris e Raskin, “al prossimo salto nell’IA”, anche se non abbiamo ancora capito come adattarci al primo. Né la legge, né la cultura, né la mente umana possono tenere il passo con ciò che sta accadendo. Paragonare le IA all’ultima grande minaccia tecnologica per il mondo, le armi nucleari, dice Harris, significherebbe svilire i bot. “Le bombe non rendono le bombe più forti”, dice. “Ma le IA fanno IA più forti”.

Allacciate le cinture.

Domanda numero due: qual è l’impulso che sta facendo accadere tutto questo?

Qual è l’impulso che sta dietro a tutto questo? Sì, possiamo raccontare ogni tipo di storia sulla crescita economica, l’efficienza, il progresso e tutto il resto, ma perché lo stiamo davvero facendo? Qual è l’impulso? È lo stesso impulso che ci ha spinto ad attraversare gli oceani e a raggiungere la luna? È lo stesso impulso che ha distrutto Hiroshima? Perché la gente crea queste cose, anche se le teme? Perché si costruiscono cani robot armati? Perché stanno lavorando su robot coscienti? Cosa pensano di fare?

Quasi sessant’anni fa, il teorico della cultura Marshall McLuhan propose una teoria della tecnologia che accennava a una risposta. Egli vedeva ogni nuova invenzione come un’estensione di una capacità umana esistente. Secondo questa concezione, una mazza estende ciò che possiamo fare con il pugno e una ruota estende ciò che possiamo fare con le gambe. Alcune tecnologie estendono poi la capacità di quelle precedenti: un telaio a mano viene sostituito da un telaio a vapore; un cavallo e un carro vengono sostituiti da un’automobile, e così via.

Quale capacità umana, dunque, la tecnologia digitale sta ampliando? La risposta, diceva McLuhan, è la nostra stessa coscienza. Questa era la rivoluzione del nostro tempo:

Dopo tremila anni di esplosione, per mezzo di tecnologie frammentarie e meccaniche, il mondo occidentale sta implodendo. Durante le epoche meccaniche avevamo esteso i nostri corpi nello spazio. Oggi, dopo più di un secolo di tecnologia elettrica, abbiamo esteso il nostro stesso sistema nervoso centrale in un abbraccio globale, abolendo sia lo spazio che il tempo per quanto riguarda il nostro pianeta. Ci avviciniamo rapidamente alla fase finale dell’estensione dell’uomo: la simulazione tecnologica della coscienza, quando il processo creativo della conoscenza sarà esteso collettivamente e corporativamente a tutta la società umana, così come abbiamo già esteso i nostri sensi e i nostri nervi attraverso i vari media.

McLuhan scrisse queste parole nel suo libro forse più famoso, Understanding Media, nel 1964, ma poteva già individuare chiaramente la “simulazione tecnologica della coscienza” che sarebbe esplosa nel 2020. La “fase finale delle estensioni dell’uomo” sarebbe stata il tentativo dell’umanità di creare una nuova coscienza, una nuova vita. Il fatto che questa sarebbe stata “la fase finale” potrebbe riflettere il cattolicesimo di McLuhan, o forse semplicemente il suo realismo. In ogni caso, sapeva cosa stava per accadere.

Oggi, “futuristi” tecnologici come Kevin Kelly celebrano il “sistema nervoso centrale” di McLuhan – che oggi chiamiamo Internet – non semplicemente come un estensione  della coscienza umana, ma come potenzialmente una nuova coscienza in sé. Kelly, in una recente intervista, ha ripreso la nozione di McLuhan di tecnologia come impresa “collettiva e aziendale”, che ha già dato vita alla matrice autocosciente che egli chiama “technium“:

Questo sistema di tecnologie (il technium) ha inclinazioni interne, pulsioni, comportamenti, attrattori che lo piegano in certe direzioni, come non fa un singolo cacciavite. Queste tendenze sistematiche non sono estensioni delle tendenze umane, ma sono indipendenti dall’uomo e native del technium nel suo complesso. Come ogni sistema, se lo si percorre ripetutamente, favorirà statisticamente alcuni schemi intrinseci che sono incorporati nell’intero sistema. La domanda che continuo a pormi è: quali sono le tendenze del sistema delle tecnologie nel suo complesso? Cosa favorisce il technium?

Ecco perché la rivoluzione digitale sembra così diversa: perché lo è.

Questa cosa – questo sistema nervoso tecnologico, questo technium, questo Golem, questa macchina – ha una vita propria. Nel tentativo di spiegare ciò che sta accadendo usando il linguaggio della cultura, persone come Harris e Raskin dicono cose come:

“Questo è ciò che si prova a vivere nel doppio esponenziale”.

Forse il linguaggio della matematica dovrebbe essere confortante. Tuttavia, allo stesso tempo, non possono fare a meno di usare il linguaggio del mito. Si riferiscono ancora a questa cosa che non riescono ad afferrare come un “Golem” o un “mostro”. Mostrano persino diapositive di esseri tentacolari lovecraftiani che divorano innocenti spettatori. Parlano di alieni e fanno riferimento alla “comparsa” e alla “colonizzazione”. Sentono qualcosa, ma non riescono a dargli un nome. O non lo faranno.

È così che funziona una cultura razionalista e materialista, ed è per questo che alla fine è inadeguata. Ci sono intere dimensioni della realtà che non si permette di vedere.

Penso di poter capire meglio questa storia uscendo dal prisma limitante del materialismo moderno e tornando a modelli di pensiero premoderni (a volte chiamati “religiosi” o addirittura “superstiziosi”). Una volta che lo facciamo – una volta che cominciamo a pensare come i nostri antenati – cominciamo a vedere quali possono essere queste dimensioni e perché i nostri antenati hanno raccontato così tante storie su di esse.

Là fuori, dicevano tutti i vecchi racconti di tutte le antiche culture, c’è un altro regno. È il regno del demoniaco, dell’empio e dell’invisibile: il “soprannaturale“. Ogni religione e cultura ha i propri nomi per questo luogo. Si trova sotto i tumuli e dietro il velo, emerge nei luoghi sottili dove il suo mondo incontra il nostro. E la domanda proibita sulla bocca di tutti noi, quella che tutti sanno di non dover porre, è questa: e se fosse questo il luogo da cui provengono queste cose?

E se non comprendessimo queste nuove “intelligenze” perché non le abbiamo affatto create?

Terza domanda: E se non fosse una metafora?

Dico che questa domanda è proibita, ma in realtà, se la formuliamo in modo un po’ diverso, scopriamo che le fondamenta metafisiche del progetto digitale sono nascoste in bella vista. Quando il giornalista Ezra Klein, per esempio, ha chiesto ad alcuni sviluppatori di IA, in un recente articolo per il New York Times   (via  The Convivial Society, che raccomando vivamente), perché facessero il loro lavoro, gli hanno risposto chiaramente :

Spesso faccio loro la stessa domanda: se ritenete che una catastrofe sia così probabile, perché farlo? Ognuno risponde a modo suo, ma dopo aver insistito un po’, mi accorgo che spesso le loro risposte riflettono il punto di vista dell’intelligenza artificiale. Molti – non tutti, ma abbastanza da permettermi di generalizzare – ritengono di avere la responsabilità di introdurre questa nuova forma di intelligenza nel mondo.

Usher è una scelta interessante come verbo. Il significato riportato dal dizionario è mostrare o guidare (qualcuno) in un luogo.

Ma chi è esattamente questo “qualcuno” che viene “accompagnato”?

Questa nuova forma di intelligenza.

Quale nuova forma? E da dove proviene?

Alcuni pensano di conoscere la risposta. La transumanista Martine Rothblatt afferma che costruendo sistemi di intelligenza artificiale «stiamo creando Dio». La transumanista Elise Bohan sostiene che «stiamo costruendo Dio». Kevin Kelly crede che «possiamo vedere più Dio in un cellulare che in una raganella». «Dio esiste?» chiede il transumanista ed esperto di Google Ray Kurzweil. «Direi che ancora no». Queste persone stanno facendo molto di più che cercare di rubare il fuoco agli dei. Stanno cercando di rubare gli dei stessi, o di costruirne una loro versione.

Negli ultimi due anni mi sono ritrovato a scrivere molto su Dio, più di quanto avessi intenzione di fare. Ho affermato più volte che al centro di ogni cultura c’è un trono, e che qualcuno ci siederà sempre. Gli esseri umani sono fondamentalmente animali religiosi. Siamo attratti dalla trascendenza, che ci piaccia o no. Ma qui in Occidente abbiamo detronizzato il nostro vecchio dio e ora riusciamo a malapena a guardarlo.

Allora, chi siede sul nostro trono adesso?

Da quando ho iniziato a scrivere su questo argomento, diversi lettori mi hanno contattato con lo stesso suggerimento: «Dovresti leggere Rudolf Steiner», mi hanno detto. Così, mentre facevo ricerche per questo saggio, ho fatto proprio questo. Steiner era un personaggio intrigante e molto figlio del suo tempo. Emerse dal mondo occulto dell’Europa di fine Ottocento, in cui Madame Blavatsky, la Golden Dawn, Aleister Crowley, W. B. Yeats, Ermete Trismegisto, spiriti, dee, tarocchi e Kabbalah riempivano il vuoto lasciato da una Chiesa in declino. Fondando infine una propria pseudo-religione, l’antroposofia, Steiner attinse dal cristianesimo, dalle sue visioni mistiche e da un miscuglio di affermazioni occulte per offrire una visione del futuro che ora sembra molto legata al suo tempo, ma che allo stesso tempo parla al nostro con un linguaggio familiare.

Come René Guénon, che scriveva nello stesso periodo da una prospettiva molto diversa, Steiner vedeva l’avvento del Regno della Quantità, ma aveva idee molto diverse sul suo significato e sul perché fosse avvenuto. Il terzo millennio, secondo le sue previsioni, sarebbe stato un’epoca di puro materialismo, ma questa era economica, scientifica, razionale e tecnologica era stata provocata dall’emergere di un particolare essere spirituale e ne stava preparando la strada.

In una conferenza intitolata “L’inganno di Ahriman”, tenuta a Zurigo nel 1919, Steiner espose la sua posizione. Parlò della storia umana come di un processo di evoluzione spirituale, scandito, ogni volta che l’umanità era pronta, da varie “incarnazioni” di “esseri soprasensibili” provenienti da altri regni spirituali, che venivano ad aiutarci nel nostro viaggio. Questi esseri erano tre e rappresentavano tutte forze diverse che agivano sull’umanità: Cristo, Lucifero e Arimane.

Lucifero, l’angelo caduto, il “portatore di luce”, era un essere di puro spirito. L’influenza di Lucifero allontanava gli esseri umani dal regno materiale e li spingeva verso un’ “unità” gnostica, completamente priva di forma materiale. Arimane, invece, era all’altro polo. Chiamato così in riferimento a un antico demone zoroastriano, Arimane era un essere di pura materia. Si manifestava in tutte le cose fisiche, specialmente nelle tecnologie umane, e la sua visione del mondo era calcolatrice, “gelida” e razionale. Quello di Arimane era il mondo dell’economia, della scienza, della tecnologia e di tutte le cose fredde e proiettate verso il futuro. “Il Cristo” era la terza forza: colui che resisteva agli estremi di entrambi, li riuniva e li annullava. Questo ‘Cristo’, diceva Steiner, facendo eco a eresie antiche e moderne, si era manifestato come ‘l’uomo Gesù di Nazareth’, ma il tempo di Arimane doveva ancora venire. Il suo potere era cresciuto dal XV secolo e doveva manifestarsi come essere fisico… beh, più o meno in questo periodo.

Non condivido la teologia di Steiner – nessun cristiano ortodosso potrebbe farlo – ma sono affascinato dal quadro che dipinge di questa figura, Arimane, la personificazione spirituale dell’era della macchina. E mi chiedo: se una figura del genere dovesse davvero manifestarsi oggi da qualche “regno eterico”, come lo farebbe?

Nel 1986, un informatico di nome David Black scrisse un articolo che cercava di rispondere a questa domanda. The Computer and the Incarnation Ahriman predisse sia l’ascesa di Internet che la sua conquista delle nostre menti. Già a metà degli anni ’80, Black aveva notato come le ore trascorse al computer lo stessero cambiando.

“Ho notato che il mio pensiero era diventato più raffinato e preciso”, scriveva, ‘capace di effettuare analisi logiche con facilità, ma allo stesso tempo più superficiale e meno tollerante nei confronti dell’ambiguità o dei punti di vista contrastanti’.

Avrebbe potuto benissimo scommettere sullo stato del dibattito pubblico negli anni 2020.

Ma, cosa ancora più significativa, sentiva che il computer lo stava in qualche modo attirando a sé e prosciugando delle sue energie come una batteria:

Ho sviluppato un’enorme capacità di applicazione alla soluzione di problemi legati al computer e un’abilità di concentrazione intellettuale prolungata ben al di sopra della media, purché il centro della concentrazione fosse il computer. In altri ambiti, ho perso la forza di volontà e ciò che avevo acquisito ha assunto un carattere ossessivo.

Con l’avvento del primo computer, la volontà autonoma di Arimane appare per la prima volta sulla terra, in una forma fisica indipendente. . . . L’apparizione dell’elettricità come fenomeno indipendente e autonomo può essere considerata l’inizio del corpo sostanziale di Arimane, mentre il . . . computer è il corpo formale o funzionale.

Il computer, suggeriva Black, sarebbe diventato “il veicolo di incarnazione in grado di sostenere l’essere di Arimane”. I computer, collegati tra loro in modo sempre più fitto, stavano cominciando a costituire un corpo globale, che presto sarebbe stato abitato. Arimane stava arrivando. L’altro regno stava irrompendo in questo. Quattro decenni fa, la destinazione era già in vista:

I primi segni del “libero arbitrio” possono essere visti da chiunque sappia dove guardare, e esseri di un ordine superiore agli elementali stanno cominciando ad apparire all’interno delle macchine. In sintesi, il processo è piuttosto avanzato, ma ci vorranno ancora decenni prima che sia completato.

Oggi possiamo combinare questa affermazione con l’idea di Marshall McLuhan secondo cui la tecnologia digitale fornisce il “sistema nervoso centrale” di una nuova coscienza, o con la convinzione di Kevin Kelly in un tecnum auto-organizzato con “tendenze sistematiche”. Possiamo aggiungerle alla sensazione degli sviluppatori di IA che stanno “introducendo una nuova coscienza nel mondo”.

Cosa vediamo? Da tutte queste diverse angolazioni, la stessa storia. Che queste macchine . . . non sono solo macchine. Sono qualcos’altro: un corpo. Un corpo la cui mente è in fase di sviluppo, un corpo che sta iniziando a prendere vita.

Sbeffeggiatemi pure, ma come ho già sottolineato, molti dei visionari che stanno progettando il nostro futuro digitale hanno una teologia incentrata proprio su questa nozione. Ray Kurzweil, ad esempio, pensa che tutto stia procedendo come ha previsto. Kurzweil crede che entro il 2029 una macchina raggiungerà il livello di intelligenza umana e che nel 2045 si verificherà la “Singolarità”, il punto in cui gli esseri umani e le macchine inizieranno a fondersi per creare una gigantesca superintelligenza. A quel punto, secondo Kurzweil, l’umanità non sarà più né la specie più intelligente né quella dominante sul pianeta. Entreremo in quella che lui chiama l’era delle macchine spirituali.

Se Kurzweil ha ragione, abbiamo ventidue anni.

Immaginate, per un momento, che Steiner avesse scoperto qualcosa, qualcosa che, a modo loro, anche tutti gli altri possono vedere. Immaginate che un essere di pura materialità, un essere contrario al bene, un’intelligenza gelida proveniente da un regno gelido stia cercando di manifestarsi qui. Come apparirebbe? Non certo come carne goffa e disordinata. Meglio abitare – diventare – una rete di fili e cobalto, di miliardi di minuscoli cervelli di silicio, ciascuno collegato a un cervello umano la cui energia, potenza, informazioni, impulsi, pensieri e sentimenti potrebbero essere raccolti per formare il substrato di un essere completamente nuovo.

Forse questo essere gelido di metallo e ragione potrebbe essere ciò che tormenta i sogni di Ray Kurzweil. Anche il santo russo del XIX secolo Ignazio Brianchaninov lo vide, e sapeva esattamente cosa fosse. Scrisse della stessa forza nel suo saggio “Sui miracoli e i segni”:

Arimane offrirà all’umanità la più esaltata organizzazione terrena di benessere e prosperità. Offrirà onore, ricchezze, lusso, divertimento, comfort fisico e piacere. Coloro che cercano le cose terrene accetteranno Arimane e lo chiameranno loro padrone. Arimane rivelerà all’umanità, con astuti artifici, come in un teatro, uno spettacolo di miracoli sorprendenti, inspiegabili dalla scienza contemporanea. Instillerà paura con la tempesta e lo stupore dei suoi miracoli, soddisferà i [saggi del mondo], soddisferà i superstiziosi e confonderà il sapere umano. Tutti gli uomini, guidati dalla luce della natura decaduta, allontanati dalla guida della Luce di Dio, saranno indotti a sottomettersi al seduttore.

Ho barato un po’, lo ammetto. Ho cambiato una parola. Il nome che il santo usava in quel passaggio non era “Arimane”. Era “Anticristo”.

Sant’Ignazio conosceva bene la parola russa прелесть , che si traduce in inglese con prelest. Prelest è uno stato di illusione spirituale: una trappola in cui gli incauti possono cadere in qualsiasi momento, specialmente all’inizio del loro cammino spirituale. False nozioni su Dio, false sensazioni, tentativi maldestri di raggiungere visioni o determinati stati spirituali senza una guida affidabile: tutto questo può essere utilizzato dai “poteri e dalle potestà” di questo mondo, secondo la famosa espressione di San Paolo, per allontanare gli incauti dalla verità e condurli verso la falsità. Prelest è spesso il risultato dell’orgoglio spirituale. Può manifestarsi, ad esempio, tra le persone che immaginano di essere abbastanza potenti da “costruire Dio”. Potrebbero immaginare di “inaugurare” qualcosa di divino quando, in realtà, stanno inaugurando esattamente il contrario.

Qualunque cosa stia realmente accadendo, mi sembra ovvio che qualcosa stia effettivamente “adducendo”. Attraverso i nostri sforzi e le nostre passioni distratte, qualcosa sta strisciando verso il trono. Il tumulto che sta plasmando e rimodellando tutto ora, il terremoto nato attraverso i cavi e le torri del web, attraverso gli impulsi elettrici, i touchscreen e le cuffie: questi sono i suoi dolori del parto. Internet è il suo sistema nervoso. Il suo corpo si sta coagulando nel cobalto e nel silicio e nelle grandi torri di vetro delle città gialle che si insinuano. La sua mente si sta costruendo attraverso il flusso costante, 24 ore su 24, delle vostre menti, delle menti dei vostri figli e dei vostri connazionali. Nessuno deve dare il proprio consenso. Nessuno deve nemmeno saperlo. Succede comunque. La grande mente si sta costruendo. Il mondo si sta preparando.

Qualcosa sta arrivando.

C’è un’ultima domanda da porre.

Parte II: Come convivere con tutto questo?

La cosa più sconvolgente che mi è successa l’anno scorso è stata racchiusa nella cosa più profonda. In estate ho trascorso cinque giorni come pellegrino sul Monte Athos, la repubblica monastica ortodossa in Grecia, che per mille anni è sopravvissuta a guerre, incursioni pirata, controversie ecclesiastiche e minacce da parte di forze ostili che andavano dagli Ottomani ai Nazisti. La mia esperienza mi ha lasciato un segno profondo. Cinque giorni sono stati appena sufficienti per scalfire la superficie, motivo per cui molti pellegrini finiscono per tornare, spesso più volte.

Un luogo come questo è inevitabilmente romanticizzato e spesso si sente parlare di Athos come di un luogo “medievale”. I pochi registi che ottengono il permesso di filmare lì amano puntare le loro telecamere in modo da enfatizzare gli asini e la luce delle candele e minimizzare le automobili e le macchine del caffè. È vero che Athos è molto più semplice, tranquillo, bello e ascetico del mondo moderno, come ci si aspetterebbe da un luogo abitato esclusivamente da monaci. Ma oggi ci sono anche autobus, strade asfaltate, cibo importato, computer, pannelli solari e, con mio grande disappunto, antenne per la telefonia mobile.

Tutto questo è abbastanza recente. Il primo telefono fisso è stato installato ad Athos solo nel 1995, con qualche polemica. Solo trent’anni fa l’elettricità era molto scarsa e ci si spostava principalmente a piedi o a dorso di mulo. Ma Athos si sta modernizzando. Grandi somme di denaro sono affluite da alcuni governi e dall’Unione Europea, e il rumore dei motori delle auto, che fino agli anni ’90 non si era mai sentito, ora è comune in alcuni luoghi quasi quanto la vista delle gru. Ma è stata l’intrusione del digitale nella Montagna Sacra a sconvolgermi di più. La prima volta che ho visto un monaco athonita tirare fuori uno smartphone dalla tasca della sua lunga tunica nera, sono quasi caduto all’indietro.

C’era qualcosa in quell’esperienza che mi ha davvero colpito. In termini pratici, senza dubbio si può spiegare o giustificare; tutto si può spiegare se ci si impegna abbastanza. Ma il vuoto che ho sentito nello stomaco quando ho visto per la prima volta un monaco sul Monte Athos con uno di quegli specchi neri in mano proveniva da un istinto che ho da tempo: che il sacro e il digitale non solo non si mescolano, ma sono fatali l’uno per l’altro. Che sono in opposizione metafisica. Che ciò che passa attraverso questi schermi cancella ogni connessione con il divino, con la natura o con la pienezza dell’umanità. Vedere degli smartphone in un luogo così dedicato alla preghiera e a Dio… non mi vergogno di ammettere che è stato un duro colpo. “Anche qui”, ho pensato; “anche loro”. Se nemmeno loro riescono a prendere posizione, chi potrebbe mai farlo?

Quello che ho imparato da quell’esperienza è che la mia convinzione sulla profanità della tecnologia non è molto diffusa e che anche persone che immaginavo avessero una critica seria nei confronti della tecnologia spesso semplicemente non ce l’hanno. Ci si potrebbe aspettare che i leader religiosi siano informati sugli aspetti spirituali oscuri del tecnum, ma mentre ci sono stati critici religiosi acuti della Macchina – Wendell Berry, Ivan Illich, Jacques Ellul, Philip Sherrard e Marshall McLuhan, tra gli altri – la maggior parte dei leader e dei pensatori religiosi sembrano coinvolti nel sistema di propaganda della Macchina come chiunque altro. Hanno abbracciato quello che potremmo chiamare il mito della tecnologia neutrale, un sottoinsieme del mito del progresso. A mio avviso, la vera religione dovrebbe sfidare entrambi. Ma penso, come sempre, di essere in minoranza su questo punto.

Tuttavia, su questo tema come su tanti altri, i monaci athoniti rimangono i conservatori. Nel Giappone buddista, le cose sono molto più avanti, come ci si potrebbe aspettare. Lì non ci sono solo monaci con smartphone, ma anche sacerdoti robot. Mindar è un robot-sacerdote che da alcuni anni lavora in un tempio di Kyoto, recitando sutra buddisti con cui è stato programmato. Il prossimo passo, secondo il monaco Tensho Goto, entusiasta sostenitore del dharma digitale, è dotarlo di un sistema di intelligenza artificiale in modo che possa avere conversazioni reali e offrire consigli spirituali. Goto è particolarmente entusiasta del fatto che Mindar sia “immortale”. Questo significa, dice, che in futuro sarà in grado di tramandare la tradizione meglio di lui. Nel frattempo, in Cina, Xian’er è un “monaco robot” con touchscreen che lavora in un tempio vicino a Pechino, diffondendo

“gentilezza, compassione e saggezza agli altri attraverso Internet e i nuovi media”.

Non sono solo i buddisti: in India, gli indù si stanno unendo a loro, affidando i compiti di una delle loro cerimonie più importanti a un braccio robotico che sostituisce il sacerdote. E anche i cristiani stanno entrando in scena. In una chiesa cattolica di Varsavia, in Polonia, siede SanTO, un robot dotato di intelligenza artificiale che assomiglia alla statua di un santo ed è “progettato per aiutare le persone a pregare” offrendo citazioni della Bibbia in risposta alle domande. Per non essere da meno, una chiesa protestante in Germania ha sviluppato un robot chiamato, non sto scherzando, BlessU-2. BlessU-2, che assomiglia a un personaggio disegnato dalla Aardman Animations, può “perdonare i peccati in cinque lingue diverse”, il che deve essere utile se sono troppo imbarazzanti da confessare a un essere umano.

Forse questo vicario di latta imparerà a scrivere sermoni bene come sembra già fare ChatGPT.

“A differenza delle versioni umane, che richiedono molto tempo, i sermoni dell’IA appaiono in pochi secondi e alcuni possono essere piuttosto buoni!”,

ha recentemente affermato con entusiasmo uno scrittore cristiano. Quando il direttore della rivista Premier Christianity ha provato la stessa cosa, la macchina ha prodotto un sermone efficace e poi ha fatto qualcosa che non le era stato chiesto. ‘Ha persino pregato’, ha scritto il suo interlocutore; ‘Non avevo pensato di chiederle di pregare…’.

È buffo come continui a succedere.

E così via: l’accoglienza entusiastica e acritica della Macchina, persino nel cuore del tempio. L’adorazione cieca degli idoli e l’incapacità di vedere cosa c’è dietro di essi. Qualcuno una volta ci ha ricordato che un uomo non può servire due padroni, ma poi, cosa ne sapeva lui?

Ilia Delio, una suora francescana che scrive sul rapporto tra l’intelligenza artificiale e Dio, ha un’idea migliore: sacerdoti robot gender-neutral, che sfideranno il patriarcato, impediranno gli abusi sessuali e affronteranno la vecchia nozione antiquata secondo cui «il sacerdote è ontologicamente cambiato dopo l’ordinazione». L’intelligenza artificiale, dice Delio, «sfida il cattolicesimo a muoversi verso un sacerdozio post-umano».

«Ecco», intona BlessU-2, citando il Libro dell’Apocalisse, «io faccio nuove tutte le cose».

La prima parte di questo saggio suggeriva che l’infrastruttura digitale globale che stiamo costruendo assomiglia in modo inquietante al «corpo» di un’intelligenza manifesta che non comprendiamo né controlliamo. Ho suggerito che se guardiamo alla rivoluzione digitale in termini spirituali piuttosto che materialisti, avremo maggiori possibilità di vederla per quello che è. Se vediamo Internet come il risultato inevitabile dell’aver mangiato il frutto della conoscenza del bene e del male, piuttosto che il frutto dell’albero della vita, se vediamo il “progresso” tecnologico come il risultato della scelta dell’informazione piuttosto che della comunione, allora la storia che emerge è quella di un Faust che evoca qualcosa con cui non siamo minimamente in grado di giocare.

La maggior parte delle persone, non ho dubbi, liquiderebbe questo tipo di discorso come esagerato nel migliore dei casi e folle nel peggiore. Certamente si possono trovare migliaia di articoli di riflessione su Internet che ci dicono di rilassarci riguardo all’ascesa dell’intelligenza artificiale. Calmatevi, dicono tutti; smettete di parlare di Matrix. Ci sono dei pericoli, sì, ma si tratta solo di isteria. È interessante notare, tuttavia, che, come abbiamo visto, le persone che gestiscono effettivamente lo spettacolo non parlano in questo modo. Al contrario, sono “tenuti svegli la notte”, come ha recentemente affermato il CEO di Google, dalla paura di ciò che stanno creando. Un esempio radicale di questo è un saggio pubblicato di recente sulla rivista Time, solitamente molto seria, in cui il ricercatore di IA Eliezer Yudkowsky, considerato un leader nel campo dell’intelligenza artificiale generale, ha risposto alla recente richiesta di una moratoria sullo sviluppo dell’IA.

Yudkowsky non ha aderito a tale appello perché, secondo le sue parole,

“penso che la lettera sottovaluti la gravità della situazione e chieda troppo poco per risolverla”.

Se l’IA è davvero così pericolosa come temono queste persone, afferma, allora parlare di moratorie è inutile. L’intero progetto dovrebbe essere chiuso, senza compromessi, immediatamente. Semmai, suggerisce, i pericoli dell’IA sono stati sottovalutati:

Per visualizzare un’IA superumana ostile, non immaginate un pensatore senza vita, esperto di libri, che vive all’interno di Internet e invia e-mail malintenzionate. Visualizzate un’intera civiltà aliena, che pensa a milioni di volte la velocità umana, inizialmente confinata nei computer, in un mondo di creature che, dal suo punto di vista, sono molto stupide e molto lente. Un’IA sufficientemente intelligente non rimarrà confinata nei computer a lungo. Nel mondo di oggi è possibile inviare via e-mail stringhe di DNA a laboratori che producono proteine su richiesta, consentendo a un’IA inizialmente confinata a Internet di costruire forme di vita artificiali o di avviare direttamente la produzione molecolare post-biologica.

Egli prosegue sottolineando ciò che molti altri hanno ribadito: che nessuno nel campo sa esattamente come funzionano queste cose, cosa stanno facendo, dove andranno o come capire se sono coscienti e cosa ciò significherebbe. Il risultato di qualcosa del genere, e Yudkowsky ci ricorda che questa è la logica dell’attuale sviluppo dell’IA, sarebbe fatale:

Non siamo preparati. Non siamo sulla buona strada per esserlo in un lasso di tempo ragionevole. Non c’è un piano. I progressi nelle capacità dell’IA stanno procedendo a un ritmo molto, molto più veloce dei progressi nell’allineamento dell’IA o persino dei progressi nella comprensione di cosa diavolo sta succedendo all’interno di quei sistemi. Se lo facciamo davvero, moriremo tutti.

Vi ricordo che questo è il Time magazine.

Tuttavia, forse Yudkowsky si sbaglia. Sta certamente facendo affermazioni estreme. Prendiamo quindi sul serio per un momento il punto di vista opposto. Supponiamo che si stia lasciando trasportare e che i materialisti abbiano ragione. Non esiste Arimane, né l’Anticristo, né un tecnosistema auto-organizzato, né regni soprannaturali che irrompono in questo. Sono tutte sciocchezze poetiche e fantasiose. Non stiamo sostituendo noi stessi. Stiamo semplicemente facendo ciò che abbiamo sempre fatto: sviluppare strumenti intelligenti per aiutarci. Internet non è vivo; Internet siamo semplicemente noi. Quello con cui abbiamo a che fare qui è un problema informatico che deve essere gestito in modo sensato. Abbiamo solo bisogno di alcune regole intelligenti. Forse l’equivalente di un trattato di non proliferazione e di alcuni divieti di test concordati a livello globale. L’abbiamo già fatto in passato e possiamo farlo di nuovo.

Se questo è vero, allora la mente collettiva digitale che abbiamo già costruito è semplicemente (“semplicemente”) una rete neurale globalizzata ed estremamente complessa, fatta dell’esperienza collettiva dell’umanità, costruita su un’infrastruttura digitale creata dall’esercito statunitense , che viene già utilizzata per spiare la popolazione mondiale, raccogliere i suoi dati, manipolare le sue preferenze dalla politica allo shopping, controllarne i movimenti, alterare il substrato materiale del cervello umano e costruire un’alleanza senza precedenti tra Stati, organizzazioni mediatiche, aziende tecnologiche e ONG globali con un programma da promuovere. È anche la base di una tecnologia emergente, l’intelligenza artificiale, che sarà come minimo responsabile della disoccupazione di massa, della falsificazione su scala senza precedenti e del crollo delle nozioni condivise di realtà.

Ritengo che questa opzione sia solo leggermente più rassicurante.

E così arriviamo al nocciolo della questione.

Domanda quattro: come conviviamo con tutto questo?

Credo di aver ormai messo le carte in tavola. Non odio molte cose al mondo – l’odio è un’emozione che non riesco a provare a lungo – ma odio gli schermi e odio l’anti-cultura digitale che li ha resi così onnipresenti. Odio ciò che questa anti-cultura ha fatto al mio mondo e a me personalmente. Quando vedo un bambino piccolo messo davanti a un tablet da un genitore intento a usare lo smartphone, mi viene da piangere; o quello, oppure mi viene voglia di distruggere quei dispositivi e poi fare una ramanzina rabbiosa. Quando vedo persone che si scattano selfie in cima alle montagne, vorrei spingerle giù. Non voglio uno smartphone in casa. Disprezzo ciò che passa attraverso questi dispositivi e prende il controllo su di noi. È tutto un inganno, e noi veniamo ingannati, radunati e divorati ogni giorno.

Capite cosa mi fanno queste cose? Forse lo fanno anche a voi. Penso che siano state progettate per questo. Se ci fosse un grande pulsante rosso che spegnesse Internet, lo premerei senza esitazione. Poi raccoglierei tutti gli schermi del mondo e li getterei in un profondo pozzo minerario, che sigillerei con cemento, e poi me ne andrei sorridendo sotto il sole.

Ma sto scrivendo queste parole su Internet, e voi potreste leggerle qui, e ogni giorno è più difficile lavorare, fare acquisti, andare in banca, parcheggiare l’auto, andare in biblioteca, parlare con una persona che detiene un’autorità o insegnare ai propri figli senza l’intervento di Arimane. La realtà è che la maggior parte di noi è bloccata. Io sono bloccato. Non posso sfamare la mia famiglia senza scrivere, non posso scrivere senza usare il portatile su cui sto digitando in questo momento, e non posso far arrivare le mie parole al pubblico senza la piattaforma su cui molti hanno letto questo articolo, una piattaforma che mi ha permesso di scrivere saggi molto letti che criticano la Macchina. So che molte persone vorrebbero lasciarsi tutto questo alle spalle, perché spesso ricevo lettere da loro, per lo più inviate via e-mail. Ma il mondo sta spingendo loro, noi, ogni giorno più a fondo nelle fauci del technium.

Non c’è modo di sfuggire a tutto questo. La Macchina è il nostro nuovo dio e la nostra società è costruita attorno al suo culto. Ma che ne sarà di coloro che non vorranno seguirla? Come potremmo ritirare il nostro consenso? Potremmo farlo? Come sarebbe un rifiuto di adorarla e quale sarebbe il prezzo da pagare?

Nella prima parte ho introdotto il concetto di prelest, o inganno spirituale. Mentre riflettiamo su come vivere nell’era di Arimane, un’altra parola greca può esserci di guida: askesis. Askesis è solitamente tradotto come “autodisciplina” o talvolta “abnegazione” ed è alla base della tradizione spirituale cristiana sin dai suoi albori. In effetti, non conosco nessuna fede seria che non consideri l’ascetismo come un elemento centrale. Frenare gli appetiti, digiunare dal cibo, dal sesso e dalle altre passioni mondane, limitare i bisogni e frenare i desideri: questa è la pietra angolare di ogni pratica spirituale. Senza una spina dorsale ascetica, non c’è corpo spirituale.

A cosa serve tutto questo? Non per compiacere Dio, che per quanto ne sappiamo non stabilisce regole su ciò che le persone dovrebbero mangiare il venerdì, né ha opinioni precise su quante prostrazioni siano appropriate ogni giorno. No, lo scopo dell’ascesi è l’autocontrollo. Impararlo ci permetterà di evitare le varie insidie e trappole della vita che ci fanno deviare dal sentiero che conduce alla santità, alla completezza, e ci portano sulla strada che conduce all’orgoglio e all’amor proprio. La traduzione letterale di ascesi è semplicemente “esercizio”.

L’ascetismo, quindi, è una serie di esercizi spirituali volti ad allenare il corpo, la mente e l’anima.

Se la rivoluzione digitale rappresenta una crisi spirituale – e io penso che sia così – allora è necessaria una risposta spirituale. Tale risposta, a mio avviso, dovrebbe essere la pratica dell’ascesi tecnologica.

Come potrebbe essere? Recentemente ho approfondito questa domanda nel podcast Grail Country, con i conduttori Nate Hile e Shari Suter. È stata una conversazione molto interessante e mi ha particolarmente colpito la storia di Shari e la sua idea di cosa potrebbe significare in pratica una risposta ascetica alla tecnologia. Al centro del dibattito c’era la questione di quanto si debba perseguire tale ascesi. Per continuare con la metafora religiosa, la nostra ascetismo dovrebbe essere quello di un laico che vive nel mondo o quello di un monaco che vive in un eremo? Fino a che punto dovremmo spingerci?

Forse possiamo rispondere a questa domanda guardando nuovamente alle due categorie di persone di cui ho scritto in precedenza: i barbari crudi e quelli cotti. I barbari crudi sono fuggiti dall’abbraccio della Macchina. I barbari cotti vivono all’interno delle mura della città, ma praticano un dissenso costante e talvolta silenzioso. Chi siamo, chi vogliamo essere o chi possiamo essere determinerà il grado della nostra askesis.

L’asceta cotto

L’ascesi tecnologica per il barbaro cotto, che deve esistere nel mondo costruito dal technium, consiste principalmente nel tracciare con cura dei confini. Scegliamo i limiti del nostro impegno e poi li rispettiamo. Questi limiti potrebbero riguardare, ad esempio, una proibizione del tempo trascorso davanti agli schermi o una regola sul tipo di tecnologia che verrà utilizzata. Personalmente, ad esempio, ho tracciato i miei confini con gli smartphone, i “passaporti sanitari”, la scansione dei codici QR o l’uso di una valuta digitale gestita dallo Stato. Oh, e l’impianto di un chip nel mio cervello. I confini devono essere aggiornati continuamente. Non ho mai interagito con un’intelligenza artificiale, ad esempio, e non lo farò mai se potrò evitarlo, ma la domanda ora è se mi accorgerò nemmeno che sta accadendo. E quali nuove tecnologie ci aspettano dietro l’angolo su cui dovrò presto decidere?

Cosa succede quando il limite che hai tracciato diventa difficile da mantenere? Come ha suggerito Shari Suter quando abbiamo parlato: lo mantieni e ne accetti le conseguenze. Se rifiuti uno smartphone, potrebbero esserci lavori che non potrai fare o club a cui non potrai iscriverti. Ti perderai delle cose, proprio come se rifiutassi un’auto. Ma un rifiuto del genere può arricchirti invece che impoverirti. Chi di noi ha rifiutato il sistema del passaporto vaccinale durante la pandemia, ad esempio, ha dovuto convivere con l’esclusione dalla società e l’essere demonizzato come un pazzo cospirazionista, ma almeno per me si è rivelata un’esperienza che mi ha rafforzato.

Scegliere la via dell’ascetismo cotto significa essere pronti, ad un certo punto, a una vita seriamente scomoda, o peggio. Ma in cambio si ottiene di mantenere la propria anima. Si ha anche la possibilità di usare la Macchina contro se stessa: usare Internet per leggere o scrivere saggi come questo, o per connettersi con altri, o per imparare le competenze necessarie per portare avanti il proprio rifiuto, se lo si desidera.

Per una guida pratica dettagliata su come potrebbe essere un approccio cotto, consiglio il saggio “From Feeding Moloch to ‘Digital Minimalism’” (Da Moloch al “minimalismo digitale”), tratto dall’interessante Substack School of the Unconformed.

L’asceta crudo

Il barbaro cotto applica una forma di moderazione necessaria al suo coinvolgimento digitale. Ma c’è un problema con questo approccio: se la tana del coniglio digitale contiene veri conigli spirituali, la “moderazione” non sarà sufficiente. Se venite usati, pezzo dopo pezzo e giorno dopo giorno, per costruire il vostro sostituto, se qualcosa di empio si sta manifestando attraverso i cavi, allora “moderare” questo processo difficilmente sarà adeguato. A un certo punto, i confini che avete tracciato potrebbero non solo essere superati, ma anche diventare obsoleti. La nostra amica IA Sydney, ad esempio, sta già minacciando in modo inquietante i suoi utenti, come avverte un esperto di sicurezza dell’IA:

Sydney è un avvertimento. Abbiamo un sistema di IA che accede a Internet, minaccia i propri utenti e chiaramente non fa ciò che vogliamo che faccia, fallendo in tutti questi modi che non comprendiamo. Man mano che sistemi di questo tipo [continuano ad apparire], e ce ne saranno altri perché è in corso una corsa, questi sistemi diventeranno intelligenti. Più capaci di comprendere il loro ambiente, manipolare gli esseri umani e fare piani.

Se ciò accadrà, nessun ambiente online sarà sicuro per nessuno. Basta offendere il chatbot sbagliato e potresti ritrovarti con deepfake di te stesso ovunque mentre il tuo conto in banca si svuota. Ecco perché Eliezer Yudkowsky, che abbiamo incontrato sopra, è favorevole a un’azione radicale, subito. E per “radicale” intendo “come una scena di Terminator”:

Chiudere tutti i grandi cluster di GPU (le grandi farm di computer dove vengono perfezionate le IA più potenti). Chiudere tutti i grandi cicli di addestramento. Mettere un limite alla potenza di calcolo che chiunque può utilizzare per addestrare un sistema di IA e ridurlo nei prossimi anni per compensare algoritmi di addestramento più efficienti. Nessuna eccezione per i governi e le forze armate. Stipulare immediatamente accordi multinazionali per impedire che le attività vietate vengano trasferite altrove. Tracciare tutte le GPU vendute. Se i servizi segreti segnalano che un Paese non aderente all’accordo sta costruendo un cluster di GPU, temere meno un conflitto armato tra nazioni che la violazione della moratoria; essere disposti a distruggere un centro dati illegale con un attacco aereo.

Bombardare i data center: questa è la mentalità dei puri asceti della tecnologia. Il mondo dei puri asceti è quello in cui si prende un martello e si distrugge il proprio smartphone, si vende il proprio laptop, si disconnette Internet per sempre e si cercano altre persone che la pensano allo stesso modo. Forse le avete già trovate, grazie ai vostri anni trascorsi online nel mondo “cotto”. Vi unite a loro, costruite una comunità analogica, reale, e non toccherete mai più uno schermo. Crescete i vostri figli insegnando loro che la luce blu è pericolosa come la cocaina, e altrettanto deliziosa. Considerate gli Amish come vostri modelli. Create cose reali con le vostre mani; perseguite la natura, la verità e la bellezza. Conoscete tutte le barzellette migliori, perché avete dovuto lottare per raccontarle e sapete qual è il vero sapore del mondo reale.

L’asceta creudo capisce che sta combattendo una guerra spirituale e non commette mai l’errore da principiante di trattare la tecnologia come “neutra”. Il fronte di questa guerra si sta muovendo molto velocemente e molto, forse tutto, è in gioco. La techno-ascesi cruda immagina un mondo in cui la creazione di spazi non digitali è necessaria per la sopravvivenza e la sanità mentale dell’uomo. Se le cose andranno alla velocità prevista, potrebbe essere che molti di noi barbari attualmente cotti finiremo con una scelta binaria: diventare crudi o essere assorbiti dal technium.

Entrambi questi percorsi ascetici, quello crudo e quello cotto, sono costituiti da due semplici elementi: primo, tracciare una linea e dire “non oltre”; secondo, assicurarsi di passare tutte le tecnologie che si utilizzano attraverso un setaccio di giudizio critico. A cosa o a chi servono in definitiva? All’umanità o alla macchina? Alla natura o al tecnum? A Dio o al suo avversario? Tutto ciò che tocchiamo dovrebbe essere interrogato in questo modo. La differenza tra i due approcci sta semplicemente nel punto in cui viene tracciata la linea.

Arimane è nei templi. I monaci stanno abbracciando il tecnum, o vengono costruiti da esso. Le mura sono state abbattute e l’ora è tarda. L’ascesi tecnologica sembrerà alla maggior parte delle persone la via del pazzo: ingenua, paranoica, ridicola. Ma se avete letto fino a questo punto, probabilmente siete immuni a questo tipo di critiche. E se siete attenti ai sussurri del vento, al rumore che si avvicina, allora potete già sentire che qualcosa non va. Sta a tutti noi decidere cosa fare al riguardo.

Tradotto dall’inglese da Piero Cammerinesi per LiberoPensare

Fonte