COME SOPRAVVIVERE NEL XXI SECOLO
Tre sfide per la nostra specie
Mentre prende avvio la terza decade del XXI secolo, l’umanità si trova ad affrontare tanti problemi e tante domande, che è davvero difficile decidere su cosa concentrarsi. Tenterò comunque di dare un contributo.
Tre problemi pongono sfide esistenziali alla nostra specie.
Di queste, la guerra nucleare e il collasso ecologico sono minacce già note, quindi lasciate che dedichi un po’ di tempo alla minaccia che ci è meno familiare e che è rappresentata dallo sconvolgimento tecnologico.
A Davos sentiamo tanto parlare delle enormi promesse della tecnologia – e queste promesse sono certamente reali. Ma la tecnologia potrebbe anche sconvolgere la società umana e il significato stesso di vita umana in molti modi, che vanno dalla creazione di una classe globale inutile all’ascesa del colonialismo dei dati e delle dittature digitali.
Innanzitutto, potremmo trovarci ad affrontare sconvolgimenti a livello sociale ed economico.
Coloro che falliranno nella lotta contro l’irrilevanza potrebbero andare a costituire una nuova “classe inutile” – persone che sono inutili non per i loro amici e familiari, ma inutili dal punto di vista del sistema economico e politico. E si creerà un divario sempre più profondo tra questa classe inutile e un’ élite sempre più potente.
La rivoluzione dell’Intelligenza Artificiale, IA, potrebbe creare disuguaglianze senza precedenti non solo tra classi ma anche tra Paesi.
Nel XIX secolo, alcuni Paesi come la Gran Bretagna e il Giappone si sono industrializzati per primi, e hanno continuato a conquistare e sfruttare la maggior parte del mondo. Se non stiamo attenti, la stessa cosa accadrà nel XXI secolo con l’IA.
Siamo già nel bel mezzo di una corsa agli armamenti dell’ intelligenza artificiale, con la Cina e gli Stati Uniti al comando della corsa e la maggior parte degli altri Paesi rimasti molto indietro. A meno che non si prendano provvedimenti per distribuire i benefici e il potere dell’IA tra tutti gli umani, l’IA creerà probabilmente un’immensa ricchezza in alcuni hub ad alta tecnologia, mentre altri Paesi falliranno o diventeranno colonie sfruttate di dati.
Non stiamo parlando di uno scenario da fantascienza, di robot che si ribellano contro gli umani. Stiamo parlando di un’intelligenza artificiale molto più primitiva, che è comunque sufficiente per sconvolgere l’equilibrio globale.
Basti pensare che cosa accadrà alle economie in via di sviluppo una volta che sarà più economico produrre tessuti o automobili in California che in Messico? E cosa succederà alla politica nel tuo Paese tra vent’anni, quando qualcuno a San Francisco o a Pechino conoscerà l’intera storia medica e personale di ogni politico, di ogni giudice e di ogni giornalista del tuo Paese, comprese tutte le loro fughe sessuali, tutte le loro debolezze mentali e tutti i loro rapporti corrotti? Sarà ancora un Paese indipendente o diventerà una colonia di dati?
Quando hai abbastanza dati non è necessario inviare soldati per controllare un Paese.
Oltre alla disuguaglianza, l’altro grande pericolo che affrontiamo è l’ascesa delle dittature digitali, che monitoreranno tutti continuamente.
L’automazione eliminerà presto milioni e milioni di posti di lavoro e, mentre verranno sicuramente creati nuovi posti di lavoro, non è chiaro se le persone saranno in grado di apprendere abbastanza velocemente le nuove competenze necessarie. Supponiamo di essere un camionista di cinquant’anni e di aver perso il lavoro a causa di un automezzo a guida autonoma. Ora ci sono nuovi lavori nella progettazione di software o nell’insegnamento dello yoga agli ingegneri – ma come fa un camionista di cinquant’anni a reinventarsi come ingegnere del software o insegnante di yoga? E le persone dovranno farlo non solo una volta ma più e più volte per tutta la vita, perché la rivoluzione dell’automazione non sarà un singolo evento spartiacque dopo di che il mercato del lavoro si stabilizzerà in un nuovo equilibrio. Sarà piuttosto una sequenza di sconvolgimenti sempre più grandi, perché l’IA non è affatto vicina alla realizzazione di tutte le sue potenzialità.
Questo pericolo può essere espresso sotto forma di una semplice equazione
Un’equazione che penso possa essere l’equazione che definisce la vita nel XXI secolo:
B x C x D = AHH!
Che significa? La conoscenza Biologica moltiplicata per la potenza di Calcolo moltiplicata per i Dati equivale alla capacità di hackerare l’uomo (AHH = Ability to Hack Humans).
Se conoscete abbastanza biologia e avete abbastanza potenza di calcolo e dati, potete hackerare il mio corpo, il mio cervello e la mia vita e potete capirmi meglio di quanto io stesso mi capisca. Potete conoscere il mio tipo di personalità, le mie opinioni politiche, le mie preferenze sessuali, le mie debolezze mentali, le mie paure e le mie speranze più profonde. Sapete di me più di quanto io sappia di me stesso. E potete farlo non solo per me, ma per tutti.
Un sistema che ci comprende meglio di quanto noi comprendiamo noi stessi, che può prevedere i nostri sentimenti e le nostre decisioni, che può manipolare i nostri sentimenti e le nostre decisioni e alla fine può decidere per noi.
Ora in passato molti governi e tiranni avrebbero voluto farlo, ma nessuno possedeva sufficienti conoscenze di biologia, abbastanza potenza di calcolo e dati sufficienti per hackerare milioni di persone. Né la Gestapo né il KGB potevano farlo. Ma presto almeno alcune società e alcuni governi saranno in grado di hackerare sistematicamente tutte le persone. Noi umani dovremo abituarci all’idea che non siamo più anime misteriose – ora siamo animali hackerabili. Questo è quello che siamo.
Il potere di hackerare gli esseri umani può essere utilizzato per scopi buoni, come fornire assistenza sanitaria molto migliore. Ma se questo potere cadrà nelle mani di uno Stalin del XXI secolo, il risultato sarà il peggior regime totalitario della storia umana. E abbiamo già un certo numero di candidati a svolgere il lavoro di Stalin nel XXI secolo.
Immaginate la Corea del Nord tra vent’anni, quando tutti dovranno indossare un braccialetto biometrico che monitorerà costantemente la pressione sanguigna, la frequenza cardiaca, l’attività cerebrale 24 ore su 24. Ascoltate un discorso alla radio del grande leader e loro sapranno cosa provate in quel momento. Potrete battere le mani e sorridere, ma se siete arrabbiato dentro, loro lo sapranno, e un giorno vi troverete nel gulag.
E se permetteremo l’emergere di tali regimi di sorveglianza totale, non pensate che i ricchi e i potenti che si trovano in luoghi come Davos saranno al sicuro, basta chiedere a Jeff Bezos. Nell’URSS di Stalin, lo stato monitorava i membri dell’élite comunista più di chiunque altro. Lo stesso vale per i futuri regimi di sorveglianza totale. Più in alto si è nella gerarchia, più si sarà sorvegliati a vista.
Volete che il vostro CEO o il vostro presidente sappiano cosa pensate veramente di loro?
Quindi è nell’interesse di tutti gli umani, comprese le élite, impedire l’ascesa di tali dittature digitali. E nel frattempo, se ricevete un messaggio sospetto su WhatsApp, da qualche Prince, non apritelo.
Ora, anche se impedissimo l’istituzione di dittature digitali, la capacità di hackerare gli esseri umani potrebbe comunque minare il significato stesso della libertà umana. Infatti, dal momento che gli umani si affideranno sempre più all’IA per prendere decisioni, l’autorità si sposterà dagli umani agli algoritmi, e questo sta già accadendo.
Già oggi miliardi di persone si affidano all’algoritmo di Facebook che ci dice le novità, all’algoritmo di Google che ci dice ciò che è vero, a Netflix che ci dice cosa guardare e agli algoritmi di Amazon e Alibaba che ci dicono cosa comprare.
In un futuro non così lontano, algoritmi simili potrebbero dirci dove lavorare e chi sposare, e anche decidere se possiamo essere assunti o avere un prestito e se la banca centrale aumenterà il tasso di interesse.
E se chiederete perché non vi è stato concesso un prestito e perché la banca non ha aumentato il tasso di interesse, la risposta sarà sempre la stessa, perché il computer dice di no. E poiché il limitato cervello umano non ha né sufficienti conoscenze biologiche, né sufficiente potenza di calcolo né dati sufficienti, gli umani non saranno in grado di comprendere le decisioni del computer.
Quindi, anche in Paesi presumibilmente liberi, è probabile che gli umani perdano il controllo della propria vita e perdano anche la capacità di comprendere le politiche pubbliche.
Già ora quanti umani comprendono il sistema finanziario? Forse siamo molto generosi a dire l’uno per cento. Tra un paio di decenni, il numero di umani in grado di comprendere il sistema finanziario sarà esattamente uguale a zero.
Che vita sarà quando le decisioni saranno prese dagli algoritmi?
Ora noi umani siamo abituati a pensare alla vita come a un dramma decisionale. Quale sarà il significato della vita umana, quando la maggior parte delle decisioni saranno prese da algoritmi? Non abbiamo nemmeno modelli filosofici per comprendere una tale esistenza.
Di solito la questione tra filosofi e politici è che i filosofi hanno molte idee fantasiose, e i politici sostanzialmente spiegano che mancano i mezzi per implementarle. Ora siamo in una situazione opposta. Siamo di fronte al fallimento della filosofia.
La doppia rivoluzione di infotech e biotech sta dando ai politici i mezzi per creare il paradiso o l’inferno, ma i filosofi hanno difficoltà a concettualizzare come appariranno il nuovo paradiso e il nuovo inferno. E questa è una situazione molto pericolosa.
Se non riusciremo a concettualizzare il nuovo paradiso abbastanza rapidamente, potremo essere facilmente fuorviati da ingenue utopie. E se non riusciremo a concettualizzare il nuovo inferno abbastanza rapidamente, ci potremo trovare intrappolati dentro senza via d’uscita.
Infine, la tecnologia potrebbe sconvolgere non solo la nostra economia, la nostra politica e la nostra filosofia – ma anche la nostra biologia.
Nei prossimi decenni, l’IA e la biotecnologia ci daranno capacità divine per riprogrammare la vita e persino per creare forme di vita completamente nuove. Dopo quattro miliardi di anni di vita organica plasmati dalla selezione naturale, stiamo per entrare in una nuova era di vita inorganica plasmata dal design intelligente.
Il nostro design intelligente sarà la nuova forza trainante dell’evoluzione della vita e nell’usare i nostri nuovi poteri divini della creazione potremo commettere errori su scala cosmica. In particolare, i governi, le corporazioni e gli eserciti probabilmente useranno la tecnologia per migliorare le capacità umane di cui hanno bisogno – come l’intelligenza e la disciplina – trascurando altre capacità umane – come la compassione, la sensibilità artistica e la spiritualità.
Il risultato potrebbe essere una razza di esseri umani che sono molto intelligenti e molto disciplinati ma privi di compassione, carenti di sensibilità artistiche e senza profondità spirituale. Certo, questa non è una profezia. Queste sono solo possibilità.
La tecnologia non è deterministica
Nel XX secolo, la stessa tecnologia industriale è stata usata per costruire tipi di società molto diversi: dittature fasciste, regimi comunisti, democrazie liberali. La stessa cosa accadrà nel XXI secolo.
L’intelligenza artificiale e la biotecnologia trasformeranno sicuramente il mondo, ma potremo usarle per creare tipi molto diversi di società. E se avete paura di alcune delle possibilità che ho citato, potete ancora fare qualcosa. Ma per fare qualcosa di efficace, c’é bisogno di cooperazione globale.
Le tre sfide esistenziali sono problemi globali che richiedono soluzioni globali
Ogni volta che un leader dice qualcosa come “My Country First!” (“Prima il mio Paese”) dovremmo ricordare a quel leader che nessuna nazione può impedire la guerra nucleare o fermare il collasso ecologico da sola, e nessuna nazione può regolare da sola l’Intelligenza Artificiale e la bioingegneria.
Quasi tutti i Paesi diranno: “Ehi, guarda che non vogliamo sviluppare robot killer o ingegnerizzare geneticamente bambini. Siamo bravi ragazzi. Ma non possiamo fidarci dei nostri rivali. Quindi dobbiamo farlo prima noi ”.
Se permettiamo che una simile corsa alle armi si sviluppi in campi come l’IA e la bioingegneria, non importa davvero chi vincerà la corsa: il perdente sarà l’umanità.
Sfortunatamente, proprio quando la cooperazione globale è più necessaria che mai, alcuni dei leader e dei Paesi più potenti del mondo stanno minando deliberatamente la cooperazione globale. Leader come il presidente degli Stati Uniti ci dicono che esiste una contraddizione intrinseca tra nazionalismo e globalismo e che dovremmo scegliere il nazionalismo e rifiutare il globalismo. Ma questo è un errore pericoloso.
Non c’è contraddizione tra nazionalismo e globalismo
Non c’è contraddizione tra nazionalismo e globalismo. Perché nazionalismo non vuol dire odiare gli stranieri. Il nazionalismo consiste nell’amare i tuoi compatrioti. E nel XXI secolo, per proteggere la sicurezza e il futuro dei tuoi connazionali, devi cooperare con gli stranieri.
Quindi nel XXI secolo, i buoni nazionalisti devono essere anche globalisti. Ora il globalismo non significa istituire un governo globale, abbandonare tutte le tradizioni nazionali o aprire il confine all’immigrazione illimitata. Piuttosto, il globalismo significa un impegno per alcune regole globali.
Regole che non negano l’unicità di ogni nazione, ma regolano solo i rapporti tra le nazioni.
E un buon modello è la Coppa del mondo di calcio
La Coppa del Mondo è una competizione tra nazioni e le persone spesso fanno un gran tifo per la propria squadra nazionale. Ma allo stesso tempo la Coppa del Mondo è anche una straordinaria dimostrazione di armonia globale. La Francia non può giocare a calcio contro la Croazia se i francesi e i croati non concordano le stesse regole per la partita.
E questo è il globalismo in azione.
Se vi piacciono i Mondiali, siete già un globalisti.
Ora, ci si augura che le nazioni possano mettersi d’accordo su regole globali non solo per il calcio, ma anche per prevenire il collasso ecologico, regolare le tecnologie pericolose e ridurre la disuguaglianza globale. Come assicurarsi, ad esempio, che l’intelligenza artificiale avvantaggi i lavoratori tessili messicani e non solo gli ingegneri americani del software? Ovviamente, tutto questo sarà molto più difficile del calcio, ma non impossibile, perché l’impossibile l’abbiamo già realizzato.
La rottura della legge della giungla
Siamo già fuggiti dalla giungla violenta in cui noi umani abbiamo vissuto nel corso della storia. Per migliaia di anni, gli umani hanno vissuto sotto la legge della giungla in una condizione di guerra onnipresente. La legge della giungla diceva che per ogni due Paesi vicini c’era uno scenario plausibile che si sarebbero scontrati nel giro di un anno. Secondo questa legge, la pace significava solo “l’assenza temporanea di guerra”.
Quando c’era “pace” tra – diciamo – Atene e Sparta, o Francia e Germania, significava che in quel momento non erano in guerra, ma l’anno dopo avrebbero potuto esserlo. E per migliaia di anni, la gente ha pensato che fosse impossibile sfuggire a questa legge.
Ma negli ultimi decenni, l’umanità è riuscita a fare l’impossibile, infrangere la legge e sfuggire alla giungla. Abbiamo costruito l’ordine globale liberale basato sulle regole, che nonostante molte imperfezioni, ha tuttavia creato l’era più prospera e più pacifica della storia umana.
Oggi il quadro globale è di “pace”
“Pace” non significa più solo temporanea assenza di guerra. Pace ora significa l’implausibilità della guerra.
Ci sono molti Paesi per i quali è semplicemente impossibile immaginare che possano dichiararsi la guerra, come Francia e Germania. Ci sono ancora guerre in alcune parti del mondo. Vengo dal Medio Oriente, quindi credetemi, lo so perfettamente. Ma questo non dovrebbe renderci ciechi di fronte al quadro globale generale.
Ora viviamo in un mondo in cui la guerra uccide meno persone del suicidio e la polvere da sparo è molto meno pericolosa per la nostra vita dello zucchero. La maggior parte dei Paesi – con alcune notevoli eccezioni come la Russia – non immagina nemmeno poter conquistare e annettere i propri vicini. Questo è il motivo per cui la maggior parte dei Paesi può permettersi di spendere forse solo circa il due percento del proprio PIL per la difesa, spendendo molto, molto di più in istruzione e assistenza sanitaria. Questa non è una giungla.
Potremo ritrovarci nella giungla della guerra permanente
Sfortunatamente, ci siamo abituati talmente tanto a questa meravigliosa situazione, che la diamo per scontata, e quindi stiamo diventando estremamente disattenti. Invece di fare tutto il possibile per rafforzare il fragile ordine globale, i Paesi lo trascurano e addirittura lo minano deliberatamente.
L’ordine globale è ora come una casa in cui tutti abitano e nessuno ripara. Può resistere ancora per qualche anno, ma se continuiamo così, crollerà – e ci ritroveremo nella giungla della guerra onnipresente.
Abbiamo dimenticato cosa vuol dire, ma credetemi come storico: non vorreste tornare a quel punto. È molto, molto peggio di quanto immaginiate.
Sì, la nostra specie si è evoluta in quella giungla e vi è vissuta e ha persino prosperato per migliaia di anni, ma se ora torneremo a quella situazione, con le potenti nuove tecnologie del XXI secolo, la nostra specie probabilmente ne sarà annichilita.
Certo, anche se scompariremo, non sarà la fine del mondo. Qualcosa ci sopravviverà. Forse i topi finiranno per prendere il controllo e ricostruire la civiltà. Forse, quindi, i topi impareranno dai nostri errori.
Ma spero vivamente che possiamo contare sui leader qui riuniti e non sui ratti.
Grazie