Incoscienza digitale: La risposta alla rivoluzione digitale, tra innovazione, sorveglianza e postdemocrazia

Di Michele Petrocelli

Affidiamo alle macchine sempre più informazioni che ci riguardano, ma siamo davvero consapevoli dell’impatto che questo processo sta avendo sulle nostre vite?

“Un testo poderoso [...] una sorta di summa dell'era digitale e un viaggio dentro la nostra coscienza”. Giancristiano Desiderio (Corriere della Sera)

“Petrocelli non si limita ad analizzare in maniera approfondita le problematiche della rivoluzione digitale, ma propone altresì  le soluzioni”. Vittorio Feltri (Libero)

"Quello di Petrocelli non è il volume di uno dei tanti opinionisti televisivi, ma il frutto di anni di studio e di ricerca [...]  Tra apocalittici e integrati, lo studioso individua  una terza possibile strada, quella della conoscenza”. Paolo Romano (Il Quotidiano del Sud)

Michele Petrocelli ha un’esperienza ventennale come Professore presso l’Università “Guglielmo Marconi” di Roma nelle materie di Economia Politica, Economia Monetaria, Strategia, gestione e sviluppo dell’Innovazione ed Economia e Organizzazione Aziendale. Presso l’Università è inoltre Direttore del Master in Marketing Management e del Corso avanzato di Soft Skills.  L’interesse per la formazione inclusiva e partecipativa lo porta a progettare da anni strumenti innovativi (videolezioni interattive, percorsi di auto-consapevolezza, simulazioni e laboratori di gamification) volti allo sviluppo di competenze tecniche e professionali. Nel suo lavoro di ricerca si occupa degli impatti che la Quarta Rivoluzione Industriale creata dalla trasformazione digitale in atto crea nell’economia e nella società. Tra i libri più noti “Coesione sociale, etica e competitività: il ruolo del sistema sociale nelle dinamiche competitive all’interno dei sistemi economici e nell’economia globale”, (2011) e “Il labirinto clientelare: la crisi di sistema dell’economia italiana” (2008).

• Lingua: Italiano
• Editore: Lastaria Edizioni
• Data di uscita: 29 set 2022
• ISBN: 9791280660305

Anteprima del libro

incoscienza-dig_cop_148x200-revgiu.jpg

© Lastarìa Edizioni srls, 2022

Tutti i diritti riservati

Lastarìa Edizioni

Viale Libia 167 - 00199 Roma

[e-mail]

www.lastaria.it

I Edizione: settembre 2022

Isbn: 9791280660244

Finito di stampare nel mese di settembre 2022

presso Rotomail Italia S.p.A. - Vignate (MI)

Distribuzione per le librerie Messaggerie Libri

Alle mie figlie, che ogni giorno mi raccontano una pagina di futuro

Introduzione

Siamo nel pieno di una rivoluzione industriale, basata sulla digitalizzazione del mondo e lo sviluppo rapidissimo dell’intelligenza artificiale. Un processo accelerato dalla crisi pandemica che, nel momento in cui scrivo, non è ancora superata.

La tecnologia sta velocemente trasformando la nostra vita, la società in cui viviamo, il mercato, il mondo del lavoro. I nostri modelli relazionali e le nostre istituzioni stanno entrando in crisi con una velocità senza precedenti ed il futuro appare nebuloso, per alcuni versi pericoloso.

Questo lavoro rappresenta il primo risultato di un percorso di ricerca volto ad intercettare, in modo sistematico, questo processo di trasformazione, evidenziandone le principali dimensioni e prospettive, in un’ottica complessiva, analizzando gli effetti trasversali della rivoluzione industriale in atto, enfatizzandone i rischi e cercando possibili azioni per renderla sostenibile.

Come tutte le innovazioni tecnologiche, in potenza, anche quella che ci riguarda avrebbe una capacità liberatoria per gli individui e le società. La produttività aumenta in modo consistente, si riduce lo sforzo nello svolgimento di molte attività pesanti o routinarie. Si libera il tempo, che può essere dedicato alla creatività, all’arte, all’innovazione. Abbiamo potenzialmente un accesso all’informazione libero e senza limiti. Possiamo essere vicini a persone lontanissime geograficamente, condividendo la nostra quotidianità in modo incredibile. Grazie ai big data possiamo comprendere, studiare e analizzare i fenomeni naturali, biologici e sociali come mai in precedenza. Persino noi stessi.

Purtroppo, però, quello a cui stiamo assistendo è molto diverso. Al di là del potenziale della tecnologia, come sappiamo, è il suo utilizzo che ne determina i risultati. Infatti, contrariamente a quello che potremmo auspicare, la trasformazione tecnologica sta creando una polarizzazione delle opportunità e della ricchezza, perdita di posti di lavoro, diffusione di fake news e teorie senza fondamento, manipolazione economica, politica e sociale, incertezza, decisioni individuali meno razionali ed emotivamente manovrabili ed incapacità generalizzata di assumere consapevolezza verso questo processo di trasformazione che la maggioranza delle persone sta semplicemente subendo, senza potervi o sapervi partecipare.

L’ascesa degli algoritmi non solo sta indirizzando le nostre vite, ma ci sta anche portando verso il consolidamento di un nuovo modello di business che si fonda sull’acquisizione sistematica di moltissime informazioni comportamentali, non tanto finalizzata a generare valore per le stesse persone, ma, soprattutto, per consentire a terze parti di acquisire valore, vendendo i propri prodotti od ottenendo vantaggi senza che gli interessati possano accorgersene o reagire in modo efficace. Il successo di questo modello di business ha cambiato il mondo e ha amplificato l’esigenza (delle imprese) di digitalizzare le esperienze individuali in tutti gli ambiti della propria vita, al fine di acquisire informazioni dalle persone per indirizzarne il comportamento, il pensiero e lo stato emotivo. Lo stesso processo sta mettendo in crisi le fondamenta stesse della democrazia liberale, vista la capacità di indirizzare le scelte, parallelamente alla sistematica polarizzazione delle opinioni e delle idee, conseguenza delle dinamiche delle relazioni sociali, sempre più mediate dai social network e dai motori di ricerca, dove gli individui traggono buona parte dei contenuti e delle esperienze alla base delle proprie decisioni.

La rivoluzione in atto sta anche trasformando il mondo del lavoro, aumentando l’obsolescenza delle competenze e delle professioni. Le macchine tendono a sostituire via via l’uomo non solo in attività ripetitive ma anche in processi di analisi e talvolta decisionali, mentre vengono valorizzate le competenze connesse con la creatività, il pensiero laterale, la capacità empatica, relazionale e comunicativa. Ma le organizzazioni ed i sistemi scolastici non favoriscono l’emergere di queste competenze anzi, piuttosto, finiscono per distruggere valore, ostinandosi a replicare modelli che conoscono, ma che nel nuovo contesto sono, semplicemente, sbagliati.

Anche per questo, si assiste ad un’altra polarizzazione, di tipo sociale ed economico. La classe media si sta spaccando e solo pochi riusciranno a godere degli ampi vantaggi in termini di opportunità, di redditi e di ricchezze che la nuova rivoluzione sta creando, mentre un’ampia parte rischia di uscire dal mondo produttivo e finire al margine di quello sociale. Come vedremo gli economisti sono divisi sulla portata del fenomeno della disoccupazione tecnologica associata al nuovo scenario, ma sicuramente il contesto è del tutto nuovo, il livello di skill gap sempre più importante e l’idea stessa di lavoro profondamente trasformata. La rapidità della trasformazione non permette al sistema di adeguarsi velocemente e ne fanno le spese le parti più deboli della società. Anche la partecipazione del lavoro femminile potrà probabilmente risentirne, considerando la scarsa presenza delle donne nelle professioni legate al computing, alla tecnologia, all’intelligenza artificiale oltre che ai vertici economici e politici. Assenza riconducibile alla dimensione culturale che probabilmente rappresenta anche la principale causa alla base del gender gap, come avremo modo di accennare.

Questo libro tenta di essere una mappa o almeno un insieme di appunti di viaggio in questa tempesta, affrontando una lettura dinamica dei fenomeni, volendo fornire una chiave di lettura sistematica e strutturata anche se di un evento ancora in pieno svolgimento.

La prima parte del libro si occupa di raccontare gli impatti del nuovo paradigma tecnologico sulla nostra vita, sul sistema sociale ed economico, analizzando i rischi e le opportunità che si incontrano. Si affronteranno i rischi della tenuta della democrazia liberale e le prospettive del futuro del lavoro e del lavoro del futuro, costruito attorno a nuove competenze, capacità e a un nuovo tipo di motivazione.

Nella seconda parte si entrerà poi nel merito del processo di pensiero e di creatività delle persone, per definire quali siano le modalità per generare e presidiare questi processi. Si analizzeranno anche gli elementi alla base della fallacia del pensiero, i diversi bias ed il rumore a cui siamo inconsapevolmente esposti e che vengono utilizzati anche per indirizzare il nostro comportamento, le nostre percezioni, il nostro pensiero. Eppure, se ne avessimo consapevolezza, la stessa tecnologia che oggi è usata per indirizzarci potrebbe essere utilizzata per correggere questi elementi e renderci decisori migliori, più razionali e felici. Se non ci conosciamo e non sappiamo dove vogliamo andare, sarà qualcun altro, anche sfruttando la tecnologia, a decidere dove condurci.

Nella terza parte, poi, si entrerà nella dimensione dei sistemi e delle istituzioni. Innanzitutto analizzeremo il ruolo dell’innovazione e dell’etica nella competitività dei sistemi economici. Poi si cercherà di fornire qualche spunto per aiutare a costruire la smart organization, ripensando completamente il sistema organizzativo e di gestione delle risorse umane, la cultura di impresa e lo stile di leadership.

Infine nell’ultimo capitolo, il più importante, si discuterà su come sia necessario rifondare il sistema scolastico per creare una nuova generazione finalmente capace di sviluppare le competenze necessarie per affrontare la complessità del mondo del lavoro, ma anche per fronteggiare l’incertezza e la trasformazione continua in cui viviamo, e, infine, capace di ricostruire attorno a nuovi paradigmi il sistema sociale e democratico, sanando in modo creativo i tanti problemi che la visione attuale non riesce più a sostenere.

Buon viaggio.

PARTE PRIMA

LA QUARTA RIVOLUZIONE INDUSTRIALE

TRA NARRAZIONE E (DIS)ILLUSIONE

Capitolo 1

La quarta rivoluzione industriale nella nostra vita

1.1 Quando tutto ha inizio

Le macchine e l’uomo. La nuova rivoluzione industriale, quella che presenta la nuova era delle macchine, può avere tanti momenti di inizio. La data di nascita che più mi piace citare è quella proposta da Erik Brynjolfsson¹ (per quella che chiama New Machine Age). Si tratta del 10 febbraio 1996, il luogo è Philadelphia. Succede che il campione di scacchi Kasparov viene sconfitto dal computer IBM-Deep Blue. Per la prima volta le macchine sono più brave dell’uomo in quello che era considerato il giardino del pensiero e della creatività umana: il gioco degli scacchi.

Ma c’è una data più recente che misura l’evoluzione del rapporto tra macchine e persone: il 7 dicembre 2017. Ancora una partita a scacchi, questa volta tra due computer. Da una parte il campione del mondo: Stockfish 8, un computer che si è allenato a giocare a scacchi per 9 anni. Riesce a calcolare 70 miliardi di posizioni al secondo. Nel suo database ha accesso a secoli di partite di scacchi tra esseri umani e decenni di computer. Conosce tutte le strategie note e tutte le partite di cui si ha traccia. Si confronta con l’algoritmo AlphaZero di Google che invece si è allenato per appena 9 ore, giocando con sé stesso senza nessuna assistenza. Riesce a calcolare solo 80 mila posizioni al secondo. Non conosce strategie, tattiche, partite precedenti, solo le regole del gioco. Eppure, AlphaZero di Google batte clamorosamente il suo rivale più potente. È la prospettiva del machine learning, quando una macchina per imparare non ha bisogno dell’uomo, della sua storia, del passato. Può velocemente creare la sua base dati giocando con sé stesso. Ha potuto generare aperture e mosse inaspettate, mai tentate prima, verso un nuovo concetto di creatività, per quello che questa parola può significare per una macchina, ovviamente.

È questo il contesto che, come vedremo, sta per dominare il mondo, cambiando tutti i paradigmi con cui siamo soliti confrontarci.

1.2 La quarta rivoluzione industriale

Le rivoluzioni industriali sono alcuni particolari momenti della storia in cui, a seguito di un cambiamento tecnologico, il sistema economico e sociale (di una parte) del mondo si è trasformato in modo decisivo, accelerando in modo esponenziale la capacità di produzione e, conseguentemente, stravolgendo gli equilibri sociali. Ne contiamo quattro, ma ovviamente è una convenzione.

La prima rivoluzione industriale è datata tra il 1780 ed il 1830 ed è la rivoluzione del vapore. La produzione industriale, ma soprattutto la mobilità sono i vettori di questa trasformazione, in seguito alla quale l’industria conquisterà il suo primato tra le attività umane, superando l’agricoltura.

La seconda rivoluzione industriale è datata 1870 e introduce la catena di montaggio, mentre la forza propulsiva che la determina è l’energia elettrica. Il sapere degli artigiani è codificato, le macchine possono svolgere molti lavori e la parcellizzazione delle attività trasforma il lavoro umano di massa in mera esecuzione di compiti elementari. È il tempo della grande urbanizzazione che porta ingenti masse di persone a spostarsi verso le città dalle campagne, creando terreno fertile per la nascita della classe operaia come soggetto politico, con le conseguenti tensioni nella politica industriale e le spinte sociali riformiste.

La terza rivoluzione industriale è datata negli ultimi decenni del 1900 ed è quella dell’elettronica. È l’era dei computer, dei programmi che riescono a svolgere funzioni anche molto complesse, prima demandate alle persone. È anche quella in cui nascono le reti globali, e definisce un nuovo sentiero dell’evoluzione tecnologica: spostare e condividere i dati, anziché le persone. I dati, cioè, iniziano ad essere la vera fonte di valore. Le telecomunicazioni evolvono e cambiamo completamente il nostro modo di lavorare, di relazionarci, di confrontarci.

E poi arriva la quarta rivoluzione industriale. Sono ancora le macchine protagoniste, e ancora una volta cambiano completamente il modo di lavorare. È la rivoluzione dell’integrazione delle macchine, dell’intelligenza artificiale capace di apprendere. È l’era della digitalizzazione. Digitalizzare significa convertire una grandezza o un fenomeno fisico in numeri o simboli (per es. i computer usano il sistema binario). È in generale il nostro processo di codificazione del mondo. In sé il processo non è nuovo, ma ora è impressionante la dimensione di quello che abbiamo digitalizzato e la rapidità con cui possiamo aumentare questo processo (per questo si parla di big data). Nell’era della quarta rivoluzione industriale i dati sono definitivamente il terreno di conquista, il valore economico e lo strumento di potere più importante che si possa detenere, perché, grazie alla capacità di calcolo cui siamo arrivati ed al ritmo esponenziale della sua crescita², si è in grado, come mai prima, di analizzare, comprendere e dominare il mondo reale mediante la sua rappresentazione simbolica.

Possiamo citare come Klaus Schwab sintetizza il processo che ha portato dalla prima alla quarta rivoluzione industriale, caratterizzando quest’ultima come rivoluzione digitale:

La prima rivoluzione industriale ha usato l’acqua e la forza del vapore per meccanizzare la produzione. La seconda ha usato l’energia elettrica per creare la produzione di massa. La terza ha usato l’elettronica e l’information technology per automatizzare la prodizione. La quarta rivoluzione industriale sta costruendo, sulla terza, la rivoluzione digitale, iniziata a metà del secolo scorso. È caratterizzata da una fusione di tecnologie che sta rendendo sfocati i confini tra le sfere fisiche, digitali e biologiche. Ci sono tre ragioni per cui le trasformazioni a cui assistiamo oggi non sono da considerarsi una prosecuzione della terza rivoluzione industriale, ma l’arrivo di una Quarta distinta rivoluzione: velocità, contenuto, e impatto sui sistemi³.

Normalmente decliniamo la quarta rivoluzione industriale in diverse dimensioni, ne cito alcune, solo per dare un’idea di cosa stiamo parlando:

1. soluzioni interconnesse nella produzione manufatturiera, cioè robot interconnessi facilmente e rapidamente programmabili;

2. la produzione additiva o decentralizzata: stampanti 3D connesse a software di sviluppo digitale;

3. realtà aumentata a supporto dei processi produttivi;

4. simulazione tra macchine interconnesse che riescono così a ridefinire procedure e rendere più efficienti i processi produttivi;

5. integrazione verticale ed orizzontale lungo la catena del valore che consente di condividere informazioni tra il cliente ed i fornitori;

6. l’Industrial internet che consente la comunicazione multidirezionale tra processi produttivi e prodotti;

7. cloud: che consente la gestione di elevate quantità di dati su sistemi aperti;

8. Big Data Analytics: la possibilità di analizzare un numero elevatissimo di dati per ottimizzare esperienze, prodotti, processi produttivi;

9. Cyber-security durante tutte le operazioni sulla rete e sui sistemi aperti.

Ma il tema veramente dirompente, come osservato da Klaus Schwab è la capacità integrativa dei processi attivati dalla quarta rivoluzione industriale e la sua dimensione inclusiva, capace di far interagire e sovrapporre aree finora ritenute diverse e distanti, come la dimensione digitale, quella fisica e, soprattutto, quella biologica. Come vedremo l’impatto più dirompente di questo nuovo paradigma viene proprio dalla sua capacità di estendersi alle biotecnologie.

Nella vita quotidiana pensiamo alla fabbrica intelligente, a robot versatili che imparano a relazionarsi con l’ambiente e a coordinare i movimenti, a droni che consentono di effettuare consegne in luoghi inaccessibili mediante comandi a distanza e capacità di autoregolamentazione nel volo, a magazzini completamente automatizzati dove robot accatastano e recuperano merci, sfruttando al massimo lo spazio e garantendo sicurezza, a produzioni completamente personalizzate che nascono da programmi che analizzano le informazioni disponibili e massimizzano l’efficienza nei campi della progettazione, produzione, logistica integrata, ecc.

Ma il mondo 4.0 non è solo industria, riguarda e coinvolge tutte le professioni. Pensiamo alla finanza, ormai dominata da algoritmi che determinano le transazioni e interagiscono con altri algoritmi. In Gran Bretagna esiste da un po’ un’app (Do not pay) che può sostituire gli avvocati nella redazione di moltissimi atti giudiziali con risparmio di tempo e denaro per i clienti. Anche la medicina è completamente trasformata, dove le macchine non solo possono intervenire in modo assolutamente preciso e microscopico meglio dei chirurghi più esperti, ma risultare massimamente efficaci anche nella diagnosi grazie al machine learning⁴. Naturalmente abbiano esperienze evidenti di come la tecnologia entra nella nostra vita anche intercettando ed interpretando i nostri gusti e comportamenti, guidandoci per le strade di città sconosciute, ricercando e proponendoci notizie e informazioni.

Rispetto alla terza rivoluzione industriale, dove le macchine sostanzialmente eseguivano programmi predefiniti, in qualche modo replicando, anche se in modo molto più potente e rapido, operazioni umane, nella quarta rivoluzione industriale, le macchine sono capaci di autoregolarsi, apprendere e sostituire l’uomo anche in processi decisionali complessi, purché possano basarsi su un numero adeguato di informazioni.

Naturalmente, e lo approfondiremo nei capitoli seguenti, ci sono spazi umani importanti dove gli algoritmi non arrivano. Pensiamo alla filosofia, all’etica, all’arte, ma anche alle relazioni, all’approfondimento e alla riflessione critica⁵.

1.3 La tecnologia e la nostra vita

La tecnologia del nuovo paradigma ha vantaggi innegabili per l’umanità. Aumenta la produttività in modo consistente e riduce la fatica nello svolgimento delle attività. I big data ci danno la possibilità di misurare i fenomeni come non era mai successo prima, con vantaggi evidenti sul piano della ricerca, delle diagnosi, dell’analisi delle informazioni, per decisioni potenzialmente più razionali, efficaci ed efficienti. L’accesso all’informazione è praticamente senza limiti, libero e non intermediato. Inoltre, la tecnologia può liberare gli uomini regalando loro tempo ed energie, favorendo la nascita di idee, il fiorire dell’arte, della cultura, dell’innovazione. La tecnologia, nella sua neutralità politica, ha comunque sempre una natura potenzialmente liberatoria dell’uomo. È chiaro che il suo utilizzo nell’ambito dei sistemi sociali ed economici può comportare esattamente l’opposto. E dunque l’aumento della produttività potrebbe ridurre l’occupazione e, conseguentemente, concentrare i vantaggi e le opportunità, marginalizzando chi non riesce ad inserirsi nel mondo del lavoro. Anche sul piano del consumo, la maggior conoscenza delle preferenze e dei comportamenti può essere usata per indirizzare gli acquisti, piuttosto che aiutare le persone nelle proprie scelte.

Con lo sviluppo dell’intelligenza artificiale la nostra vita viene ad essere impattata in modo elevato e, per certi versi, inconsapevolmente. Lo scopo dell’Intelligenza Artificiale è quello di sviluppare algoritmi che svolgano operazioni che richiedono cognizione come avviene per gli esseri umani. Lo fa memorizzando ed elaborando autonomamente una rappresentazione della conoscenza. A questo punto applica la conoscenza per risolvere problemi noti e, parallelamente, acquisisce nuova conoscenza e nuova capacità di rappresentazione mediante l’esperienza accumulata. La prima parte (la risoluzione dei problemi) è anche definito ragionamento automatico, il secondo ambito apprendimento automatico (o machine learning). Applicazioni note riguardano lo svolgimento di compiti utili, la sostituzione o l’affiancamento ai processi decisionali umani, il natural language system (che consente di riconoscere il linguaggio nelle sue formulazioni scritte e orali), la capacità di navigare e studiare i dati all’interno di database non necessariamente strutturati. Per funzionare questo sistema ha bisogno di tantissimi dati e di molteplici informazioni, che acquisisce sempre, continuamente.

In questo contesto, stiamo affidando agli algoritmi diversi processi decisionali, di fatto disabituandoci ad utilizzare le componenti cognitive che normalmente utilizziamo. Pensiamo ad esempio agli algoritmi di navigazione che ci consentono di muoverci anche in città che non conosciamo, evitare il traffico o raggiungere nel minor tempo possibile un luogo. L’utilizzo precoce e continuo di questi strumenti potrebbe nel tempo farci perdere la nostra capacità di orientamento spaziale, che rappresenta un elemento caratterizzante della nostra capacità cognitiva.

Chi ha una smart TV o usa software che propongono programmi televisivi o contenuti video o audio starà anche sperimentando come gli algoritmi imparano a conoscerci sempre meglio (anche di noi stessi), sappiano interpretare i nostri gusti ed i nostri sentimenti e ci aiutino (fino a sostituirci) nei processi decisionali nella scelta dei film o delle serie TV da vedere, o del brano audio più affine alle nostre preferenze. A questo si aggiunga come accanto allo sviluppo della tecnologia tradizionale, si stia affermando sempre di più uno sviluppo della ricerca in ambito biochimico e neurologico, oltre alla diffusione sempre più ampia di sensori biologici. L’unione di queste due aree di sviluppo, come si vedrà più avanti, comporterà una tale capacità di conoscenza e di indirizzamento degli algoritmi che potremmo delegare completamente le nostre decisioni.

Immaginate poi di partecipare a una riunione durante la quale siete costantemente analizzati da un software in grado di comprendere in tempo reale le vostre emozioni. È questo lo scenario offerto dalla Startup giapponese I am beside you, che ha presentato lo strumento durante il MobileWorldCongress, la più grande fiera mondiale della tecnologia mobile, tenutasi recentemente a Barcellona. L’idea di base è di utilizzare un sofisticato algoritmo capace di leggere e comprendere la comunicazione non verbale di chi partecipa ad una videocall, che attraverso un’analisi del tono della voce, delle espressioni facciali e del linguaggio del corpo, è in grado di stabilire l’emozione predominante, nonché le sue varie sfumature⁶. Anche altri si sarebbero lanciati su questo tema (pensando ad esempio a tecnologie in grado di tracciare i dati biometrici risultanti da movimenti oculari ed espressioni facciali mentre si è nel Metaverso, in modo da garantire più autenticità agli avatar).

Gli algoritmi posso raccontarci storie, o aiutarci ad iniziare a scriverle. Ad esempio NarrativeDevice, partendo dall’inserimento di due parole chiave è in grado di produrre l’inizio di una storia⁷. Lo strumento sfrutta un sistema di completamento testi, addestrato su tutto ciò che c’è sul web. L’ideatore di Narrative Device, Rodolfo Ocampo, un dottorando dell’Università di South Wales di Sidney (UNSW), si occupa di progettare sistemi di supporto alla creatività.

Gli algoritmi incidono anche sulla capacità di rappresentare la realtà, presupposto fondamentale per la definizione della propria coscienza.

In un articolo sul Guardian⁸, la giornalista britannica Carole Cadwalladr ha mostrato come la verità sia per molti di noi spesso definita (o almeno indirizzata) dal primo risultato della ricerca su Google, anzi, in molti casi, la nostra stessa ricerca è guidata dal completamento automatico. Da alcuni tentativi svolti dalla stessa giornalista, emerge come sia il completamento automatico, sia i relativi risultati, inducano a contenuti razzisti, violenti e alimentanti l’odio, mediante fake news. Una ricerca condotta da Jonathan Albright, Università di Elon in North Carolina, ha mostrato come vi sia una rete predeterminata che consente a questi contenuti, riferibili a gruppi di propaganda di destra, di alimentarsi e scalare le classifiche nei motori di ricerca. È stato creato un sistema di centinaia di siti differenti che hanno usato gli stessi trucchi utilizzati da tutti i siti internet: mandano migliaia di link ad altri siti, creando un sistema a stella che ha invaso completamente il complesso dei media. In questo senso vengono usati Facebook e gli altri social media come incubatori di virus informativi, che permettono a questi messaggi di espandersi velocemente ed inesorabilmente. Questo sistema permette, come fanno anche i contenuti commerciali, di giocare l’algoritmo di Google e proporsi ai primi posti, inducendo il ricercatore a cliccare sul contenuto, rafforzando, in modo ignaro, il suo posizionamento. Questo processo, definito dal ricercatore Micro-Propaganda Machine consente di sovrastare completamente il tradizionale sistema dei media, inducendo contenuti anche non ricercati nell’audience⁹.

La particolarità di questo approccio è che non è usato per scopi commerciali, ma per propaganda politica, senza alcuna possibilità di riconoscere, identificare e valutare il canale da cui proviene, proprio perché si inserisce nella coscienza delle persone indipendentemente dalla loro effettiva volontà di esporsi a quell’argomento. Per questo la loro soglia di attenzione è più bassa e la propaganda ancora più efficace.

Come vedremo, se le persone non impareranno a sviluppare un controllo sulla propria coscienza e sui meccanismi che la determinano, si arriverà ad uno scenario in cui di fatto l’autonomia sarà solo apparente e le scelte saranno tutte determinate al di fuori di noi stessi.

1.4 Il nuovo business model basato sui dati

La tecnologia da sola non spiega l’evoluzione del mercato ed il cambiamento sociale cui stiamo assistendo. È importante comprendere come la guerra per l’acquisizione dei dati abbia completamente trasformato la stessa competizione commerciale, ormai esposta non solo al mondo digitale ma anche a quello reale. Non è possibile in questa sede trattare in modo esaustivo il tema, ma è interessante poter almeno delineare le linee principali di evoluzione del fenomeno.

Il nuovo business model nasce, probabilmente, quando Apple introduce sul mercato l’iPod, consentendo di acquistare brani musicali da fruire autonomamente tramite iTunes Store. Siamo nel 2003. Apple diviene velocemente il negozio di musica più frequentato al mondo. Inizia l’era dell’autonomia delle persone nell’acquisire contenuti musicali (digitali), la produzione e fruizione della musica (e poi degli altri contenuti) sarebbero cambiate in modo drastico.

Parallelamente si sviluppa un altro business model, attorno a Google. Siamo all’inizio degli anni 2000. Grazie alla possibilità di analizzare alcuni sottoprodotti dell’esperienza dell’utente, il motore di ricerca può migliorare la sua performance. Si tratta di informazioni collegate con l’utente che i sistemi acquisiscono per funzionare e che, per la prima volta, vengono trasformate in valore per migliorare la conoscenza dell’utente e fornirgli un risultato maggiormente performante. Fino a qui non ci sono particolari problemi, l’intelligenza artificiale è a disposizione delle persone per generare valore. In altri termini il valore delle informazioni comportamentali acquisite torna al suo proprietario in termini di servizio maggiormente efficace. In questo contesto l’informazione presente in rete viene resa disponibile per l’esigenza specifica delle persone.

Tutto cambia quando nel periodo tra il 2000 ed il 2001 esplode la cosiddetta bolla speculativa dot com. Il mercato finanziario aveva investito in modo importante nelle imprese attive nell’ambito di internet. Si trattava di imprese scarsamente capitalizzate, di piccole dimensioni in un mercato che non produceva utili. L’idea era quella che almeno alcune di quelle società sarebbero state capaci in breve tempo di crescere e creare un mercato a cui vendere i propri servizi e quindi generare cash flow accettabili. Tuttavia l’entusiasmo e i grandi investimenti finanziari portarono in modo rapidissimo ad un aumento del valore delle azioni di queste società, evidentemente al di sopra della loro effettiva capacità di generare utili. Come tutte le bolle speculative, quando diviene evidente la distanza tra valore effettivo e valore di mercato, la bolla esplode e il prezzo delle azioni crolla vertiginosamente, portando al fallimento di moltissime realtà del settore. Per sopravvivere le imprese dovevano velocemente trasformare il proprio modello di business (che prevedeva una espansione della base di utenti raggiunti senza sostanzialmente preoccuparsi della remunerazione) in un sistema capace in tempi rapidi di tirare fuori cash flow importanti da quella platea di clienti. Per Google questo si tradusse nell’utilizzo delle informazioni comportamentali acquisite a vantaggio dell’advertising. In altri termini, vendendo spazi pubblicitari (ed il loro posizionamento nella ricerca), il sistema predittivo consentiva di profilare il frequentatore del motore di ricerca calcolando la probabilità che cliccasse su uno o l’altro annuncio pubblicitario. Facendo pagare in base al numero di click generati da quell’annuncio, questa tecnologia consentiva di trasformare rapidamente in valore (per gli inserzionisti e quindi per Google) l’elaborazione previsionale del comportamento delle persone, desunto dalle tante informazioni collaterali che il sistema riusciva a recuperare. L’intelligenza artificiale diventava un fattore determinante per il business, ma aveva bisogno di montagne di dati eterogenei per poter generare un valore. Ma una volta raggiunta quella dimensione di informazioni, il profitto marginale diventava immenso.

Come è stato giustamente osservato¹⁰, il nuovo modello è fortemente sbilanciato. Ora il sistema acquisisce informazioni comportamentali delle persone (a loro insaputa) non tanto per generare valore per le stesse persone (miglioramento delle ricerche e accesso all’informazione) ma per consentire a terze parti di vendere i propri prodotti.

Il successo di questo modello di business ha cambiato il mondo e ha amplificato l’esigenza di digitalizzare le esperienze individuali (non solo su internet) trasformandole in dati che algoritmi possano utilizzare per prevedere il comportamento delle persone. Naturalmente, come vedremo, la stessa tecnica è utilizzabile per indirizzarne il comportamento.

Proprio per consentire una più potente acquisizione di informazioni, Google colse l’opportunità di sfruttare le tecnologie emergenti capaci di elaborare e visualizzare dati geospaziali. Per questo acquisisce la società Keyhole (che aveva dimostrato di avere una tecnologia di mapping importante, evidenziata ai tempi della guerra in Iraq¹¹) e affida al suo creatore, John Hanke, la Google Geo division, responsabile di Google Earth e Google Map, le app che avrebbero integrato le informazioni geospaziali relative allo spostamento ed alla localizzazione delle persone. Hank è anche famoso per il gioco Pokemon Go che riesce a unire l’esperienza virtuale e quella fisica, peraltro favorendo la possibilità di creare esperienze miste (e pubblicità di siti reali, non solo virtuali) tra internet e mondo reale, ampliando notevolmente il business model al mondo reale.

Il fatto che questo modello, evidentemente capace di sfruttare economicamente informazioni comportamentali delle persone a loro completa insaputa, sia riuscito ad imporsi senza una sostanziale resistenza si deve, probabilmente, anche al momento storico in cui riesce a svilupparsi. Il 2001, infatti, è l’anno in cui avvengono gli attentati dell’11 settembre che hanno dato seguito alla grande reazione degli Stati Uniti (e di tutto l’Occidente) alla minaccia terroristica. La sicurezza ha, dunque, preso il sopravvento sulla protezione della privacy e l’idea di poter acquisire informazioni ed elaborarle per prevedere comportamenti individuali non poteva non avere un fascino incredibile su chi quella sicurezza voleva garantire. Così, nel clima generale in cui la riduzione della privacy veniva comunemente (anche implicitamente) accettata, questo modello poté garantirsi uno spazio importante, entrando nella nostra vita e creando un’assuefazione che avrebbe consentito una inarrestabile espansione.

Non dovrebbe stupire come oggi proprio l’acquisizione dei dati ai fini di generare capacità predittive (a vantaggio di venditori e non solo) sia il business più importante e remunerativo esistente e la nostra vita sia sempre maggiormente piena di soluzioni smart anche laddove questo non fornisce un vantaggio diretto ed immediato per chi le utilizza (ma lo è, evidentemente per chi le produce).

Esperimenti interessanti hanno poi anche dimostrato la capacità di questa tecnologia di influenzare e cambiare il nostro comportamento in modo importante. Facebook ha dedicato risorse a questo aspetto. Vi propongo due esperimenti (peraltro molto controversi in tema etico) che sono divenuti famosi.

Il primo riguarda la mobilitazione al voto in occasione dell’elezione dei rappresentanti al Congresso USA del 2010¹². Oggetto d’indagine furono 61 milioni di utenti Facebook. Furono creati tre gruppi. Un gruppo ricevette solo un messaggio informativo (all’inizio della pagina del proprio news feed) che li invitava a votare e contenente un link al sito dedicato alle elezioni locali, con incluso un tasto cliccabile con cui indicare ho votato. Ad un secondo gruppo fu invece inviato un messaggio social che includeva gli stessi elementi del precedente, ma anche la foto di 6 amici su Facebook che avevano cliccato il tasto ho votato (scelti casualmente). Il terzo gruppo (di controllo) non aveva ricevuto nessun messaggio. I ricercatori, poi, confrontarono il comportamento on line con i risultati effettivi ai seggi elettorali.

Lo studio dimostrò che chi aveva ricevuto il messaggio social era più propenso a sua volta a cliccare il tasto ho votato e di andare a votare effettivamente, rispetto agli altri due gruppi. Inoltre è risultato che l’influenza maggiore di tale scelta si aveva quando tra le sei foto di amici che comparivano nel messaggio, vi erano anche quelli con cui le persone avevano rapporti più stretti.

Ancora più discusso è l’esperimento relativo al contagio emotivo, pubblicato nel 2014¹³, che ha riguardato 689 mila persone su Facebook. L’esperimento ha dimostrato che lo stato emotivo può essere modificato tramite contagio, portando le persone a sperimentare le stesse emozioni cui sono sottoposte vedendo messaggi social, senza che ci sia consapevolezza da parte loro. È un’azione diretta tra le persone anche in assenza di ogni indizio non verbale (canale che invece si pensava fosse quello che più potentemente poteva favorire l’empatia e quindi la trasmissione emotiva tra le persone). La potenza della socialità virtuale era dunque evidente, ed il suo utilizzo volontario ha portato alle dinamiche di distorsione delle scelte politiche (che sono prevalentemente emotive), come diremo nel prossimo paragrafo.

Il nuovo sistema non solo predice il nostro comportamento, ma riconosce anche le variabili che lo condizionano ed ha le leve per modificarlo. È una nuova forma di reificazione, in cui il nostro comportamento è un oggetto distinto, alieno da noi, con un valore economico indipendente dalla nostra esistenza emotiva, uno strumento di speculazione e controllo delle nostre azioni, indipendentemente dalla nostra identità.

Il nuovo business model è dunque una delle dimensioni più importanti capaci di ridisegnare la mappa del potere nel mondo attuale. La consapevolezza è forse l’unica arma che abbiamo per provare a difenderci dalla sua ingerenza, finalizzata non tanto a migliorare la nostra vita (elemento incidentale che deve portarci a continuare ad utilizzare le app ed i dispositivi smart nella vita quotidiana), quanto ad aumentare la capacità di terze parti di acquisire mercato. Il semplice consenso ad una richiesta su internet non può proteggerci da questa invasione e tornare indietro è oggettivamente troppo tardi. La risposta deve essere nella comprensione dei fenomeni e nella loro razionalizzazione.

L’indagine che nelle prossime pagine andremo a delineare vuole proprio analizzare i possibili rischi della nuova era della digitalizzazione su quattro piani fondamentali, ancorché tra loro interrelati:

• politico e sociale: cosa comporta per la democrazia, per la libertà e per l’uguaglianza;

• economia e lavoro: qual è il futuro del lavoro ed il lavoro del futuro, gli impatti in termini di disoccupazione, protezione sociale, irrilevanza e marginalità dei più poveri;

• business: sul piano della competitività, dell’innovazione, dell’organizzazione e dello sviluppo economico, perché le imprese sono impreparate e come possono cambiare il proprio approccio, il valore dell’etica;

• scuola e formazione: come poter sviluppare le competenze del nuovo mondo del lavoro, la rilevanza delle soft skills, il fallimento del sistema scolastico e le sue possibili evoluzioni.

La quarta rivoluzione industriale ha cambiato la nostra vita e, in prospettiva, il nostro sistema sociale. Le macchine apprendono e possono sviluppare conoscenza nuova, elaborando strategie. Gli algoritmi stanno sostituendo anche i nostri processi decisionali, riducendo la nostra sfera di libertà e autonomia. La tecnologia è uno strumento potente solo se sappiamo dove andare, altrimenti guiderà lei la nostra vita.

1.5 Il Metaverso

Sempre maggiore interesse sta poi suscitando il tema del Metaverso¹⁴, diventato ormai oggetto di discussione ampio e di attualità. Non è un caso che Mark Zuckerberg abbia deciso di cambiare il suo brand in Meta, proprio per posizionarsi chiaramente (e tempestivamente) in questo nuovo contesto.

È