Menu

Un capitalismo di sorveglianza?

Recensione del libro di Shoshanna Zuboff Il capitalismo della sorveglianza (in italiano : Luiss University Press, Roma, 2019) . L’autrice (nata nel 1951) è un’accademica statunitense. Dal 1981 è diventata una delle prime donne di ruolo della Harvard Business School.

pubblicata da lundimatin#311, il 1° novembre 2021[1]. Traduzione e note a cura di Turi Palidda

capitalismo della sorveglianza

Due anni fa il suo libro L’età del capitalismo di sorveglianza fu unanimemente salutato da tutta la sinistra occidentale come il manuale di riferimento per capire l’evoluzione degli ultimi venti anni. Diverse critiche le sono state rivolte in generale alla postura riformista assai ingenua (NT: frequente fra gli accademici statunitensi): ci sarebbe stato un buon capitalismo, sino agli anni ‘90, ma è stato pervertito da un mostro, il capitalismo della sorveglianza che impera da due decenni. Queste critiche sono giuste ma l’inchiesta della Zuboff è coerente; perciò le dedichiamo una discussione più approfondita per la rubrica cyber-filo-tecnica (https://lundi.am/cybernetique).

Sulla copertina dell’edizione francese, in basso a sinistra, un elogio di Naomi Klein non esita a dire che il libro è “un atto digitale di autodifesa”. In basso a destra della copertina, si legge anche “Acclamato dal New York Times, dal Financial Times, dal Guardian e da Barack Obama”. Lo stesso Obama di cui apprendiamo avanzando nel libro che ha condotto le sue campagne elettorali con l’aiuto di un certo Eric Schmitt, ex amministratore delegato di Google, al fine di prendere di mira in maniera massiccia gli elettori indecisi che potevano essere a suo favore (Zuboff, p.124). Questo è sconcertante: da chi può difenderci, questo grande libro, se anche Obama lo elogia pubblicamente? Più in concreto, l’approccio di Zuboff ci aiuta a vedere più chiaramente e a trovare i difetti se si vuole attaccare radicalmente il mondo dell’economia e del capitalismo? Per prima cosa utilizzeremo la struttura del libro per raccogliere le analisi che riteniamo rilevanti e permettere a chi non ha tempo di leggere il libro di farsi un’idea. Successivamente, vedremo perché la critica di Zuboff manca almeno in parte nel segno perché poggia su fondamenta marce fin dall’inizio.

 Nascita e apogeo del capitalismo di sorveglianza

«Voi avete bisogno di vincere, ma fareste meglio a vincere in maniera dolce»
Eric Schmitt

Andiamo oltre la copertina tristemente comica e apriamo il libro. La definizione intorno a cui ruota il libro è: “Il capitalismo della sorveglianza si impadronisce unilateralmente l’esperienza umana come materia prima gratuita da tradurre in dati comportamentali. Mentre alcuni di questi dati sono utilizzati per migliorare prodotti o servizi, il resto viene segnalato come surplus comportamentale proprietario, che si alimenta in catene di produzione avanzate, note come “intelligenza artificiale”, per essere trasformato in prodotti di previsione che anticipano ciò che stai per fare, ora, presto o più tardi. Infine, questi prodotti di previsione vengono scambiati in un nuovo mercato, quello delle previsioni comportamentali, che io chiamo il mercato dei comportamenti futuri.”

L’idea generale di Zuboff è relativamente semplice: dopo aver trasformato terra, denaro e lavoro in merci, il capitalismo fa lo stesso con l’esperienza umana, a volte anche con la natura umana. Come trasformare l’esperienza in una merce? Questo è il punto delle prime due parti del libro.

La nascita del capitalismo di sorveglianza: il surplus comportamentale

Il racconto di Zuboff ha il vantaggio e lo svantaggio di drammatizzare le sue spiegazioni al punto da decretare che il capitalismo della sorveglianza è nato proprio nel 2001-2002, quando economisti e ingegneri di Google si sono resi conto di come poter sfruttare le richieste degli utenti per generare annunci pubblicitari personalizzati. “Il capitalismo della sorveglianza è stato inventato da un gruppo specifico di esseri umani in un luogo e in un tempo specifici. Non è né un risultato intrinseco della tecnologia digitale, né un’espressione necessaria del capitalismo dell’informazione’ (Zuboff, p.124). Il vantaggio: ricollocare accuratamente cose, iniziative, manovre e strategie per disfare l’immagine di un “sistema” e di una “tecnologia” semplicemente autonomi e inevitabili nel loro dispiegamento. Svantaggio: ridurre tutto a poche idee di geni più o meno malintenzionati e lasciare da parte ciò che è necessario e più profondo in questa dinamica.

Molti hanno notato prima della Zuboff che inizialmente Google stava facendo di tutto per sviluppare un motore di ricerca che non fosse fuorviato dalla pubblicità. Lo testimoniano queste parole di Sergey Brin e Larry Page nel 1998: «siamo convinti che la questione della pubblicità generi motivazioni abbastanza contrastanti per essere cruciale a un motore di ricerca competitivo che sia trasparente e appartenga al settore universitario’[2]. Solo che tutto si complica molto rapidamente: scoppia la bolla di internet, gli investitori chiedono maggiori profitti[3], e ora i dirigenti chiedono ai team Adwords che si occupano di pubblicità di trovare nuove fonti di guadagno. In pochi anni vengono poi depositati una miriade di brevetti per collegare le richieste degli utenti agli annunci pubblicitari ad essi corrispondenti. Ovviamente Google non si limita alle query (domande) sul suo motore: utilizza tutti i dati che può raccogliere su un utente per indirizzare al meglio la pubblicità che lo riguarda, dati che chiamiamo UPI per le informazioni del profilo utente. Ciò include i dati di Google su tutte le ricerche di un utente ma anche tutti i dati presenti online su di lui: «questi dati possono essere forniti dall’utente, da una terza parte autorizzata a divulgarli e/o derivati da azioni dell’utente. Alcuni dati possono essere ricavati o dedotti utilizzando altri dati utente dello stesso utente e/o di altri utenti[4]. In breve, Google si appropria di tutto ciò che c’è da sapere su una persona per generare annunci più pertinenti. Niente di molto nuovo, ma è da questi dati che Google scopre e sfrutta quello che Zuboff chiama surplus comportamentale, la pietra capitale del capitalismo di sorveglianza. Questo surplus si riferisce alla parte di informazione su un utente che permette di inferire i suoi comportamenti, le sue idee, le sue intenzioni. L’immagine che continua a tornare dalla penna di Zuboff è quella dello specchio bidirezionale dietro il quale i processi automatizzati registrano i nostri minimi comportamenti per dedurre i successivi e nel frattempo offrire agli inserzionisti più interessati (e ai migliori offerenti) di trasmettere i propri annunci pubblicitari.

Migliaia di volte abbiamo sentito questo ritornello e non passa quasi un anno senza parlare molto di come Google o qualsiasi altra azienda utilizza i nostri dati personali. Quello che forse è meno noto è l’affinità tra il surplus comportamentale di Google (enorme data mining) e gli interessi politici del giorno in tali pratiche. Mentre già alla fine degli anni ‘90 erano emersi diversi tentativi legislativi per limitare la raccolta dei dati personali, gli attentati dell’11 settembre 2001 hanno rimescolato le carte. Da allora ogni collaborazione tra servizi di intelligence e aziende private che permetta di conoscere il più possibile su chiunque è più che benvenuta. Già nel 1997, il direttore della CIA George Tenet disse: “La CIA ha bisogno di nuotare nella Valley”. Nel 1999, la società di investimento In-Q-Tel, finanziata dalla CIA, è stata aperta nella Silicon Valley per creare partnership e ottenere tutto ciò che è rilevante nella tecnologia all’avanguardia. Gli attacchi dell’11 settembre sono stati visti, dal punto di vista dell’intelligence statunitense, come un’umiliazione: non erano riusciti a stabilire i collegamenti per anticipare gli attacchi. Nel 2013, il direttore della CIA Michael Hayden ha ammesso che l’agenzia “potrebbe essere giustamente accusata di militarizzare Internet” (Citazione di Zuboff, p.162). Dal punto di vista legislativo, notiamo anche che “con gli attentati dell’11 settembre 2001 tutto è cambiato. Ora, la priorità è stata data in modo schiacciante alla sicurezza rispetto alla privacy” (Peter Swire, Chief Privacy Advisor – Citazione di Zuboff, p.161). Già nel 2002, un ex ammiraglio della NSA, John Poindexter, offrì il programma TIA per la Total Information Awareness, che voleva essere in grado di rilevare qualsiasi informazione rilevante nella massa di dati globali disponibili. Nel 2003 e nel 2004, la NSA e la CIA hanno pagato Google per utilizzare speciali servizi di data mining offerti dal motore di ricerca. Diversi progetti sono interamente frutto della cooperazione o dell’ibridazione tra Google e i servizi di intelligence. È il caso ad esempio di ‘Keyhole’, società di cartografia acquisita da Google nel 2004 e il cui principale finanziatore era nientemeno che In-Q-Tel: Keyhole diventerà poi la spina dorsale di Google Earth e poi di Google Maps; Così è ‘Recorded Future’, che monitora ogni aspetto del web in tempo reale per prevedere eventi futuri e in cui Google e In-Q-Tel hanno investito contemporaneamente. Per ricapitolare, ecco alcune parole dell’ex direttore della NSA del 2010 Mike McConnell in un articolo del Washington Post che dovrebbe far riflettere chiunque chiami un cyberspazio libero e senza confini:

“Dobbiamo costruire una partnership efficace con il settore privato in modo che le informazioni possano fluire rapidamente tra pubblico e privato, confidenziale e non confidenziale … per proteggere le infrastrutture critiche del paese. I resoconti recenti di una possibile partnership tra Google e il governo indicano il tipo di sforzi congiunti – e le sfide condivise – che probabilmente vedremo in futuro. … tali accordi offuscano le acque tra il ruolo tradizionale del governo e il settore privato … Il cyberspazio non conosce confini e anche i nostri sforzi difensivi devono essere senza soluzione di continuità».

Questa tendenza non ha mai smesso di crescere e sarebbe inutile scoprire chi trae i maggiori benefici tra le aziende della Valley e il governo. Passiamo alle pagine divertenti in cui Zuboff descrive tutte le strategie con cui Google fa di tutto per mantenere un ‘fossato intorno al castello’ così come le ‘fortificazioni’ con tasse accademiche e altre intense attività di lobbying a Washington. Andiamo direttamente al secondo passo nella breve storia del capitalismo di sorveglianza.

L’avanzata del capitalismo di sorveglianza

«Avanzate velocemente e rompete delle cose. Se non rompete nulla non andate avanti abbastanza velocemente!» Mark Zuckerberg

La seconda parte del libro sottolinea l’approfondimento e la diversificazione del reddito ricercato dal capitalismo di sorveglianza. Queste dinamiche sono in gran parte basate sulla tendenza onnipresente nell’IT, già menzionata nel primo articolo della nostra rubrica. Conosciamo la famosa citazione di Eric Schmitt nel 2015 al World Economic Forum di Davos: “Internet scomparirà. Ci saranno così tanti indirizzi IP […], così tanti dispositivi, sensori, oggetti connessi, così tante cose con cui potremo interagire che non ce ne accorgeremo nemmeno. Faranno parte della tua esistenza per tutto il tempo. Immagina: entri in una stanza e tutto è dinamico!’ [vedi da allora lo sviluppo delle cosiddette smath cities, smath house, le auto Tesla ecc. (Citazione di Zuboff, p.271). Non si tratta di prendere in parola le parole pubblicitarie di Schmitt, che allora citava solo Mark Weiser (“Le tecnologie più profonde sono quelle che scompaiono. […] Macchine che si adattano all’ambiente degli individui invece di costringerle ad adattarsi a loro: questo è ciò che rende l’uso di un computer tonificante come una passeggiata nella foresta, ecc.). Si tratta piuttosto di mostrare le nuove tendenze che rendono possibile fare soldi: vendere oggetti connessi; recuperare quantità di dati sempre maggiori; sfruttare questi dati per fornire previsioni più efficaci; e attraverso queste anticipazioni predittive, incoraggiare nuovi comportamenti.

Prima di fornire esempi di questi sviluppi, ricordiamo ancora una volta che gli interessi statali e privati non sono estranei l’uno all’altro. Mentre la sorveglianza e l’intelligence fanno ovviamente parte delle funzioni di qualsiasi governo che si rispetti, la modifica del comportamento o la “condotta” è stata a lungo una prerogativa essenziale. Ripensando ai vecchi file della CIA negli anni ‘50, Zuboff ricorda a coloro che hanno dimenticato che la CIA aveva sviluppato “una gamma di programmi progettati per prevedere, controllare e modificare il comportamento umano” (Zuboff, p.430). Mentre la guerra di Corea rendeva popolari le tecniche comuniste di ‘lavaggio del cervello’ che riducevano i prigionieri di guerra americani a ‘robot passivi’ – secondo Allen Dules, ex direttore della CIA – era quindi necessario’ che la CIA si impegnasse rapidamente nella ricerca sullo sviluppo del ‘controllo mentale’, che andava dalla ‘destrutturazione’ e ‘riprogrammazione’ dell’individuo alla modifica degli atteggiamenti e delle azioni di un intero Paese’ (Zuboff, p.431). La maggior parte di questa ricerca è stata condotta nell’ambito del progetto MK-Ultra e tenuta segreta perché, come afferma un rapporto dell’Ispettorato Generale del ‘63: “la ricerca sulla manipolazione del comportamento umano è considerata da molte autorità mediche e correlata come una pratica non etica; pertanto, la reputazione degli specialisti che partecipano al programma MK-Ultra potrebbe risentirne. Solo negli anni ‘70 se ne sarebbe saputo qualcosa, dopo un’indagine del Senato. Dopo lo scandalo, queste applicazioni sono semplicemente migrate… verso applicazioni civili in tutti i tipi di istituzioni (scuole, fabbriche, carceri, ospedali, ecc.) (Zuboff, p.431).

Niente di sorprendente, quindi, se questo nuovo stato d’animo si sia diffuso ampiamente all’interno del capitalismo di sorveglianza alla ricerca di nuovi profitti. La sfida di questa nuova fase è quella di non accontentarsi più semplicemente di recuperare dati online, tramite le richieste di Google degli internauti, ma di andare direttamente alla fonte, a contatto con la realtà. E questa estrazione significherà andare sempre più in profondità estraendo dati sempre più intimi (sondando il sonno, la salute, gli stati d’animo, ecc.).

Oltre a queste economie di scopo (allargando il campo dei dati raccolti e la loro intima profondità), il capitalismo della sorveglianza mira alle economie di azione: “questi interventi hanno lo scopo di migliorare la certezza della previsione effettuando un certo numero di azioni: spingono (nudge), regolano (sintonizzano), stimolano (gregge), manipolano, modificano il comportamento in direzioni specifiche, il che può comportare l’inserimento di una particolare espressione nel tuo feed di notizie Facebook, la tempestiva comparsa di un pulsante ACQUISTA sul tuo telefono, o il blocco programmato della tua auto quando ti dimentichi di pagare il premio assicurativo’ (Zuboff, p.275). Come scrive Zuboff: “Con questo passaggio dalla conoscenza al potere, automatizzare il flusso di informazioni su di noi non è più sufficiente; l’obiettivo ora è quello di automatizzarci” (Zuboff, p.25). Questo ci ricorda che uno dei pericoli della tecnologia oggi non è che presto dovremo affrontare macchine (o alloggi) “intelligenti” o “autonomi”, ma piuttosto sta nel diventare noi stessi automi in molti modi. Come lo descrive un ingegnere con cui Zuboff ha parlato, “Non si tratta più solo di computer ubiquitari. Il vero obiettivo ora è l’intervento, l’azione e il controllo onnipresenti. Il vero potere è che ora sei in grado di cambiare le azioni in tempo reale nel mondo reale. […] Analisi in tempo reale che si traducono in forme di azione in tempo reale” (Zuboff, p.395).

Gli esempi di questi modi di cambiare e influenzare il comportamento sono innumerevoli, poiché sono esistiti almeno dall’invenzione della pubblicità, se non da sempre, ma in forme diverse. Zuboff si accontenta di tratteggiare solo alcuni di quelli che si sono diffusi grazie alla proliferazione di dati comportamentali. La sintonizzazione o “sintonizzazione” implica “inneschi subliminali destinati a influenzare sottilmente il flusso comportamentale”. Una variante oggi particolarmente in voga è il nudge che viene definito come ‘qualsiasi elemento di un’architettura di scelta che modifica il comportamento degli individui in modo prevedibile’[5] (un’aula dove tutti affrontano l’insegnante, un sito web che ti costringe ad accettare questa o quella condizione per il suo stesso design, una statistica che ti incoraggia a pagare le tasse dicendoti innocentemente che il 90% le paga in tempo, ecc.). Nello stesso genere troviamo anche il herding, il needleling, che si basa su un controllo degli elementi del contesto immediato di un individuo (blocco del motore di un’auto a distanza, attivazione di una particolare opzione di un dispositivo, ecc.). “Stiamo imparando a comporre musica; dopodiché è lei a far ballare”, spiega uno sviluppatore di software. Il terzo tipo di tecnica, molto semplicemente, il “condizionamento”: i comportamenti naturali vengono “selezionati” nell’ambiente circostante e raggiungono il successo. È agli esperimenti del comportamentista B.F. Skinner con i piccioni ad Harvard che tornano al posto voluto: premiando i piccioni, è riuscito a “rafforzare” un comportamento o quello rispetto a un altro. Come ha affermato uno scienziato dei dati di una società della Silicon Valley intervistato da Zuboff, “l’imballaggio su larga scala è essenziale per la nuova scienza dell’ingegneria di massa del comportamento umano” (Citazione di Zuboff, p.399). La cosa grandiosa dei topi da laboratorio è che puoi sperimentarli quasi all’infinito. Ma con i nuovi strumenti di raccolta e analisi dei dati, “la sperimentazione può essere automatizzata dall’inizio alla fine”, afferma Hal Varian, capo economista di Google. Questo è il caso degli “esperimenti a grandezza naturale di Facebook su oltre 61 milioni di persone e di “influenza sociale e mobilitazione politica”, effettuati nel 2010. Durante questo esperimento controllato e randomizzato, i ricercatori hanno manipolato il contenuto dei social e dei media di messaggi elettorali nei feed di notizie di quasi 61 milioni di utenti di Facebook (Zuboff, p.403).

Un primo gruppo ha visto un messaggio che incoraggiava a votare nella parte superiore del newsfeed con un collegamento alle informazioni sulla posizione dei sondaggi, un pulsante “Ho votato”, insieme alle foto degli amici che hanno votato. I risultati mostrano che più utenti che hanno ricevuto il messaggio hanno fatto clic sul pulsante “Ho votato”. Durante le elezioni del 2010, ci sono stati circa 60.000 elettori in più e circa 280.000 altri spinti da un effetto di “contagio sociale”, tutti determinati da questi messaggi social manipolati. Altri esperimenti hanno fatto luce sull’impatto emotivo di ciò che appare sul feed di Facebook. In un altro genere, un certo Alexandre Kogan, ex di Cambridge, è riuscito a riunire più di 270.000 persone pagate per i test psicologici, il tutto senza dire loro che aveva anche accesso ai loro profili Facebook. L’operazione ha permesso di stabilire dei veri e propri profili psicologici (tra 50 e 87 milioni) da dati online, profili che sono stati poi venduti alla società Cambridge Analytica … di cui ora sappiamo il ruolo, protagonista dell’elezione di Trump nel 2016.

Potremmo continuare questo catalogo di innovazioni sempre più avanzate per restituire informazione (vedi il progetto SEWA che tenta di analizzare le emozioni generate da un programma per misurare il grado di soddisfazione dell’utente) o influenzare direttamente il comportamento (dalla pubblicità agli orrori della CIA ai ristoranti che pagano Pokemon Go per portare i giocatori a mangiare vicino alle loro case) e Zuboff non se ne priva per tutta questa seconda parte. Tuttavia, è importante sbarazzarsi di questi accumuli travolgenti e talvolta grossolani in cui lo spettatore indignato è talvolta alla pari con l’inserzionista bugiardo.

Ma prima di passare alle critiche, il punto è che il libro di Zuboff offre un tentativo di sintetizzare il nuovo tipo di potere o governamentalità che sta emergendo attraverso queste pratiche.

 Del potere “strumentarizzante” per una terza modernità

“Noi dobbiamo creare un sistema nervoso per l’umanita’ che possa consolidare i nostri sistemi sociali dappertutto sul pianeta”, Alex Pentland

In questa terza parte, Zuboff affronta lo strumentalismo che definisce come “la strumentazione e la strumentalizzazione del comportamento ai fini della modifica, della previsione, della monetizzazione e del controllo” (Zuboff, p.472). Finora, niente di nuovo. Afferma che il potere ‘strumentale’ che ne deriva si distingue da un potere totalitario al quale tenderemmo troppo facilmente ad associarlo, come testimonia l’espressione del ‘Grande Fratello’ che troviamo ovunque associata alle nuove tecnologie (riconoscimento facciale, telecamere, eccetera.). Il totalitarismo mira soprattutto al controllo delle anime come spiega Mussolini in La dottrina del fascismo (il fascismo è ‘l’anima dell’anima […] Non vuole rifare le forme della vita umana, ma il suo contenuto’) o Stalin (“Questo è ciò che conta, la produzione delle anime umane”). Il potere “strumentale”, invece, prende di mira gli organismi, i corpi in ciò che hanno all’esterno, i corpi concreti, come oggetti dotati di comportamenti. Si può dubitare di questa rigida distinzione tra anima e corpo e la stessa categoria di totalitarismo che consente a Zuboff di distinguere i due poteri, resta che trae una genealogia piuttosto convincente dall’approccio che consente di imporre una nuova razionalità di governo da diversi decenni.

Secondo lei, è nel comportamentismo di Skinner che dobbiamo cercare la filosofia “strumentale”. Il comportamentismo consiste proprio nell’interessarsi agli esseri prendendoli come scatole nere, cioè osservando “oggettivamente” solo comportamenti esterni, visibili, identificabili. In questo approccio, è quindi vietato assumere un’anima o un’intenzione nell’organismo osservato. Puoi quindi sperimentare diversi tipi di situazioni per vedere come cambia o meno il comportamento dell’organismo (i piccioni ricevono ricompense o punizioni per vedere come reagiscono). Da lì si può cominciare a stabilire regole di comportamento senza bisogno di nozioni mal definite come anima, spirito o volontà. Questi potrebbero essere giudicati precetti un po’ ingenui e innocui, tranne per il fatto che Skinner alla fine ne trae un’intera visione del mondo e una politica. A suo avviso, le nozioni di libertà o di autodeterminazione hanno poco significato: derivano principalmente dal fatto che non sappiamo cosa ci determina. Se scelgo questo o quel candidato, penso di farlo perché sono libero ma in realtà lo faccio perché sono determinato per ragioni che mi sfuggono (ad esempio perché Facebook mi incoraggia a farlo). Ciò che occorre è acquisire il più possibile i mezzi per comprendere tutte le cause che determinano l’uomo per poter poi stabilire politiche pubbliche sulla base di una perfetta razionalità scientifica. Potremmo allora guidare oggettivamente l’umanità verso cieli migliori, essi stessi oggettivamente definiti “buoni”. Al contrario, concetti come libertà, autodeterminazione o dignità sono ostacoli che generano confusione e discordia, impedendo il progresso nella giusta direzione. In un libro giustamente intitolato Beyond Freedom and Dignity, Skinner scrive: “Dobbiamo realizzare grandi cambiamenti nel comportamento umano, e non li raggiungeremo con l’aiuto delle sole scienze della fisica e della biologia, con tutta la buona volontà del mondo”. […]. Ciò di cui abbiamo bisogno è una tecnologia comportamentale […] paragonabile in potenza e precisione alla tecnologia fisica o biologica’ (citazione di Zuboff, p.494).

Tanto per l’eredità. Oggi Internet e le tecnologie digitali offrono la possibilità a coloro che le controllano di realizzare l’agenda skinneriana della vera tecnologia comportamentale o, per usare le parole dei suoi eredi come Alex Pentland, della vera “fisica sociale”. Quest’ultimo, direttore dello Human Dynamics Lab del MIT e autore di un best-seller di fisica sociale, ha trascorso gli ultimi vent’anni a ricercare le tecniche che ci consentono di osservare e razionalizzare il comportamento umano. A volte soprannominato il “padrino degli accessori connessi”, fornisce consulenza a tutti i tipi di organizzazioni (Google, Nissan, Telefonica, ONU, ecc.). Mentre Skinner suscitava rabbia e indignazione per le sue posizioni provocatorie, Pentland viene invece incoronato di gloria e successo. Mentre Skinner si lamentava della mancanza di strumenti e metodi a sua disposizione per misurare il comportamento umano, Pentland ha tutto ciò di cui ha bisogno a sua disposizione. Nel 2002 scrive insieme a un collaboratore “siamo convinti che la cattura e la modellazione delle interazioni fisiche tra individui costituisca un serbatoio non sfruttato” (Citazione di Zuboff, p.558). Ha poi sviluppato il “sociometro”, una sorta di sensore portatile per la registrazione e l’analisi di vari tipi di informazioni. Nel 2005, ha sviluppato con Nathan Eagle il concetto di “sfruttamento della realtà” utilizzando i serbatoi di dati che sono i telefoni cellulari. Da esperimenti condotti sui loro studenti, hanno mostrato quanto è possibile imparare analizzando questi molteplici dati. Nel 2009, ha condotto esperimenti utilizzando un badge sociometrico con gli impiegati e ha fondato Sociometric Solutions che sarebbe diventata Humanyze nel 2015, che ha fornito badge e consigliato un certo numero di grandi aziende. Pentland spiega anche di aver convinto la Bank of America a sincronizzare le pause caffè al fine di aumentare le interazioni tra i dipendenti per aumentare la produttività – sostiene che ciò avrebbe consentito un aumento della produttività di 15 milioni di dollari l’anno (Citazione di ZUboof, p. 565). Più in generale, mira a “costruire sistemi efficienti di governo, risorse energetiche e salute pubblica” attraverso l’analisi dei big data. Per questo, non dobbiamo più pensare a livello dell’individuo – “Pentland ha capito che ciò che rovina sempre tutto sono gli individui” (giornalista citato da Zuboff, p.566) – ma a livello di un sistema globale, olistico: “abbiamo bisogno di ripensare radicalmente sistemi sociali. Dobbiamo creare un sistema nervoso per l’umanità che possa rafforzare i nostri sistemi sociali in tutto il pianeta» (Pentland citazione di Zuboff, p.568). Tuttavia, ciò è possibile poiché, ‘per la prima volta nella nostra storia, la maggior parte degli esseri umani sono collegati […] Pertanto, possiamo “sfruttare il reale” della nostra infrastruttura di telefonia wireless per [… ] controllare i nostri ambienti e pianificare lo sviluppo della nostra societa’.

Ciò che l’approccio di Pentland dice, secondo Zuboff, sono segni di una nuova figura di potere che lei chiama il Grande Altro, al contrario del Grande Fratello. Mentre il Grande Fratello incarna una figura personale di sorveglianza, il Grande Altro è più una figura di potere automatica e impersonale che si basa sulle statistiche e sulla sicurezza speciale che offrono. Quando il primo vuole diffondere una religione politica totalitaria, il secondo si affida alla radicale indifferenza dei processi algoritmici, quella che altri hanno chiamato “governamentalità algoritmica”[6]. Le masse lasciano il posto al popolo, la rieducazione forzata all’ingegneria comportamentale. Mentre si dice che il potere del Grande Fratello sia basato sulla violenza e su una teoria che ne legittima la pratica, il Grande Altro si basa sulla delicata modificazione dei comportamenti e dell’ambiente di vita e le pratiche quotidiane nascondono la teoria dietro di essi.

Gli ultimi capitoli del libro di Zuboff descrivono questo potere “strumentale” e l'”alveare” in cui vuole che abitiamo. Questo è un aspetto importante del libro: mette in evidenza la misura in cui la retorica digitale contemporanea enfatizza sempre più la nozione di comunità. Quindi Zuckerberg ha detto: “La cosa più importante che possiamo fare è sviluppare l’infrastruttura sociale… costruire una comunità globale” (Citazione di Zuboff, p.538). Le immagini che continuano a tornare dalla penna di Zuboff sono quelle della mandria (che ricorda la famosa ‘immunità di gregge’ tradotta modestamente come ‘immunità collettiva’ in Francia), dell’alveare, insomma rappresentazioni di comunità animali (in verità più che discutibile) in cui comportamenti mimetici e automatici hanno sommerso l’individuo autonomo. Troviamo anche sotto la penna di E. Schmitt e S. Thurn (ex direttori di Google e Google’s X lab) l’idea che l’intelligenza artificiale dovrebbe ispirarci perché è più collettiva della nostra: prendiamo una determinata auto autonoma, notiamo che ‘impara’ errori da un’altra auto a migliaia di miglia di distanza, cosa che gli umani non fanno. E i due zozo concludono: “La lezione che impariamo dalle auto a guida autonoma è che possiamo imparare e agire in modo più collettivo” (Schmitt et Thurn cités par Zuboff, p.551). Non solo le macchine hanno un mimetismo che ricorda quello degli animali gregari, ma in più occorrerebbe imitarle per apprendere a stare insieme. Sembra di sognare.

Infine, contrariamente a una tradizione che cerca di appendere autonomia e intelligenza collettiva sulla scia dell’operaismo italiano, per esempio, troviamo qui una netta contrapposizione tra autonomia individuale e comunità, le due che sembrano “mutuamente escludersi”. Almeno così pensa Zuboff: “L’autodeterminazione e il giudizio morale autonomo, che si tenderebbe a considerare baluardi della civiltà, diventano nel suo metro di misura nemici del bene collettivo. La pressione sociale, ben nota agli psicologi per il suo ruolo pericoloso nella produzione di obbedienza e conformismo, è ora vista come il modo migliore per sedare le prevedibili influenze del pensiero autonomo e del giudizio morale» (Zuboff, p.590). Invece di un “nuovo collettivismo” [Zuboff, p.624], secondo Zuboff, sarebbe quindi necessario reinventare una terza modernità che dia il primo posto all’autodeterminazione, agli esseri umani, agli individui e alla vita privata. “Che il futuro è digitale, sì, ma soprattutto è umano” [Zuboff, p.691]. È ingenuo a dir poco.

 Critica della critica

La favola del buono e del cattivo capitalismo

Il primo punto di disaccordo con Zuboff è sulla storia del capitalismo. Il suo racconto suggerisce che ci sarebbe stato un capitalismo relativamente onesto e sano che sarebbe degenerato intorno all’anno 2000 a causa di alcuni geni del computer e dello stato di emergenza stabilito dopo gli attentati dell’11 settembre. Questo è ovviamente troppo semplice. Tutto il ventesimo secolo testimonia contro l’idea che ci sarebbero tecniche neutre che il capitalismo prende solo in secondo piano. Sappiamo bene che le macchine sono soprattutto un’estensione del capitalismo quando questo vuole aumentare la produttività e fare a meno di manodopera troppo costosa. Inoltre, sorveglianza e controllo come grandi questioni politiche ed economiche appaiono almeno con gli inizi del capitalismo: già nel XVIII e XIX secolo era necessario contare e controllare le merci ma anche monitorare e formare la forza lavoro sfruttabile, proprio come i vagabondi (NT : vedi fra l’altro l’opera di Foucault). Non c’è bisogno di entrare in tutto questo, ma il silenzio di Zuboff su questi aspetti è sorprendente, quando non è sospetto. Sembra infatti avere un certo rispetto per il capitalismo industriale ‘alla Ford’ poiché, nel modello di quest’ultimo, si sarebbe tenuto conto degli interessi dei lavoratori in quanto consumatori: parte dei guadagni di produttività ottenuti sul montaggio delle catene veniva loro pagata e potevano comprare le loro auto a prezzi bassi. Tutto era un sistema e sembrava avvantaggiare tutti. Reagendo e soddisfacendo una domanda sociale realmente esistente, Ford è stato infine lasciato in un compromesso: l’invenzione di Ford ha approfondito il rapporto reciproco tra il capitalismo e queste popolazioni. Le invenzioni di Google, invece, hanno distrutto il rapporto di reciprocità sancito dal suo contratto originario con gli utenti [Zuboff, p.127]. È riduttivo dire che questo approccio ci sembra aberrante quando si pensa alle cadenze imposte e alle forme di vita infernali degli operai della grande industria fordista (discussa nel secondo articolo di questa rubrica).

Anche l’opposizione tra capitalismo industriale e capitalismo della sorveglianza digitale è fuorviante perché l’industria non è mai scomparsa sotto il capitalismo della sorveglianza. Questo è ciò che gli approcci universitari che si ostinano ad affermare il loro concetto di chiave di lettura dei tempi devono sempre nascondere: la persistenza di vecchi modelli e vecchie forme. E questo in molti modi. Zuboff scrive, ad esempio: “Il capitalismo industriale era basato sullo sfruttamento e il controllo della natura – le conseguenze sono catastrofiche, ce ne rendiamo conto solo ora. Quanto al capitalismo di sorveglianza, è strutturato, come ho suggerito, sullo sfruttamento e il controllo della natura umana» [Zuboff, p.624]. Lo sfruttamento e il controllo della natura, infatti, non sono mai cessati per il semplice motivo che il capitalismo odierno, insieme a internet e al digitale, si basa anche sull’industria. Si basano sull’estrazione di materie prime relativamente scarse e su un enorme dispendio di energia. Le produzioni si sommano costantemente e noi continuiamo a devastare il mondo. Ma ciò che è vero per il mondo è vero anche per la natura umana. Un po’ di Marx non guasta: non c’è natura umana al di fuori di un rapporto con un mondo materiale. Se il capitalismo industriale stava distruggendo la “natura”, era perché in qualche modo saccheggiava anche il tessuto etico degli umani che vivevano al suo interno. La distruzione delle comunità tradizionali, l’industrializzazione, le guerre mondiali, la bomba atomica, la società dei consumi, non contano tanto quanto una vasta distruzione del mondo per le persone colpite e i loro discendenti?

 Il diritto e il confort borghese come zoccoli della ’critica’

Al di là dell’analisi del capitalismo, è nella visione più generale del mondo che la nostra visione si discosta radicalmente da quella di Zuboff. Secondo lei, il capitalismo della sorveglianza mette in discussione in 20 anni ciò che ha richiesto anni per formarsi: “questa nuova visione, attraverso le sue dinamiche, minaccia i sistemi – sociali e psicologici, questa volta, e fragili – che hanno anni per raggiungere una certa maturità, migliaia di anni di umana sofferenza e conflitto: chiamiamo questi sistemi la prospettiva democratica e la realizzazione dell’individuo come fonte di giudizio morale e autonomo» [Zuboff, p.683]. Quindi è come se la civiltà fosse arrivata alla “fine della storia” intorno agli anni ‘90 e alcuni ingegneri di Google avessero rovinato tutto. Si tratta ovviamente di una caricatura del pensiero di Zuboff, ma permane il disaccordo sull’idea di un “prodotto finito” di civiltà da salvaguardare. E a ragione, il ‘prodotto finito’ in questione non è altro che l’individuo autonomo che, per molti versi, è più un problema che altro, proprio perché causa e conseguenza di un capitalismo distruttivo. È del tutto impossibile buttarlo a mare e bisognerebbe dedicargli un intero discorso, ma non riteniamo che sia una leva sufficiente o pertinente per contrastare le attuali logiche tecnologiche ed economiche poiché è in realtà il risultato del processo capitalistico stesso. Il singolo utente è tanto il prodotto (in quanto oggetto) del data mining personalizzato, quanto è prodotto (in quanto soggetto) da questo stesso processo. Né si tratta di brandire il suo opposto, il “collettivo” o la “comunità”, che abbiamo visto con Zuboff che il capitalismo di sorveglianza li usa anche per proprio conto. Piuttosto, dovremmo dividere di nuovo queste entità e l’opposizione binaria che costituiscono per considerare attentamente ciò che vogliamo ereditare. Ma questa è un’altra storia.

La teleologia di Zuboff la spinge dunque a difendere una sorta di base etico-politica borghese molto semplice, spoglia, borghese: l’individuo e la sua vita privata. Inoltre, uno dei ‘miti’, assunti come tali, che ritornano più e più volte come contrappunto critico nel libro di Zuboff è la ‘casa’, il ‘santuario’, il ‘rifugio’ di cui ella dà un esempio concreto. Casa consapevole. È il nome di un progetto di ingegneri e scienziati informatici della Georgia Tech, nel 2000, che immaginavano ‘una’ simbiosi uomo-casa’ in cui molti processi animati e inanimati sarebbero stati captati da una complessa rete di ‘sensori sensibili al contesto ‘integrato nella casa e dagli oggetti connessi trasportati dai suoi occupanti’. Il tutto con 3 ipotesi di lavoro: questo tipo di sistema apre un campo di conoscenza completamente nuovo; questa conoscenza e il potere che conferisce devono appartenere ed essere utilizzati dagli abitanti della casa; questa nuova casa digitale rimarrebbe una ‘casa’, un santuario privato per gli abitanti [Zuboff, p.22-23]. Questo modello di Aware Home, Zuboff lo userà di nuovo per mostrare il modello di ciò che desidera: una casa digitale i cui dati non trapelano. Ahimè, si passa poi al business attuale che rappresenta la “casa connessa”: circa 151 miliardi di dollari nel 2023.

A differenza di Zuboff, non vogliamo questa bolla digitale privata, indipendentemente dal fatto che i dati generati vengano sfruttati o meno dai grandi cattivi GAFAM (a tal proposito va notato che Zuboff si concentra principalmente su Google, Facebook, Microsoft e un po’ di Amazon, come se Apple, citata velocemente all’inizio, rappresentasse un futuro digitale più ‘umano’). Primo, perché aiuta ad alienare il mondo reale, sociale. In secondo luogo, perché continuerà a fare affidamento su tecnologie devastanti, abbastanza lontane dalla casa rassicurante. Infine, perché ci sembra che questa bolla privata non sia per niente nella particolarissima impotenza generata dal capitalismo digitale. Come tutto ciò che poggia sulla coscienza e sulla critica, la strategia politica di Zuboff riguarda fondamentalmente l’indignazione: si tratta di uscire dal torpore, recuperare la capacità di stupore, ecc. Non è un’impresa da poco, ma è anche probabile che il capitalismo digitale tolleri abbastanza questo tipo di discorso, soprattutto quando è scritto o letto dietro gli schermi. Del resto, la maggior parte dei meccanismi qui presentati sono già più o meno familiari e non è scontato riferirsi ad essi, soprattutto quando, come Zuboff, vengono attribuiti a poche grandi e lontane aziende. Zuboff fa quindi un po’ di chiarezza esponendo nei dettagli chiaramente strategie ‘nemiche’ che spesso preferiscono rimanere segrete, ma porta anche, a sua volta, la sua parte di impotenza, una sorta di indignazione silenziosa che difficilmente si converte in qualcosa altro.

Note:

[1] Vedi anche: http://effimera.org/capitalismo-sorveglianza-geraldine-delacroix/https://www.monde-diplomatique.fr/2019/01/ZUBOFF/59443

[2] ’The anatomy of a large-Scale Hypertextual Web Search Engine’, S. Brin et L. Page

[3] ’Gli investitori gridano all’assassinio. Gli anni di gioventù e d’inesperienza della Tech erano finiti, e non era certo che a sua volta Google evitasse di finire come una radice schiacciata’, Steven Lévy, storico di Google, citato da Zuboff p.107.

[4] Brevetto depositato da 3 ingeneri di Google nel 2003, citazione di Zuboff p.116.

[5] Richard Thaler e Cass Sunstein, economisti, citati da Zuboff, p.397

[6] A. Rouvroy e T. Berns, di cui Zuboff non parla altrove.

Leave a Comment

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>