La società "sanificata" degli sciami digitali

La verità è opinione da blastare sotto il Potere invisibile di algoritmi a cui stiamo affidando il controllo dei corpi e delle nostre paure. Concludendo l’opera di cosmesi della Democrazia (4/4)

Anziana alla finestra: il primo sistema di sorveglianza inventato nella storia dell’Uomo

Grazie alla riprogrammazione di cui parla Han la società "razionale", la società del dubbio e della contestazione si involve in una società "emotiva", che accetta quasi per fede insindacabile ciò che la circonda e la permea. Una involuzione che demolisce il senso e l'azione dell'essere "comunità" per rinchiudere le persone in "sciami" digitali, asserragliate in microfortezze – le " camere dell'eco" – da cui difendere la propria visione del mondo da una realtà che oggi non rappresenta più quel collante sociale che era in passato, come ben dimostra la diffusione di idee antiscientifiche, molte delle quali di facile verifica, in risposta alla sindemia del Covid-19.

Due effetti evidenti di tale trasformazione riguardano la diffusione di fake news - e dei movimenti che le promuovono, come antivaccinisti, negazionisti del cambiamento climatico - e del cosiddetto slacktivism¹, una pratica di finta protesta che, ingabbiando l'attivismo all'interno delle regole dei social network, lo priva di un impatto politico significativo sul mondo reale. Molto spesso, anzi, questa forma di momentanea indignazione rimane all'interno di veri e propri recinti-policy, forme di autoriduzione al silenzio che evitano a chi le pratica la chiusura o l'oscuramento del profilo: la battaglia contro la censura dei capezzoli femminili su Instagram, che fuori dalla "bolla" non scalfisce in alcun modo il "sistema patriarcale", qualunque cosa questo termine ormai voglia dire, ne è esempio perfetto.

Come nello slacktivism, anche negli "sciami" teorizzati da Han – che li definisce "assembramenti senza riunione"² – non si sviluppa alcuna energia di matrice politica "insurgente". Ciò che invece si sviluppa è una forma di sorveglianza "orizzontale", un sistema in cui l'individuo «interiorizza la sorveglianza».

e il potere disciplinante si fa invisibile mentre impone una visibilità permanente ai suoi sudditi³

Il Potere dell'algoritmo ignoto

Una definizione che rispecchia alla perfezione l'idea di "Black box society" teorizzata dal professor Frank Pasquale⁴: nei fatti un progetto di società del controllo in cui governi e aziende private di Silicon Valley e Wall Street tracciano le nostre vite digitali, seguendo le tracce che noi stessi lasciamo, per mettere poi i risultati a disposizione di algoritmi dal funzionamento ignoto persino a chi dovrebbe esserne esperto, con tutto ciò che questo significa in termini di impatto sulla vita delle persone comuni.

A questi algoritmi, ad esempio, stiamo lasciando l'amministrazione della giustizia – che così si fa "predittiva" – dell'istruzione attraverso l'assegnazione dei docenti, nella concessione di mutui o per il sempre più diffuso e pericoloso riconoscimento facciale. Il tutto dietro la falsa convinzione che gli algoritmi siano strumenti tecnici e neutrali.

Ma finché gli algoritmi «rimarranno oscuri», scrive nel 2015 Giorgio Fontana su Internazionale, «non avremo alcun modo di distinguere il buon funzionamento dall'abuso»: firmando contratti che non leggiamo, stiamo affidando le nostre vite private e pubbliche a «poteri invisibili fondati sulla segretezza legalizzata», in una evoluzione degli «arcana imperii» già messi in luce da Norberto Bobbio a partire dal 1981.

Ad oggi c'è un'unica certezza intorno agli algoritmi, come emerge nitidamente da "Coded Bias", un documentario di Shalini Kantayya del 2020 su un progetto di ricerca della dottoressa Joy Buolamwini⁵ - "Aspire Mirror" – sui pregiudizi socio-economici del riconoscimento facciale e, in generale, degli stessi algoritmi, creati all'interno della visione sul mondo degli esseri umani che li addestrano. Una condizione di partenza che li rende strumenti non-democratici e propalatori di disuguaglianza, discriminazione ed oppressione.

Non a caso questi strumenti vengono sviluppati partendo dalle fasce meno abbienti, più emarginate e meno protette della popolazione: veri e propri "algoritmi dell'oppressione", li definisce la professoressa Safiya Umoja Noble⁶.

Criptogoverno 2.0

L'era della fede cieca nelle grandi masse di dati deve finire

sostiene in un TedTalk dell'ottobre 2018 la matematica e scrittrice Cathy O'Neil⁷, secondo la quale «i modelli sono opinioni incastrate in strutture matematiche». Opinioni che, è ridondante sottolinearlo, non rispecchiano la visione e la posizione delle comunità marginalizzate, oppresse o sfruttate ma quella del Potere – soprattutto di natura finanziaria – che marginalizza, opprime e sfrutta.

Lo stesso Potere, scrive Leslie Kern ne “La città femminista”⁸, che costruisce l'architettura delle città con gli stessi pregiudizi da "vetri rotti" inscritti nel codice sorgente degli algoritmi. È il "criptogoverno" che fa l'upgrade ai propri connotati, citando ancora Bobbio e il suo lavoro sul "Potere invisibile" di oltre 40 anni fa.

Quanto sostiene O' Neil si vede plasticamente nel più importante cambiamento tecno-antropologico dopo la diffusione di internet come strumento di massa: la sua trasformazione da biblioteca pubblica – una visione al centro del Guerrilla Open Accesso Manifesto, redatto da Aaron Swartz nel 2008 – a mercato globale con l’arrivo dei social network.

Il terrorista inconsapevole e lo psicosorvegliante di corpi

In questo "regime dell'informazione", temi come visibilità e trasparenza assurgono al ruolo di armi politiche, ad uso esclusivo di gruppi politico-economici che detengono il potere di controllare e indirizzare i comportamenti sociali, sia degli individui che delle comunità.

Chiunque provi a mettere in crisi questo assioma, diventa il nemico pubblico numero uno per conseguenza logica: se il "regime dell'informazione" è guidato dai buoni, il Prometeo che prova a rubare questo potere non può che essere il cattivo, il "terrorista", come da sempre viene trattato Julian Assange, seppellito vivo nel carcere di massima sicurezza di Belmarsh (Londra) mentre altri giornalisti rendevano di dominio pubblico i piani della Cia per ucciderlo.

Fin dalla diffusione dei Collateral Murder (5 aprile 2010), infatti, Wikileaks lavora per ribaltare – e dunque democratizzare – il potere della trasparenza, trasformandolo da sistema di sorveglianza del Potere sulle persone in strumento di controllo delle persone sul Potere.

Così, concludono gli studi di Byung-Chul Han, la sorveglianza "psicopolitica" riesce ad essere ancor più pericolosa della biopolitica focaultiana: se questa agisce infatti sulla regolazione e il controllo dei corpi – docili o insurgenti che siano – la prima lavora ad introiettare il paradigma dell'autosorveglianza nella mente delle persone comuni e, dunque, nel nostro modo di guardare al mondo.

Prima lezione di critica alla Democrazia “cosmetica“ occidentale

Negli ultimi anni questa visione sembra mutare per effetto di un «incrinarsi» dell'«ordine costituito che ha generato consenso per decenni», come scrive il professor Stefano Boni nella prefazione italiana alla Critica della democrazia occidentale di David Graeber⁹. Un «ordine» che tra le altre cose, si legge nel testo, pone a proprio fondamento il partitismo per la gestione della res publica e nell'alternanza dei gruppi dirigenti; sul «consumismo» e l'«accettazione della devastazione ambientale» oltre che sulla «credenza diffusa della superiorità dell'Occidente».

Un Occidente che, trasformato in urFortezza, muove guerre "umanitarie" per salvaguardare un diritto – quello di difendere ed esportare «giustizia e verità», come le definisce Boni – di cui non è titolare e che non esercita nemmeno al suo interno: il migrante che non muore su confini sempre più militarizzati serve solo per lo sfruttamento economico, mentre l'unica azione politica legale è quella che ha «peso politico ridotto, ininfluent[e] al dispiegarsi del potere».

Per difendere questo status quo e una (in realtà precaria) posizione di vertice nella gerarchia sociale, il criptogoverno – riprendendo la definizione di Bobbio – lavora per rafforzare la percezione di insicurezza delle persone e, per logica conseguenza, per una più forte richiesta/offerta di protezione e sicurezza da parte delle stesse istituzioni che (pro)muovono l'azione di un "ministero globale della Paura"¹⁰: uno dei tanti volti della "Teoria dello Shock" resa nota dalla giornalista e attivista Naomi Klein nell'omonimo libro del 2007¹¹ e applicata, oggi, nella sua massima potenzialità di regime di governo, controllo e sorveglianza del Potere sulle persone.

"Ti lascerai dietro le catastrofi, ma sopra ci sarà il copyright"

Sotto un meccanismo che agisce tanto la biopolitica foucaultiana quanto la psicopolitica teorizzata da Han, crisi ed emergenze diventano veri e propri strumenti di governo e non più condizioni momentanee e non sempre prevedibili. scrive il professor Massimo De Carolis in <em>Convenzioni e governo del mondo¹² che

il risultato è che l'insicurezza, l'instabilità e il senso di impotenza di fronte alla catastrofe imminente fanno ormai parte dello spirito del tempo e della normalità quotidiana di milioni di persone», scrive il professor Massimo De Carolis in Convenzioni e governo del mondo[...]Ci stiamo anzi abituando a convivere con simili focolai di insicurezza, integrandoli nella normalità come altrettante patologie croniche

L'esempio più attuale e lampante è la gestione della finta "emergenza" migranti lungo l'intera frontera sur della urFortezza euro-statunitense, gestita con la lente della repressione e del decoro urbano per non evidenziarne le dinamiche di economia predatoria – e criminale – sfruttamento dei territori del Sud Globale e violazione della libertà di movimento delle persone.

Se cade la prima tessera del domino...

«Surriscaldamento» (overheating): ha usato questa metafora l’antropologo[…]Thomas Hylland Eriksen per descrivere l'espansione e l'accelerazione frenetiche che hanno caratterizzato ogni attività nell'ultimo quarto di secolo all'insegna della globalizzazione

scrive Mariangela Pira, giornalista economica oggi a SkyTg24, in “Effetto Domino. Come il mondo globale influenza le nostre tasche¹³”.

Il neoliberismo ci ha illuso che stessimo andando nella direzione giusta, verso un progresso senza limiti. Tutto è cresciuto – il Pil e i commerci, le popolazioni e le città, i consumi e le comunicazioni – fino a che, in mancanza di un termostato che ci indicasse quando smettere, ci siamo ritrovati in un mondo sovraccarico di merci, rifiuti, persone, informazioni. E sono scoppiate le crisi legate al clima, alle disuguaglianza, alla scarsità di risorse, alle migrazioni

Fermare la triplice Catastrofe a colpi di Democrazia

Ci stiamo abituando – meglio: ci stiamo facendo abituare – a trovare soluzioni locali ad una catastrofe «totalitaria», come la definisce l'economista Emiliano Brancaccio. Una catastrofe formata da crisi - «pandemica», «climatica» e «democratica» - figlie della logica strutturale del sistema che stiamo abitando e che, proprio per questo, «sono così difficili da scongiurare»¹⁴. Una difficoltà su cui, continua l'economista autore tra gli altri di Democrazia sotto assedio, pesa l'assenza di analisi sulle "leggi di movimento" del sistema¹⁵, cioè le leggi generali che danno origine all'alternanza di crisi ed emergenze e che oggi gestiscono il movimento dei capitali e del capitalismo, dal punto di vista economico quanto politico della società.

La spaventosa concentrazione del potere economico nelle mani di una ristretta oligarchia plasma a sua immagine l'intero sistema dei rapporti in cui viviamo

scrive ancora Brancaccio¹⁶, validando quanto scrive De Carolis in Convenzioni e governo del mondo riguardo la necessità di indagare il «legame profondo tra governo politico e governo economico», tra «l'ordine politico basato sulla sovranità dei singoli Stati» e «l'ordine economico assicurato dall'autogestione»¹⁷, per comprendere la realtà.

Una realtà in cui il regime dell'informazione, le nuove tecniche di controllo e depoliticizzazione di corpi "docilizzati", lavorano con fare instancabile per perpetuare e rafforzare l'instabilità sociale, politica ed economica del mondo, sostenendo quelle istituzioni – come Stati-nazione, mercati, governi, confini, alta finanza – che sono direttamente imputabili della «catastrofe» e dell'«assedio» cui è sottoposta la Democrazia.

---

Questo articolo è il quarto di una serie di quattro sull'Architettura dell'Oppressione, un nuovo sistema di controllo economico, politico, digitale ed urbanistico in cui sorvegliare significa controllare corpi, emergenze e paure sociali. Leggi gli altri articoli: “Introduzione all’Architettura dell’Oppressione“; “Educati all’oppressione”; “Malvenuti nell’urFortezza”;

---

Note:

1. Definito anche come "attivismo pigro" è un modo per disattivare la partecipazione politica delle persone facendo credere loro che il semplice uso non impegnato dei social network - ad esempio firmando petizioni non verificate, condividendo post o commentando notizie - possa cambiare la situazione politica, sociale o economica nel mondo analogico

2. Byung-Chul Han, "Nello sciame. Visioni del digitale", Roma, Edizioni Nottetempo, 2015", p.25

3. Byung-Chul Han "Infocracia. La digitalización y la crisis de la democracia", Madrid, Taurus editorial, 2022, p.13

4. Frank Pasquale è professore di diritto alla Brooklyn Law School e alla Cornell Tech and Cornell Law School, considerato uno dei massimi esperti in diritto dell'Intelligenza artificiale, degli algoritmi e del machine learning, ovvero del modo in cui i computer possono apprendere dai dati che vengono loro forniti

5. Joy Buolamwini è informatica del MIT Media Lab e attivista fondatrice dell'Algorithmic Justice League. Un suo progetto basato sul riconoscimento facciale, l'"Aspire Mirror", ha permesso di individuare il bias razziale dell'algoritmo di base, è lo spunto che permette alla regista statunitense Shalini Kantayya di dirigere "Coded Bias"

6. Safiya Umoja Noble è ricercatrice in studi informatici e professoressa di studi di genere e studi afro americani all'Università della California, Los Angeles (UCLA) dove ha fondato e dirige il Centro per lo studio critico di internet (UCLA Center for Critical Internet Inquiry) ed è membro della Cyber Civil Rights Initiative. È autrice di "Algorithms of Oppression: How Search Engines Reinforce Racism" (NYU Press, 2018)

7. Cathy O'Neil è matematica e scrittrice statunitense, autrice tra gli altri di "Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy" (New York, Crown Publishing Group, 2017), in italiano: Armi di distruzione matematica (Milano, Bompiani, 2017)

8. Leslie Kern è professoressa associata di Geografia e Ambiente oltre che direttrice del programma su donne e studi di genere dell'Università canadese Mount Allison di Sackville. È autrice, tra gli altri, di "Feminist City: Claiming Space in a Man-Made World", New York-Londra, Verso Books, 2021, in italiano: "La città femminista: la lotta per lo spazio in un mondo disegnato da uomini", Roma, Treccani, 2021

9. David Graeber, There Never Was a West, Or, Democracy Emergence From the Spaces In Between", in "Possibilities: Essays on Hierarchy, Rebellion, and Desire", Chico (California, Stati Uniti), AKPress, 2007 (in italiano: "Critica della democrazia occidentale", Milano, Elèuthera, ed.2019. Traduzione di Alberto Prunetti). David Graeber (1961-2020) è stato un antropologo e docente di antropologia culturale all'Università di Yale, attivista – tra le altre in Occupy Wall Street – scrittore e tra i principali pensatori anarco-libertari degli ultimi decenni. Stefano Boni insegna Antropologia politica presso l'Università di Modena e Reggio Emilia

10. Personaggio inventato da Antonio Albanese nel 2008 per lo spettacolo teatrale Psicoparty e più volte ripreso nella trasmissione di Rai3 Che tempo che fa

11. Naomi Klein "The Shock Doctrine: The Rise of Disaster Capitalism", New York, Random House, 2007; in italiano "Shock Economy. L'ascesa del capitalismo dei disastri", Milano, Rizzoli, 2008. Traduzione Ilaria Katerinov

12. Massimo De Carolis, "Convenzioni e governo del mondo", Macerata, Quodlibet, 2023, p.9. De Carolis insegna Filosofia politica e Filosofia sociale all'Università di Salerno

13. Mariangela Pira, "Effetto Domino. Come il mondo globale influenza le nostre tasche", Milano, Chiarelettere, 2023, p.8

14. Emiliano Brancaccio, "Democrazia sotto assedio", Milano, Piemme edizioni, 2022, p.21

15. Nella teoria marxista sono le tendenze di lungo periodo nel movimento del capitalismo. Karl Marx ne individua 5: legge della miseria crescente; caduta del saggio di profitto; tendenza al peggioramento della crisi; concentrazione e centralizzazione del capitale; nascita del socialismo

16. Brancaccio, op.cit., p.19

17. De Carolis, op.cit., pp.13-14