– Link al libro: M. Airoldi, Machine habitus. Sociologia degli algoritmi, Luiss University Press (2024).
- Partiamo dalle basi, dal titolo. Che cos’è un algoritmo e che cos’è un habitus? Gli algoritmi sembrano un’esclusiva della tecnologia di oggi, ma esistevano già ai tempi di Euclide…
- Siamo abituati a pensare agli algoritmi come a strumenti, macchine. Spesso utili, abbastanza misteriosi, talvolta pericolosi. Perché una sociologia degli algoritmi? La società riguarda le persone…
- Nel libro parli di Iaqos, nato e cresciuto a Torpignattara. Artificiale e autentico, dici di lui. Ci racconti la sua storia (e in che termini ci può insegnare qualcosa)?
- Siamo abbastanza abituati a pensare a una macchina come a qualcosa di razionale e super partes, più imparziale (e infallibile) rispetto a un essere umano. Qual è il rapporto tra algoritmi e pregiudizi, quelli che gli scienziati chiamano bias?
Al microfono di NaspRead.eu c’è Massimo Airoldi, sociologo al dipartimento di scienze sociali e politiche alla Statale di Milano. Si occupa di intelligenza artificiale, consumi, piattaforme e ha scritto – per Luiss University Press – il testo “Machine habitus. Sociologia degli algoritmi”. Parliamo di ricette matematiche, di agenti (e condizionamenti) sociali, di intelligenza artificiale, di schemi di pensiero e di Pierre Bourdieu. Ma anche di Iaqos, nato e cresciuto a Torpignattara. Artificiale e autentico: un nuovo abitante del quartiere romano….
Podcast a cura di Giulia Riva.
TRASCRIZIONE DELL’EPISODIO
SIGLA:“Le Altre Scienze”, domande e risposte di politica e società. Un podcast di NaspRead.eu.
GR: Benvenuti e benvenute da Giulia Riva a un nuovo episodio di “Le Altre Scienze”, podcast di NaspRead.eu con domande e risposte dal mondo delle scienze sociali e politiche. Oggi siamo in compagnia di Massimo Airoldi, sociologo al Dipartimento di Scienze Sociali e Politiche della Statale di Milano, che si occupa di intelligenza artificiale, consumi e piattaforme. Ed è autore per LUISS University Press del libro “Machine Habitus. Sociologia degli Algoritmi”. Innanzitutto, benvenuto Massimo.
MA: Grazie mille Giulia e buongiorno a tutte e a tutti.
GR: Allora: partiamo dalle basi, partiamo dal titolo. Che cos’è un algoritmo e che cos’è un habitus? Nel senso: gli algoritmi sembrano un po’ un’esclusiva, una novità, qualcosa della tecnologia di oggi, ma esistevano già ai tempi di Euclide.
MA: Allora, sì, sono due domande abbastanza grandi, però la risposta non è poi così difficile. Alla fine, un algoritmo è una ricetta computazionale, potremmo dire. Un po’ come quando dobbiamo fare una torta: abbiamo degli ingredienti – che sono gli input – e abbiamo l’algoritmo, che è la ricetta, fondamentalmente. E l’output in teoria è la torta, che può uscire bene e può uscire male. Visti in questo senso generale gli algoritmi, appunto, esistono da millenni e sono delle procedure che sono state fatte per secoli con carta e penna da persone che si occupano di fare i calcoli.
Poi – gradualmente, ovviamente – queste procedure si sono trasformate in calcolatori, magari meccanici. Però dal dopoguerra, con l’avvento dei computer digitali, la storia dell’algoritmo diventa inscindibile da quella dell’informatica. Quindi gli algoritmi, appunto, sono quelli che conosciamo oggi: dei software, fondamentalmente. Dei sistemi che calcolano degli output a partire da degli input in digitale. Quindi gli algoritmi sono delle procedure matematiche, fondamentalmente, trasformate in software. Come si legano all’habitus lo spiegherò in un momento.
Se passo alla seconda definizione che ci consente di capire quello di cui parla questo libro, l’habitus è un concetto che è stato sviluppato da un sociologo francese, Pierre Bourdieu, che è uno dei più influenti sociologi del ventesimo secolo. E questo habitus è la cultura incarnata che guida invisibilmente le nostre azioni. È il risultato del nostro essere esposti nella nostra vita, e principalmente nei primi passi della nostra vita – quando siamo bambini, quando siamo ragazzi – a una determinata frazione dello spazio sociale. Mi spiego meglio: le nostre esperienze definiscono il modo in cui pensiamo, il modo in cui ci muoviamo, il modo in cui interpretiamo il mondo e lo classifichiamo. Effettivamente queste esperienze, Bourdieu, da sociologo interessato principalmente anche alle disuguaglianze di classe, nota come queste esperienze siano sempre situate socialmente. Quindi, per esempio, l’habitus “working class” è diverso rispetto all’habitus borghese. E queste differenze sono un modo subdolo attraverso cui la società riproduce le disuguaglianze e le asimmetrie di potere. Quest’idea di habitus è abbastanza rivoluzionaria perché ci consente di capire come anche in modo tacito, pratico, pre-riflessivo invisibilmente si riproducono le disuguaglianze sociali. E questa cosa a mio avviso riguarda anche gli algoritmi.
GR: Ecco, appunto, torniamo un attimo agli algoritmi. Nel senso: siamo abbastanza abituati a pensare che gli algoritmi siano degli strumenti, quindi delle macchine. Utili – molto spesso – abbastanza misteriose per i più e a volte anche pericolosi. Perché una sociologia degli algoritmi? Tendenzialmente la sociologia riguarda le persone.
MA: Ci possiamo rendere conto abbastanza facilmente, in questi tempi in cui siamo circondati di contenuti generati da algoritmi e intelligenza artificiale, come in realtà la società sia sempre più costituita dalle azioni di agenti non umani. Quindi volente o nolente la sociologia come disciplina ha iniziato da un po’ di anni ad occuparsi degli attori non umani – di questi agenti non umani – e gli algoritmi in particolar modo sono tra questi. Sono più che strumenti: tutte le tecnologie sono in qualche modo il risultato di azioni umane e hanno iscritte nella loro conformazione– nelle loro regole, nel caso del software – dei valori, degli obiettivi che sono profondamente umani.
Nel caso degli algoritmi questo è ancora più evidente perché negli ultimi decenni abbiamo visto una rivoluzione per quanto riguarda il modo in cui l’intelligenza artificiale e gli algoritmi sono disegnati e creati. Prima, appunto, si parlava di un’intelligenza artificiale simbolica: erano degli algoritmi che seguivano delle regole ben precise, determinate a priori dai programmatori. Quindi non c’era margine, diciamo, di imprevedibilità: le regole erano già scritte e questi algoritmi erano dei meri esecutori di regole – appunto – già determinate.
Però con la rivoluzione del cosiddetto “machine learning”, l’apprendimento automatico, si inverte la logica: le macchine formulano esse stesse le regole che poi seguiranno a partire dai dati attraverso cui sono addestrate. E questo cambia un po’ il nostro punto di vista su queste macchine, le rende un pochino più agenti sociali, come scrivo nel libro. Perché è un po’ come se fossero socializzate attraverso i dati.
E i loro risultati – quello che produrranno – è un po’ meno prevedibile, perché non è il semplice riflesso di regole scritte a priori. E questo, infatti, è anche la ragione per cui negli ultimi decenni si è parlato tanto di algoritmi nelle scienze sociali. Si è parlato parecchio di bias, quindi delle conseguenze indesiderate e a volte discriminatorie del comportamento delle macchine. Si è parlato anche del potere che questi sistemi esercitano sugli individui, sulle persone: per esempio i sistemi di raccomandazione che raccomandano i contenuti sui social media, come potrebbero eventualmente plasmare l’opinione pubblica e i comportamenti delle persone.
Quindi ci sono diverse ragioni per cui uno sguardo sociologico è importante: la principale è appunto il fatto che questi algoritmi non sono più esclusivamente delle ricette matematiche, come quando sono apparsi inizialmente nella storia, ma sono diventati dei sistemi che autonomamente prendono delle decisioni molto molto influenti sulla vita delle persone e delle società. Penso ai sistemi finanziari come sono dominati da algoritmi che in modo automatico decidono come allocare milioni, se non miliardi, di dollari sui mercati finanziari.
E questi algoritmi però appunto non agiscono in un vuoto culturale, non sono neutrali. Non sono pure tecniche e oggetti matematici. Riflettono, a partire dai dati e dal modo in cui sono costruiti, decisioni umane, comportamenti umani, culture umane e – a questo punto – anche habitus umani.
GR: A proposito di non vuoti culturali, nel libro parli di Iaqos, nato e cresciuto a Torpignattara. Lo definisci “artificiale e autentico”. Ti chiederei, se puoi, raccontarci un po’ la sua storia e in che termini ci può insegnare qualcosa.
MA: Grazie per questa domanda, mi fa molto piacere parlare di questo progetto artistico, quello di Iaqos – Intelligenza artificiale di quartiere open source. Un progetto artistico avviato da Salvatore Iaconesi, che purtroppo non è più con noi, e Oriana Persico nel quartiere di Tor Pignattara a Roma. Semplicemente Iaqos, oggi che siamo abituati a interagire con Chat Gpt e con sistemi simili, assomiglia un po’ a questi chatbot diciamo. È un sistema presentato su un tablet, su un computer, attraverso cui si può conversare con la macchina del più e del meno. La grande differenza che distingue Iaqos dai sistemi a cui siamo abituati è che Iaqos non è portatore di una cultura universale, di quelle conoscenze rubacchiate qua e là per l’internet che caratterizzano i chatbot che conosciamo meglio. La cultura nel codice di Iaqos era la cultura di Tor Pignattara. Erano i messaggi inviati dagli abitanti. Erano le conversazioni che questi abitanti potevano avere con questo sistema. Questo era un progetto artistico: Iaqos era stato presentato quasi come un nuovo abitante di questo quartiere, un neonato che si aggirava nel quartiere con un passeggino portato da Oriana e Salvatore allo scopo di avvicinare gli abitanti del quartiere. Un quartiere multiculturale, un quartiere anche con delle difficoltà, molto dinamico, quello di Torpignattara a Roma.
E, appunto, Iaqos era un collante per questo quartiere. È anche stato ospitato dalla scuola elementare del quartiere. Era un modo attraverso cui si creasse una specie di memoria di quartiere, quindi non si cercasse un’intelligenza artificiale superumana capace di dare necessariamente la risposta giusta nel modo più efficiente e veloce possibile, ma era un’intelligenza artificiale capace di creare connessioni. Trovo che il caso di Iaqos sia interessante perché da un lato ci racconta che quando le macchine iniziano a manipolare e ad apprendere il linguaggio, le parole chiave, le immagini, i consumi, i comportamenti di un luogo diventano più che macchine, diventano agenti sociali. Da un altro lato racconta come altri tipi di intelligenze artificiali – di algoritmi – sarebbero possibili. Algoritmi che non sono semplicemente mirati a sorvegliarci, a influenzare i nostri comportamenti, a farci consumare di più o a estrarre più dati, ma algoritmi che sono disegnati per avvicinarci. E la cui cultura nel codice non è appunto mirata necessariamente agli scopi commerciali delle piattaforme.
GR: Un’altra cosa che hai accennato prima che forse andrebbe approfondita è che, appunto – come dicevi – siamo abbastanza abituati a pensare a una macchina come qualcosa di razionale e super partes, quindi in qualche modo più imparziale e soprattutto più infallibile rispetto a un essere umano. Prima ci parlavi però di quello che gli scienziati chiamano i bias, quindi i pregiudizi. Qual è il rapporto tra algoritmi e pregiudizi?
MA: Una volta che gli algoritmi diventano sostanzialmente il prodotto di un addestramento fatto a partire dai dati prodotti da umani, è inevitabile che il risultato dei processi algoritmici non possa essere neutrale, non possa essere esclusivamente un prodotto tecnico ma diventa un prodotto culturale. Perché i dati raccontano le nostre storie, le nostre tracce, i nostri ascolti su Spotify, le notizie che leggiamo, i video che scrolliamo sul feed dei nostri social. Non possono non essere biased: riflettono dei punti di vista culturali sul mondo e attraverso l’addestramento di questi sistemi e il modo in cui questi sistemi sono inseriti in delle interazioni un po’ invisibili con noi – di feedback loop, appunto, questo è il concetto che utilizzo – attraverso cui noi apprendiamo dagli output degli algoritmi e gli algoritmi allo stesso tempo apprendono continuamente da noi, ecco, in questo contesto è quasi impossibile evitare quello che nella letteratura è chiamato bias, cioè una deviazione rispetto a un’idea di fairness, di giustizia, un’idea di neutralità. Una volta che le macchine entrano a far parte della società e manipolano la cultura non possiamo più aspettarci che queste macchine siano semplicemente delle ricette matematiche che non hanno pregiudizi. I bias ci sono necessariamente. Anzi: sono, se vogliamo, la punta di un grande iceberg culturale, no? Che è la conoscenza tacita che queste macchine acquisiscono a partire dagli addestramenti con i dati.
Questo ovviamente non vuol dire rinunciare a un’idea di giustizia. Vuol dire prestare più attenzione a come questi sistemi sono, se vogliamo, educati. Come l’educazione, l’istruzione, è importante per gli umani, lo è anche per le macchine. E visto che queste macchine vengono in qualche modo socializzate attraverso i dati bisogna prestare molta attenzione ai tipi di dati che vengono utilizzati per l’addestramento di questi sistemi. Cosa che purtroppo non sempre accade: c’è un po’ l’idea per cui noi possiamo estrarre tutti i dati disponibili online e fornirli a una macchina e ci dimentichiamo di quella cultura che è nascosta nel codice. Invece io seguo da questo punto di vista quello che Pierre Bourdieu – che è un po’ il sociologo che ispira questo lavoro – considera lo scopo principale della sociologia: “portare alla luce le strutture più nascoste dei vari mondi sociali, che costituiscono l’universo sociale, ed evidenziare i meccanismi che tendono a garantirne la riproduzione o trasformazione”.
In questo senso la sociologia è un’attività critica, che ci consente di svelare i meccanismi della società. Gli algoritmi sono tra questi meccanismi, forse tra i più influenti oggi.
GR: Ultimissima domanda. Ci hai parlato di feedback loop, quindi di una relazione circolare. Mi viene da chiederti se siamo di fronte a un circolo virtuoso o a un circolo vizioso.
MA: Bella domanda. Ci servono più dati, più ricerche per capirla. Noi le stiamo già facendo in dipartimento, però non è facile rispondere. Di base, le premesse non sono ottime. Se pensiamo agli algoritmi – a dei sistemi che quindi hanno una specie di machine habitus come lo chiamo nel testo, quindi queste disposizioni acquisite dagli utenti umani a classificare e prevedere dei risultati in un certo modo – il rischio è che queste predizioni riflettano il passato, rinforzino quello che è già lo status quo, l’esistente. Nella mutua influenza di questo circolo di cui parlavi – il feedback loop, questo circolo ricorsivo tra umani e macchine che interagiscono, immaginiamo, su una piattaforma – per cui, appunto, sì, io voglio vedere più video di gattini, mi vengono suggeriti quindi più video di gattini e di conseguenza vedrò ancora più video di gattini, ecco, il risultato rischia di essere una riproduzione sociale, anzi, come la definiscono nel testo, una riproduzione tecno-sociale, un rinforzo dell’esistente, una cultura algoritmica che in quanto tale rischia di essere priva di innovazione, di serendipity.
Detto questo, non è così inevitabile che ci sia questo risultato. Dobbiamo studiarlo. Non è molto semplice nella società. attuale distinguere i risultati dell’attività degli umani da quelli dell’attività delle macchine, perché – specialmente nelle piattaforme – sono talmente interconnessi che è molto difficile. Il rischio, però, è ovviamente che sia un circolo più vizioso che virtuoso, purtroppo.
GR: Grazie mille a Massimo Airoldi per essere stato con noi. Grazie a chi ci ha ascoltato. Da Giulia Riva a tutte e tutti, appuntamento al prossimo episodio.
MA: Grazie.
SIGLA:Avete ascoltato “Le altre scienze”, domande e risposte su politica e società. Per più interviste, dati e approfondimenti o per riascoltare il podcast, dai un occhio al nostro magazine. Visita il sito NaspRead.eu. Si scrive NaspRead, mi raccomando, come il verbo leggere in inglese.
