L’arsenale high-tech europeo di tecnologie per le frontiere \u00e8 spesso raccontato come una storia futuristica di luce, velocit\u00e0 e potenza di calcolo. Sistemi di identificazione come il database Eurodac memorizzano, elaborano e confrontano le impronte digitali digitalizzate dei migranti utilizzando la luce del vicino infrarosso, cavi in fibra ottica e server centralizzati. I droni pattugliano i cieli con i loro sensori ottici non visibili. E grandi volumi di dati vengono inviati a programmi informatici che prevedono il prossimo aumento degli arrivi.<\/p>\n\n\n\n
Giornali<\/a> e rapporti delle ONG<\/a> che si concentrano sulla natura high-tech dei confini europei abbondano. Ognuno di essi evidenzia come le forme di sorveglianza, deterrenza e controllo a distanza vadano sempre pi\u00f9 a integrare e, in alcuni casi, a sostituire le fortificazioni di confine. Se da un lato questo tipo di ricerca e di advocacy \u00e8 essenziale per chiedere conto all’UE e agli sviluppatori di tecnologie del loro ruolo nell’indirizzare i richiedenti asilo verso le rotte migratorie letali<\/a>, dall’altro non tiene conto della lunga storia di queste tecnologie e del loro ruolo consolidato negli apparati di governance occidentali. Questo non solo rischia di amplificare “AI hype<\/a>” tra i politici e gli sviluppatori, che acclamano questi strumenti come mezzi sia per creare confini “pi\u00f9 intelligenti” sia per proteggere i diritti umani dei migranti<\/a>.Ma soprattutto, questo tipo di amnesia storica pu\u00f2 anche fraintendere la violenza e le esclusioni messe in atto da queste tecnologie come un problema tecnico di “bias” facilmente correggibile con misurazioni pi\u00f9 accurate o set di dati pi\u00f9 ampi.\n\n\n\n L’impiego di tecnologie avanzate per il controllo della mobilit\u00e0 umana \u00e8 tutt’altro che una novit\u00e0. Immaginate una stazione di polizia urbana europea alla fine del XIX secolo. Se la municipalit\u00e0 avesse adottato le pi\u00f9 recenti tecnologie di identificazione, i sospetti sarebbero stati sottoposti a un complesso processo di misurazione. Prendere le misure era un processo preciso e altamente specializzato, che richiedeva un tecnico esperto e addestrato.<\/p>\n\n\n\n Considerate queste istruzioni per misurare un orecchio<\/a>:<\/p>\n\n\n\n L’operatore porta la ganascia fissa dello strumento a contatto con il bordo superiore dell’orecchio e lo immobilizza, premendo con decisione il pollice sinistro sull’estremit\u00e0 superiore della ganascia dello strumento, con le altre dita della mano appoggiate sulla sommit\u00e0 del cranio. Con il gambo del calibro parallelo all’asse dell’orecchio, spinge delicatamente la ganascia mobile fino a toccare l’estremit\u00e0 inferiore del lobo e, prima di leggere il numero indicato, si assicura che il padiglione auricolare [parte esterna dell’orecchio] non sia in alcun modo depresso da nessuna delle due ganasce.1<\/a><\/p>\n<\/blockquote>\n\n\n\n Questo processo pu\u00f2 sembrare una pittoresca seppure curiosa reliquia della Fin de Si\u00e8cle, ma \u00e8 tutt’altro. Il Bertillonage, il sistema di misurazione, classificazione e archiviazione per l’identificazione dei criminali ideato negli anni Settanta del XIX secolo dall’omonimo impiegato della polizia francese, \u00e8 stato una pietra miliare nella storia della tecnologia di sorveglianza e identificazione. \u00c8 sorprendente che i suoi principi fondamentali siano alla base delle tecnologie di identificazione ancora oggi, dal database alla biometria e all’apprendimento automatico.<\/p>\n\n\n\n Esiste un legame stretto e storicamente consolidato tra i timori legati alla circolazione incontrollata di vari “indesiderabili” e l’innovazione tecnologica. Le tecniche del XIX secolo, sviluppate e perfezionate per affrontare i problemi legati al vagabondaggio, alla governance coloniale, alla devianza, alla follia e alla criminalit\u00e0, sono alla base dell’odierno apparato di sorveglianza dei confini ad alta tecnologia. Queste tecniche includono la quantificazione, che rende il corpo umano un codice, la classificazione e i moderni metodi di indicizzazione e archiviazione.<\/p>\n\n\n\n I sistemi di frontiera intelligenti utilizzano tecnologie avanzate per creare frontiere “moderne, efficaci ed efficienti<\/a>“. In questo contesto, le tecnologie avanzate sono spesso rappresentate come la traduzione di processi di frontiera come l’identificazione, la registrazione e il controllo della mobilit\u00e0 in una procedura puramente tecnica, rendendo cos\u00ec il processo pi\u00f9 equo e meno incline alla fallibilit\u00e0 umana. La precisione algoritmica \u00e8 caratterizzata come un mezzo per evitare pregiudizi politici non etici e correggere l’errore umano.<\/p>\n\n\n\n Come ricercatore delle basi tecnoscientifiche dell’apparato di frontiera high-tech dell’UE,2<\/a> riconosco sia la crescente elasticit\u00e0 delle pratiche di frontiera contemporanee, sia la metodologia storicamente consolidata dei suoi strumenti e delle sue pratiche.3<\/a><\/p>\n\n\n\n Prendiamo ad esempio il Base dati Eurodac<\/a>, una pietra miliare della gestione delle frontiere dell’UE. Istituito nel 2003, l’indice conserva le impronte digitali dei richiedenti asilo come applicazione del Regolamento di Dublino sul primo ingresso.4<\/a> Il rilevamento delle impronte digitali e l’iscrizione in database interoperabili sono anche strumenti centrali utilizzati in approcci recenti alla gestione della migrazione come l’approccio Hotspot, in cui l’attribuzione dell’identit\u00e0 serve a filtrare i migranti “meritevoli” da quelli “non meritevoli”.5<\/a><\/p>\n\n\n\n Nel corso degli anni, sia il tipo di dati immagazzinati da Eurodac che i suoi usi si sono ampliati: il suo campo di applicazione \u00e8 stato ampliato per servire “fini migratori pi\u00f9 ampi<\/a>“, immagazzinando dati non solo sui richiedenti asilo ma anche sui migranti irregolari per facilitarne l’espulsione. Una proposta recentemente accettata<\/a> ha aggiunto alle impronte digitali le immagini del volto e le informazioni biografiche, tra cui nome, nazionalit\u00e0 e informazioni sul passaporto. Inoltre, l’et\u00e0 minima dei migranti i cui dati possono essere memorizzati \u00e8 stata abbassata da quattordici a sei anni.<\/p>\n\n\n\n Dal 2019 Eurodac \u00e8 “interoperabile<\/a>” con una serie di altre banche dati dell’UE che conservano informazioni su persone ricercate, residenti stranieri, titolari di visti e altre persone di interesse per la giustizia penale, l’immigrazione e le amministrazioni che si occupano di asilo, collegando efficacemente la giustizia penale con la migrazione e ampliando al contempo l’accesso a questi dati. Eurodac svolge un ruolo fondamentale per le autorit\u00e0 europee, come dimostrano gli sforzi per raggiungere un “tasso di rilevamento delle impronte digitali del 100%”: la Commissione europea ha spinto gli Stati membri a iscrivere ogni persona appena arrivata nel database, utilizzando coercizione fisica e detenzione se necessario<\/a>.<\/p>\n\n\n\n Sebbene gli Stati nazionali abbiano raccolto per secoli dati sui cittadini a fini fiscali e di reclutamento militare, la loro indicizzazione, organizzazione in banche dati e classificazione per particolari scopi governativi – come il controllo della mobilit\u00e0 delle popolazioni “indesiderate” – \u00e8 un’invenzione del XIX secolo.6<\/a> Lo storico e filosofo francese Michel Foucault descrive come, nel contesto della crescente urbanizzazione e industrializzazione, gli Stati si siano sempre pi\u00f9 preoccupati della questione della “circolazione”. Le persone e le merci, cos\u00ec come gli agenti patogeni, circolavano pi\u00f9 di quanto non avessero fatto nel primo periodo moderno.7<\/a> Sebbene gli Stati non cercassero di sopprimere o controllare completamente questi movimenti, cercavano mezzi per aumentare quella che era considerata una circolazione “positiva” e minimizzare quella “negativa”. A questo scopo utilizzarono i nuovi strumenti di una scienza sociale positivista: gli approcci statistici vennero utilizzati nel campo della demografia per tracciare e regolare fenomeni come nascite, incidenti, malattie e decessi.8<\/a> L’emergente Stato nazionale manageriale affront\u00f2 il problema della circolazione sviluppando un kit di strumenti molto particolare, accumulando informazioni dettagliate sulla popolazione e sviluppando metodi standardizzati di archiviazione e analisi.<\/p>\n\n\n\n Un problema particolarmente spinoso era la circolazione dei criminali noti. Nel XIX secolo era diffusa la convinzione che se una persona avesse commesso un reato una volta, lo avrebbe commesso di nuovo. Tuttavia, i sistemi disponibili per l’identificazione dei criminali erano tristemente inadeguati al compito.<\/p>\n\n\n\n Come spiega il criminologo Simon Cole, l’identificazione di una persona sconosciuta richiede un “segno corporeo veramente unico”.9<\/a> Tuttavia, prima dell’avvento dei moderni sistemi di identificazione, esistevano solo due modi per farlo: il branding o il riconoscimento personale. Sebbene la marchiatura a fuoco fosse stata ampiamente utilizzata in Europa e in Nord America su detenuti, prigionieri e persone ridotte in schiavit\u00f9, l’evoluzione delle idee sulla criminalit\u00e0 e sulla punizione port\u00f2 all’abolizione della marchiatura fisica all’inizio del XIX secolo. Al suo posto fu istituito il casellario giudiziario: un documento scritto che catalogava il nome del detenuto e una descrizione scritta della sua persona, compresi i segni di riconoscimento e le cicatrici.<\/p>\n\n\n\n Tuttavia, l’identificazione di un sospetto dalla sola descrizione scritta si \u00e8 rivelata difficile. Inoltre, il sistema era vulnerabile all’uso di pseudonimi e a diverse grafie dei nomi: solo una persona conosciuta dalla comunit\u00e0 poteva essere identificata con certezza. I primi sistemi di identificazione dei criminali erano fondamentalmente vulnerabili alla mobilit\u00e0.10<\/a> In particolare, questi problemi hanno continuato a infestare la gestione contemporanea dell’immigrazione,<\/a> in quanto i database spesso contengono voci multiple per la stessa persona derivanti da diverse traslitterazioni dei nomi dall’alfabeto arabo a quello romano.<\/p>\n\n\n\n L’invenzione della fotografia negli anni Quaranta del XIX secolo non ha risolto la questione dell’affidabilit\u00e0 dell’identificazione criminale. Non solo la documentazione fotografica era ancora legata al riconoscimento personale, ma sollevava anche il problema dell’archiviazione. Prima del Bertillonage, i registri penali erano archiviati come compendi annuali di crimini o come elenchi alfabetici di colpevoli. Sebbene le fotografie fornissero una rappresentazione pi\u00f9 accurata del volto, non c’era modo di archiviarle in base alle caratteristiche. Se si voleva cercare nell’indice, ad esempio, una persona con il mento prominente, non esisteva una procedura per farlo. Le fotografie dei detenuti erano ordinate alfabeticamente in base al nome fornito dall’autore del reato, soffrendo cos\u00ec della stessa debolezza di altri sistemi di identificazione.<\/p>\n\n\n\n Alphonse Bertillon fu il primo a risolvere questo problema combinando le misurazioni sistematiche del corpo umano con l’archiviazione e la registrazione. Il criminologo miglior\u00f2 il recupero dei documenti ordinando le voci numericamente anzich\u00e9 alfabeticamente, creando un sistema di indicizzazione basato interamente su misure antropomorfiche. Le schede erano organizzate secondo un sistema classificatorio gerarchico, con le informazioni suddivise prima per sesso, poi per lunghezza della testa, larghezza della testa, lunghezza del dito medio e cos\u00ec via. Ogni serie di misure veniva suddivisa in gruppi sulla base di una valutazione statistica della loro distribuzione nella popolazione, con medie stabilite prendendo le misure dai detenuti. L’operatore Bertillon prendeva il profilo di un sospetto nell’archivio e cercava una corrispondenza attraverso un processo di eliminazione: prima escludeva il sesso che non corrispondeva, poi la lunghezza della testa che non corrispondeva, e cos\u00ec via. Se si trovava una corrispondenza provvisoria, questa veniva confermata con riferimento ai segni corporei elencati sulla scheda. Ovunque questo sistema fosse implementato, i tassi di riconoscimento dei “recidivi” aumentavano; il sistema di Bertillon si diffuse presto in tutto il mondo.11<\/a><\/p>\n\n\n\n Con Bertillon entr\u00f2 in scena un altro tratto distintivo della tecnologia di sorveglianza e di frontiera contemporanea: la quantificazione, o ci\u00f2 che oggi \u00e8 noto come “datafication”. Bertillon non solo misur\u00f2 l’altezza e la lunghezza della testa dei prigionieri, ma invent\u00f2 un metodo per tradurre in codice le caratteristiche distintive del corpo. Per esempio, se un detenuto aveva una cicatrice sull’avambraccio, i precedenti sistemi di identificazione dei criminali si limitavano ad annotarla nel fascicolo. Bertillon, invece, misurava la distanza da un determinato punto di riferimento. Questi dati venivano poi registrati in modo standardizzato utilizzando un idioma di abbreviazioni e simboli che rendevano queste descrizioni in forma abbreviata. Il risultante ritratto parlato, <\/em> o ritratto parlato, trascriveva il corpo fisico in un “linguaggio universale” di “parole, numeri e abbreviazioni codificate”.12<\/a> Per la prima volta nella storia, una descrizione precisa del soggetto poteva essere telegrafata.<\/p>\n\n\n\n La traduzione del corpo in codice \u00e8 ancora alla base dei metodi contemporanei di identificazione biometrica. Identificazione delle impronte digitali<\/a> i sistemi sperimentati e diffusi per la prima volta nell’India coloniale convertivano i modelli di creste papillari in un codice, che poteva poi essere confrontato con altri codici generati nello stesso modo. Riconoscimento facciale<\/a> la tecnologia produce rappresentazioni schematiche del volto e vi assegna valori numerici, consentendo cos\u00ec il confronto e la corrispondenza. Altre forme di identificazione biometrica come l’identificazione vocale, la scansione dell’iride e il riconoscimento dell’andatura seguono lo stesso principio.<\/p>\n\n\n\n Oltre alla quantificazione, la classificazione – da secoli strumento chiave della generazione e della governance della conoscenza – \u00e8 un altro segno distintivo delle moderne e contemporanee tecnologie di sorveglianza e identificazione. Come hanno notato molti studiosi, da Foucault13<\/a> a Zygmunt Bauman14<\/a> e Denise Ferreira da Silva15<\/a> la classificazione \u00e8 uno strumento centrale dell’Illuminismo europeo, testimoniato soprattutto dalla tassonomia di Carl Linneo. Nella sua tavola graduata, Linneo nomin\u00f2, classific\u00f2 e ordin\u00f2 gerarchicamente il mondo naturale, dalle piante agli insetti agli esseri umani, dividendo e suddividendo ogni gruppo in base a caratteristiche comuni. La classificazione e le tassonomie sono ampiamente considerate un’espressione dei fondamentali spostamenti epistemologici da un’epistemologia teocentrica a un’epistemologia razionalistica all’inizio dell’era moderna, che hanno consentito scoperte scientifiche ma sono state anche legate alla colonizzazione e alla schiavit\u00f9.16<\/a> Nel loro libro sul tema, Geoffrey Bowker e Susan Leigh Star sottolineano l’uso della classificazione come strumento potente, ma spesso misconosciuto, di ordinamento politico: “Le agende politicamente e socialmente cariche sono spesso presentate all’inizio come puramente tecniche e sono difficili persino da vedere. Man mano che gli strati del sistema di classificazione vengono incorporati in un’infrastruttura funzionante, l’intervento politico originario si radica sempre pi\u00f9 saldamente. In molti casi, questo porta a una naturalizzazione della categoria politica, attraverso un processo di convergenza. Diventa scontata.”17<\/a><\/p>\n\n\n\n Oggi la classificazione \u00e8 fondamentale per l’apprendimento automatico, un sottocampo dell’intelligenza artificiale progettato per individuare modelli in grandi quantit\u00e0 di dati. Ci\u00f2 consente non solo di categorizzare grandi quantit\u00e0 di informazioni, ma anche di prevedere e classificare nuovi dati precedentemente non visti. In altre parole, applica le conoscenze apprese a nuove situazioni. Sebbene la ricerca sull’apprendimento automatico sia iniziata a met\u00e0 del secolo scorso, di recente ha raggiunto un’importanza senza precedenti grazie ad applicazioni come ChatGPT.<\/p>\n\n\n\n L’apprendimento automatico \u00e8 sempre pi\u00f9 applicato anche al lavoro di frontiera. Raramente utilizzato come tecnologia a s\u00e9 stante, viene ampiamente impiegato attraverso le tecnologie esistenti per aumentare e accelerare le forme di sorveglianza, identificazione e smistamento da tempo consolidate. Ad esempio, la previsione algoritmica<\/a>, che analizza grandi quantit\u00e0 di dati tra cui modelli di movimento, post sui social media, conflitti politici, disastri naturali e altro, sta sostituendo sempre pi\u00f9 spesso la modellazione statistica della migrazione allo scopo di tracciare i modelli migratori. La Commissione europea sta attualmente finanziando ricerche sui metodi algoritmici<\/a> che amplierebbero le forme esistenti di analisi del rischio attingendo a fonti di dati pi\u00f9 ampie per identificare nuove forme di comportamento “a rischio”. L’apprendimento automatico viene inoltre sperimentato o utilizzato in guardie di frontiera “macchina della verit\u00e0”<\/a>, riconoscimento dei dialetti<\/a>, tracciamento e identificazione di imbarcazioni sospette<\/a>, riconoscimento facciale alle frontiere interne dell’UE<\/a> e analisi comportamentale dei detenuti nei campi greci<\/a>. Come illustra questa vasta gamma di applicazioni, sembra che non esista una tecnologia di frontiera esente dall’apprendimento automatico, sia che si tratti di analisi assistita delle immagini dei filmati dei droni o di verifica delle richieste di asilo.<\/p>\n\n\n\n La classificazione \u00e8 al centro dell’apprendimento automatico, o almeno del tipo di apprendimento automatico guidato dai dati<\/a> che oggi \u00e8 diventato dominante. I singoli punti di dati vengono organizzati in categorie e sottocategorie, un processo condotto attraverso l’apprendimento supervisionato o non supervisionato. Nell’apprendimento supervisionato, i dati di formazione vengono etichettati secondo una tassonomia predefinita. In pratica, ci\u00f2 significa che gli esseri umani assegnano etichette ai dati, come “cane” a un’immagine di tale cane. Il modello di apprendimento automatico impara da questo insieme di dati etichettati identificando i modelli correlati alle etichette. Nell’apprendimento non supervisionato, i dati non vengono etichettati dall’uomo. Invece, l’algoritmo identifica in modo indipendente i modelli e le strutture all’interno dei dati. In altre parole, l’algoritmo classifica i dati creando i propri cluster sulla base di modelli inerenti al set di dati. Crea una propria tassonomia di categorie, che pu\u00f2 allinearsi o meno con i sistemi creati dall’uomo.<\/p>\n\n\n\n Come sottolinea la studiosa di AI e frontiere Louise Amoore, la creazione di cluster algoritmici come rappresentazione di modelli intrinseci e “naturali” dei dati \u00e8 una “proposta politica straordinariamente potente”, in quanto “offre la promessa di una creazione e di un confine neutrali, oggettivi e privi di valori della comunit\u00e0 politica”.18<\/a> L’idea del cluster algoritmico come “comunit\u00e0 naturale” comprende una significativa mossa di razzializzazione: le forme di comportamento associate alla migrazione irregolare sono di conseguenza etichettate come “rischiose”. Poich\u00e9 questi cluster si formano senza riferimento a criteri predefiniti, come i “classici” proxy per la razza come la nazionalit\u00e0 o la religione, sono difficili da contestare con concetti esistenti come le caratteristiche protette o i pregiudizi.19<\/a> Ad esempio, un migrante potrebbe essere identificato come un rischio per la sicurezza da un algoritmo di apprendimento automatico basato su una correlazione opaca tra itinerari di viaggio, post sui social media, reti personali e professionali e modelli meteorologici.<\/p>\n\n\n\n La creazione di categorie in base ad attributi intrinseci riecheggia e si estende ad altre pratiche del XIX secolo: in particolare, una serie di sforzi scientifici che utilizzano la misurazione e la statistica per identificare regolarit\u00e0 e schemi che indichino un comportamento criminale. Come l’apprendimento automatico non supervisionato, i campi della craniometria, della frenologia e dell’antropologia criminale accumulavano sistematicamente dati su soggetti umani per ricavarne modelli che potessero essere ordinati in categorie di criminalit\u00e0.<\/p>\n\n\n\n Per esempio, frenologi come Franz Joseph Gall collegarono tratti specifici della personalit\u00e0 alla prominenza delle regioni del cranio. Nel campo correlato della fisiognomica, personaggi come il pastore svizzero Johann Kaspar Lavater intrapresero uno studio sistematico dei tratti del viso come guida al comportamento criminale. Alimentati dallo sviluppo della fotografia, gli studi che indagavano sui segni di criminalit\u00e0 nel volto si fecero strada, con detenuti e internati dei manicomi ripetutamente sottoposti a tali “studi”. Le fotografie composite di Frances Galton, fondatore del movimento eugenetico e pioniere dell’identificazione delle impronte digitali, sono un esempio: le immagini dei detenuti venivano sovrapposte l’una all’altra per individuare le regolarit\u00e0 come marcatori fisici della criminalit\u00e0.20<\/a><\/p>\n\n\n\n L’antropologia criminale consolid\u00f2 questi approcci in un tentativo coerente di sottoporre il corpo criminale a un esame scientifico. Sotto la guida dello psichiatra e antropologo italiano Cesare Lombroso, gli antropologi criminali utilizzarono un’ampia gamma di strumenti di misurazione antropomorfi, dalle precise misure degli arti di Bertillon alle misure craniometriche del cranio, alla mappatura dei tratti del viso e all’annotazione di segni distintivi come cicatrici e tatuaggi. Su questa base, essi enumerarono un elenco di cosiddette “stigmate” o regolarit\u00e0 fisiche riscontrate nel corpo del “criminale nato”. Sebbene questa nozione sia oggi ampiamente screditata, il metodo di classificazione sottostante, basato su una serie di dati caratteristici, esiste ancora.<\/p>\n\n\n\n La fiducia nelle conclusioni tratte dall’analisi quantitativa dei tratti del viso rimane un forte fascino. Un capitolo del 2016<\/a> sosteneva di aver addestrato con successo un algoritmo di rete neurale profonda per prevedere la criminalit\u00e0 in base alle foto della testa delle patenti di guida, mentre uno studio del 2018<\/a> faceva affermazioni simili sulla lettura dell’orientamento sessuale dalle foto dei siti di incontri.<\/p>\n\n\n\n Quando ci si confronta in modo critico con questi sistemi, \u00e8 indispensabile rimanere consapevoli del progetto politico pi\u00f9 ampio che essi sono chiamati a sostenere. Come scrive la studiosa di IA Kate Crawford: “Correlare la morfologia cranica all’intelligenza e alle rivendicazioni di diritti legali \u00e8 un alibi tecnico per il colonialismo e la schiavit\u00f9. Sebbene si tenda a concentrarsi sugli errori nelle misurazioni del cranio e su come correggerli, l’errore ben pi\u00f9 grave \u00e8 nella visione del mondo sottostante che ha animato questa metodologia. L’obiettivo, quindi, non dovrebbe essere quello di chiedere misurazioni del cranio pi\u00f9 accurate o “giuste” per sostenere modelli razzisti di intelligenza, ma di condannare del tutto questo approccio.”21<\/a> Detto altrimenti, le tecniche di classificazione e quantificazione non possono essere avulse dai contesti socio-politici che hanno il compito di verificare e garantire. Per dirla con lo studioso di relazioni internazionali Robert Cox, la classificazione e la quantificazione sono sempre per qualcuno e per qualche scopo.22<\/a><\/p>\n\n\n\n Come avverte Helga Nowotny, studiosa di Scienza e Tecnologia, se “ci fidiamo” dei risultati della previsione algoritmica come fondamentalmente veri, fraintendiamo la logica delle reti neurali profonde. Queste reti “possono solo rilevare regolarit\u00e0 e identificare modelli basati su dati che provengono dal passato. Non \u00e8 coinvolto alcun ragionamento causale, n\u00e9 un’IA pretende che lo sia.”23<\/a><\/p>\n\n\n\n Mentre queste macchine possono produrre “previsioni pratiche e misurabili”, non hanno il senso della causa e dell’effetto – in breve, non hanno “comprensione” nel senso umano del termine.24<\/a> Inoltre, un’eccessiva dipendenza dagli algoritmi ci spinge verso il determinismo, allineando il nostro comportamento alla previsione macchinica al posto di percorsi alternativi. Questo \u00e8 un problema nelle culture politiche che si basano sulla responsabilit\u00e0. Se vogliamo imparare dal passato per costruire un futuro migliore, non possiamo affidarci ai risultati predittivi di un modello di apprendimento automatico.<\/p>\n\n\n\n Ci sono molti fili, oltre all’affidamento condiviso e continuo alla quantificazione e alla classificazione, che si potrebbero seguire per esplorare la storia intricata delle tecnologie di sorveglianza e identificazione dal XIX secolo a oggi. Le popolazioni emarginate ed eccedenti, come i detenuti e i colonizzati, sono state a lungo utilizzate come “campi di prova tecnologici<\/a>” per affinare i sistemi classificatori e addestrare gli algoritmi. La paura di una mobilit\u00e0 umana incontrollata continua a essere sfruttata come motore per la ricerca e lo sviluppo, con la tecnologia, a sua volta, impiegata per risolvere i problemi che essa stessa ha creato. E i metodi scientifici sociali positivistici continuano a essere strumentali al compito di tradurre le molteplicit\u00e0 roboanti in valori numerici ordinati.<\/p>\n\n\n\n Invece di cadere nel clamore dell’IA, potremmo invece sintonizzarci con un senso di d\u00e9j\u00e0-vu: l’inquietante sensazione di aver gi\u00e0 visto tutto questo. In questo modo, potremmo resistere meglio alle pretese fantastiche degli attori aziendali e di frontiera e iniziare a sganciare le tecnologie dai progetti globali di dominio.<\/p>\n\n\n\n **<\/p>\n\n\n\n Questo articolo si basa sulla ricerca svolta durante il progetto <\/em>‘Confini elastici: Rethinking the Borders of the 21st Century’<\/em><\/a> con sede all’Universit\u00e0 di Graz, finanziato dalla fondazione NOMIS.<\/em><\/p>\n\n\n\n 1<\/a> 2<\/a> 3<\/a> 4<\/a> 5<\/a> 6<\/a> 7<\/a> 8<\/a> 9<\/a> 10<\/a> 11<\/a> 12<\/a> 13<\/a> 14<\/a> 15<\/a> 16<\/a> 17<\/a> 18<\/a> 19<\/a> 20<\/a> 21<\/a> 22<\/a> Un catalogo di identificazione<\/h4>\n\n\n\n
\n
Registrazione invasiva moderna<\/h4>\n\n\n\n
Marcatura della criminalit\u00e0<\/h4>\n\n\n\n
L’antenato della dataficazione<\/h4>\n\n\n\n
Dalla tassonomia all’apprendimento automatico<\/h4>\n\n\n\n
Il tipo di criminale presunto<\/h4>\n\n\n\n
AI d\u00e9j\u00e0-vu<\/h4>\n\n\n\n
A. Bertillon, Instructons signal\u00e9tiques<\/em>, Melun, 1893, lastra 16, p. 262.<\/code><\/p>\n\n\n\nFaccio parte di un gruppo di ricercatori del progetto Elastic Borders<\/a>, Universit\u00e0 di Graz, Austria, finanziato dal NOMIS.<\/code><\/p>\n\n\n\nVedi anche: M. Maguire, \"Biopower, Racialization and New Security Technology\", Social Identities<\/em>, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, \"We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences\", Public<\/em>, Vol. 30, No. 60, 2020, pp. 20-33; A. Valdivia e M. Tazzioli, \"Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency<\/em>, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.<\/code><\/p>\n\n\n\nSe le impronte sono state prese in Grecia, ma il richiedente asilo \u00e8 stato successivamente fermato in Germania, potrebbe essere espulso in Grecia per l'esame della domanda.<\/code><\/p>\n\n\n\nB. Ayata, K. Cupers, C. Pagano, A. Fyssa e D. Alaa, L'attuazione dell'approccio hotspot dell'UE in Grecia e in Italia: A comparative and interdisciplinary analysis (working paper)<\/em>, Swiss Network for International Studies, 2021, p. 36.<\/code><\/p>\n\n\n\nJ.B. Rule, Private Lives and Public Surveillance<\/em>, Allen Lane, 1973.<\/code><\/p>\n\n\n\nIbidem, p. 91.<\/code><\/p>\n\n\n\nM. Foucault, La societ\u00e0 deve essere difesa. Conferenze al Coll\u00e8ge de France, 1975-76<\/em>, trans. D. Macey, Picador, 2003, p. 244.<\/code><\/p>\n\n\n\nS. A. Cole, Identit\u00e0 dei sospetti: A history of fingerprinting and criminal identification<\/em>, Harvard University Press, 2001, p.12.<\/code><\/p>\n\n\n\nIbidem, pp. 18-9.<\/code><\/p>\n\n\n\nIbid., pp. 34-45.<\/code><\/p>\n\n\n\nIbid., p.48.<\/code><\/p>\n\n\n\nM. Foucault, L'ordine delle cose<\/em>. Routledge, 1975.<\/code><\/p>\n\n\n\nZ. Bauman, Modernit\u00e0 e Olocausto<\/em>, Blackwell Publishers, 1989.<\/code><\/p>\n\n\n\nD. Ferreira da Silva, Toward a Global Idea of Race,<\/em> University of Minnesota Press, 2007.<\/code><\/p>\n\n\n\nS. Wynter, \"Scardinare la colonialit\u00e0 dell'essere\/potere\/verit\u00e0\/libert\u00e0: Verso l'umano, dopo l'uomo, la sua sovrarappresentazione - un'argomentazione', CR: The New Centennial Review<\/em>, <\/em>Vol. 3, No. 3, 2003, pp. 257-337.<\/code><\/p>\n\n\n\nG. C. Bowker e S. L. Star, Sorting things out: Classification and its consequences<\/em>, MIT press, 2000, p. 196.<\/code><\/p>\n\n\n\nL. Amoore, \"Il confine profondo\", Geografia politica<\/em>, 2001, 102547.<\/code><\/p>\n\n\n\nIbid.<\/code><\/p>\n\n\n\nGalton condusse uno studio simile sui ragazzi delle scuole ebraiche, alla ricerca di marcatori razziali di ebraicit\u00e0.<\/code><\/p>\n\n\n\nK. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence<\/em>, Yale University Press, 2021, pp. 126-7.<\/code><\/p>\n\n\n\nR. W. Cox, \"Forze sociali, Stati e ordini mondiali: Beyond International Relations Theory', Millennium<\/em>, Vol. 10, No. 2, 1981, pp. 126-155.<\/code><\/p>\n\n\n\n