O arsenal de alta tecnologia das tecnologias fronteiri\u00e7as da Europa \u00e9 frequentemente descrito como um conto futurista de luz, velocidade e poder computacional. Os sistemas de identifica\u00e7\u00e3o, como a base de dados Eurodac, armazenam, processam e comparam as impress\u00f5es digitais dos imigrantes utilizando luz infravermelha pr\u00f3xima, cabos de fibra \u00f3tica e servidores centralizados. Os drones patrulham os c\u00e9us com os seus sensores \u00f3pticos que n\u00e3o piscam. E grandes volumes de dados s\u00e3o alimentados a programas inform\u00e1ticos que prev\u00eaem o pr\u00f3ximo aumento de chegadas.<\/p>\n\n\n\n
Not\u00edcias<\/a> e Relat\u00f3rios de ONG<\/a> que se debru\u00e7am sobre a natureza de alta tecnologia das fronteiras europeias s\u00e3o abundantes. Cada um deles refere a forma como as formas remotas de vigil\u00e2ncia, dissuas\u00e3o e controlo complementam e, em certos casos, substituem cada vez mais as fortifica\u00e7\u00f5es fronteiri\u00e7as. Embora este tipo de investiga\u00e7\u00e3o e de defesa seja essencial para responsabilizar a UE e os criadores de tecnologia pelo seu papel na condu\u00e7\u00e3o dos requerentes de asilo para rotas de migra\u00e7\u00e3o letais<\/a>, encobre as longas hist\u00f3rias destas tecnologias e o seu papel estabelecido nos aparelhos de governa\u00e7\u00e3o ocidentais. Isto n\u00e3o s\u00f3 corre o risco de amplificar ‘AI hype<\/a>‘ entre os decisores pol\u00edticos e os programadores, que aclamam estas ferramentas como um meio tanto para criar fronteiras “mais inteligentes” como para proteger os direitos humanos dos migrantes<\/a>. Mais importante ainda, este tipo de amn\u00e9sia hist\u00f3rica pode tamb\u00e9m interpretar erradamente a viol\u00eancia e as exclus\u00f5es decretadas por estas tecnologias como uma quest\u00e3o t\u00e9cnica de “enviesamento” facilmente corrigida por medi\u00e7\u00f5es mais exactas ou conjuntos de dados maiores. Em vez disso, grande parte dos danos incorridos por estas tecnologias devem ser entendidos como inerentes \u00e0 sua conce\u00e7\u00e3o.<\/p>\n\n\n\n A utiliza\u00e7\u00e3o de tecnologias avan\u00e7adas para controlar a mobilidade humana \u00e9 tudo menos nova. Imaginemos uma esquadra de pol\u00edcia urbana europeia no final do s\u00e9culo XIX. Se o munic\u00edpio tivesse adotado a mais recente tecnologia de identifica\u00e7\u00e3o, os suspeitos teriam sido submetidos a um complexo processo de medi\u00e7\u00e3o. Anotar as suas medidas era um processo preciso e altamente especializado, que exigia um t\u00e9cnico qualificado e treinado.<\/p>\n\n\n\n Considere estas instru\u00e7\u00f5es para medir uma orelha<\/a>:<\/p>\n\n\n\n O operador encosta a mand\u00edbula fixa do instrumento \u00e0 borda superior da orelha e imobiliza-a, pressionando o polegar esquerdo com bastante firmeza na extremidade superior da mand\u00edbula do instrumento, com os outros dedos da m\u00e3o apoiados na parte superior do cr\u00e2nio. Com a haste do paqu\u00edmetro paralela ao eixo da orelha, ele empurra suavemente a mand\u00edbula m\u00f3vel at\u00e9 que ela toque a extremidade inferior do l\u00f3bulo e, antes de ler o n\u00famero indicado, certifica-se de que o pavilh\u00e3o auricular [parte externa da orelha] n\u00e3o est\u00e1 de forma alguma deprimido por nenhuma das mand\u00edbulas.1<\/a><\/p>\n<\/blockquote>\n\n\n\n Este processo pode parecer uma rel\u00edquia pitoresca e um pouco curiosa do Fin de Si\u00e8cle, mas \u00e9 tudo menos isso. Bertillonage, o sistema de medi\u00e7\u00e3o, classifica\u00e7\u00e3o e arquivo para identifica\u00e7\u00e3o criminal concebido na d\u00e9cada de 1870 pelo escriv\u00e3o de pol\u00edcia franc\u00eas com o mesmo nome, foi um marco na hist\u00f3ria da tecnologia de vigil\u00e2ncia e identifica\u00e7\u00e3o. Notavelmente, seus princ\u00edpios fundamentais sustentam as tecnologias de identifica\u00e7\u00e3o at\u00e9 hoje, desde o banco de dados at\u00e9 a biometria e o aprendizado de m\u00e1quina.<\/p>\n\n\n\n Existe uma liga\u00e7\u00e3o estreita e historicamente estabelecida entre os receios em torno da circula\u00e7\u00e3o descontrolada de v\u00e1rios “indesej\u00e1veis” e a inova\u00e7\u00e3o tecnol\u00f3gica. As t\u00e9cnicas do s\u00e9culo XIX, desenvolvidas e aperfei\u00e7oadas para resolver problemas relacionados com a vadiagem, a governa\u00e7\u00e3o colonial, o desvio, a loucura e a criminalidade, s\u00e3o as bases do atual aparelho de vigil\u00e2ncia fronteiri\u00e7a de alta tecnologia. Estas t\u00e9cnicas incluem a quantifica\u00e7\u00e3o, que transforma o corpo humano em c\u00f3digo, a classifica\u00e7\u00e3o e os m\u00e9todos modernos de indexa\u00e7\u00e3o e arquivo.<\/p>\n\n\n\n Os sistemas de fronteiras inteligentes utilizam tecnologias avan\u00e7adas para criar fronteiras “modernas, eficazes e eficientes”. Neste contexto, as tecnologias avan\u00e7adas s\u00e3o frequentemente apresentadas como a tradu\u00e7\u00e3o dos processos fronteiri\u00e7os, tais como a identifica\u00e7\u00e3o, o registo e o controlo da mobilidade, num procedimento puramente t\u00e9cnico, tornando assim o processo mais justo e menos sujeito \u00e0 falibilidade humana. A precis\u00e3o algor\u00edtmica \u00e9 caracterizada como um meio de evitar preconceitos pol\u00edticos n\u00e3o \u00e9ticos e de corrigir o erro humano.<\/p>\n\n\n\n Como investigador dos fundamentos tecnocient\u00edficos do aparelho fronteiri\u00e7o de alta tecnologia da UE,2<\/a> reconhe\u00e7o tanto a crescente elasticidade das pr\u00e1ticas fronteiri\u00e7as contempor\u00e2neas, como a metodologia historicamente estabelecida das suas ferramentas e pr\u00e1ticas.3<\/a><\/p>\n\n\n\n Tomemos como exemplo a base de dados Eurodac<\/a>, uma pedra angular da gest\u00e3o das fronteiras da UE. Criado em 2003, o \u00edndice armazena as impress\u00f5es digitais dos requerentes de asilo como aplica\u00e7\u00e3o do Regulamento de Dublin relativo \u00e0 primeira entrada.4<\/a> A recolha de impress\u00f5es digitais e o registo em bases de dados interoper\u00e1veis s\u00e3o tamb\u00e9m ferramentas centrais utilizadas em abordagens recentes \u00e0 gest\u00e3o da migra\u00e7\u00e3o, como a Abordagem Hotspot, em que a atribui\u00e7\u00e3o de identidade serve como meio de filtrar os migrantes “merecedores” dos “n\u00e3o merecedores”.5<\/a><\/p>\n\n\n\n Ao longo dos anos, tanto o tipo de dados armazenados no Eurodac como as suas utiliza\u00e7\u00f5es expandiram-se: o seu \u00e2mbito foi alargado para servir “prop\u00f3sitos de migra\u00e7\u00e3o mais amplos<\/a>“, armazenando dados n\u00e3o s\u00f3 sobre os requerentes de asilo, mas tamb\u00e9m sobre os migrantes em situa\u00e7\u00e3o irregular para facilitar a sua deporta\u00e7\u00e3o. Uma proposta recentemente aceite<\/a> acrescentou \u00e0 recolha de impress\u00f5es digitais as imagens faciais e os dados biogr\u00e1ficos, incluindo o nome, a nacionalidade e os dados do passaporte. Al\u00e9m disso, a idade m\u00ednima dos migrantes cujos dados podem ser armazenados foi reduzida de catorze para seis anos.<\/p>\n\n\n\n Desde 2019, o Eurodac \u00e9 “interoper\u00e1vel<\/a>” com uma s\u00e9rie de outras bases de dados da UE que armazenam informa\u00e7\u00f5es sobre pessoas procuradas, residentes estrangeiros, titulares de vistos e outras pessoas de interesse para a justi\u00e7a penal, a imigra\u00e7\u00e3o e as administra\u00e7\u00f5es de asilo, ligando eficazmente a justi\u00e7a penal \u00e0 migra\u00e7\u00e3o e alargando simultaneamente o acesso a estes dados. O Eurodac desempenha um papel fundamental para as autoridades europeias, demonstrado pelos esfor\u00e7os para alcan\u00e7ar uma “taxa de 100% de recolha de impress\u00f5es digitais”: a Comiss\u00e3o Europeia pressionou os Estados-Membros a registarem todas as pessoas rec\u00e9m-chegadas na base de dados, usando coer\u00e7\u00e3o f\u00edsica e deten\u00e7\u00e3o, se necess\u00e1rio<\/a>.<\/p>\n\n\n\n Embora os estados-na\u00e7\u00e3o tenham recolhido dados sobre os cidad\u00e3os para efeitos de tributa\u00e7\u00e3o e recrutamento militar durante s\u00e9culos, a sua indexa\u00e7\u00e3o, organiza\u00e7\u00e3o em bases de dados e classifica\u00e7\u00e3o para fins governamentais espec\u00edficos – como o controlo da mobilidade de popula\u00e7\u00f5es “indesej\u00e1veis” – \u00e9 uma inven\u00e7\u00e3o do s\u00e9culo XIX.6<\/a> O historiador e fil\u00f3sofo franc\u00eas Michel Foucault descreve como, no contexto da crescente urbaniza\u00e7\u00e3o e industrializa\u00e7\u00e3o, os estados se tornaram cada vez mais preocupados com a quest\u00e3o da “circula\u00e7\u00e3o”. As pessoas e os bens, bem como os agentes patog\u00e9nicos, circulavam mais do que no in\u00edcio do per\u00edodo moderno.7<\/a> Embora os estados n\u00e3o procurassem suprimir ou controlar totalmente estes movimentos, procuravam meios para aumentar o que era visto como circula\u00e7\u00e3o “positiva” e minimizar a circula\u00e7\u00e3o “negativa”. Para o efeito, utilizaram as novas ferramentas de uma ci\u00eancia social positivista: foram usadas abordagens estat\u00edsticas no campo da demografia para acompanhar e regular fen\u00f3menos como nascimentos, acidentes, doen\u00e7as e mortes.8<\/a> O emergente Estado-na\u00e7\u00e3o gerencial abordou o problema da circula\u00e7\u00e3o desenvolvendo um conjunto de ferramentas muito particular, acumulando informa\u00e7\u00f5es detalhadas sobre a popula\u00e7\u00e3o e desenvolvendo m\u00e9todos padronizados de armazenamento e an\u00e1lise.<\/p>\n\n\n\n Um problema particularmente inc\u00f3modo era a circula\u00e7\u00e3o de criminosos conhecidos. No s\u00e9culo XIX, acreditava-se que, se uma pessoa ofendesse uma vez, voltaria a ofender. No entanto, os sistemas dispon\u00edveis para a identifica\u00e7\u00e3o de criminosos eram lamentavelmente inadequados para a tarefa.<\/p>\n\n\n\n Como explica o criminologista Simon Cole, a identifica\u00e7\u00e3o de uma pessoa desconhecida requer uma “marca corporal verdadeiramente \u00fanica”.9<\/a> No entanto, antes do advento dos modernos sistemas de identifica\u00e7\u00e3o, havia apenas duas formas de o fazer: a marca ou o reconhecimento pessoal. Embora a marca\u00e7\u00e3o tivesse sido amplamente utilizada na Europa e na Am\u00e9rica do Norte em condenados, prisioneiros e pessoas escravizadas, a evolu\u00e7\u00e3o das ideias sobre criminalidade e puni\u00e7\u00e3o levou, em grande medida, \u00e0 aboli\u00e7\u00e3o da marca\u00e7\u00e3o f\u00edsica no in\u00edcio do s\u00e9culo XIX. Em seu lugar foi criado o registo criminal: um documento escrito que catalogava o nome do condenado e uma descri\u00e7\u00e3o escrita da sua pessoa, incluindo marcas e cicatrizes de identifica\u00e7\u00e3o.<\/p>\n\n\n\n No entanto, a identifica\u00e7\u00e3o de um suspeito apenas a partir de uma descri\u00e7\u00e3o escrita revelou-se um desafio. E o sistema era vulner\u00e1vel ao uso de pseud\u00f3nimos e diferentes grafias de nomes: s\u00f3 uma pessoa conhecida da sua comunidade podia ser identificada com certeza. Os primeiros sistemas de identifica\u00e7\u00e3o criminal eram fundamentalmente vulner\u00e1veis \u00e0 mobilidade.10<\/a> Nomeadamente, estes problemas continuaram a assombrar a gest\u00e3o contempor\u00e2nea da migra\u00e7\u00e3o,<\/a> uma vez que as bases de dados cont\u00eam frequentemente m\u00faltiplas entradas para a mesma pessoa, resultantes de diferentes translitera\u00e7\u00f5es de nomes do alfabeto \u00e1rabe para o alfabeto romano.<\/p>\n\n\n\n A inven\u00e7\u00e3o da fotografia na d\u00e9cada de 1840 pouco contribuiu para resolver a quest\u00e3o da fiabilidade da identifica\u00e7\u00e3o criminal. N\u00e3o s\u00f3 o registo fotogr\u00e1fico continuava a depender do reconhecimento pessoal, como tamb\u00e9m levantava a quest\u00e3o do arquivo. Os registos criminais antes da Bertillonage eram armazenados como comp\u00eandios anuais de crimes ou listas alfab\u00e9ticas de criminosos. Embora as fotografias proporcionassem uma representa\u00e7\u00e3o mais exacta do rosto, n\u00e3o havia forma de as arquivar de acordo com as caracter\u00edsticas. Se se quisesse procurar no \u00edndice, por exemplo, uma pessoa com um queixo proeminente, n\u00e3o havia nenhum procedimento para o fazer. As fotografias de condenados eram ordenadas alfabeticamente de acordo com o nome fornecido pelo infrator, sofrendo assim da mesma fraqueza que outros sistemas de identifica\u00e7\u00e3o.<\/p>\n\n\n\n Alphonse Bertillon foi o primeiro a resolver este problema, combinando medi\u00e7\u00f5es sistem\u00e1ticas do corpo humano com o arquivo e a manuten\u00e7\u00e3o de registos. O criminologista melhorou a recupera\u00e7\u00e3o de registos ao ordenar as entradas numericamente em vez de alfabeticamente, criando um sistema de indexa\u00e7\u00e3o baseado inteiramente em medidas antropom\u00f3rficas. Os cart\u00f5es de \u00edndice eram organizados de acordo com um sistema de classifica\u00e7\u00e3o hier\u00e1rquico, com a informa\u00e7\u00e3o dividida primeiro por sexo, depois pelo comprimento da cabe\u00e7a, largura da cabe\u00e7a, comprimento do dedo m\u00e9dio e assim por diante. Cada conjunto de medidas era dividido em grupos com base numa avalia\u00e7\u00e3o estat\u00edstica da sua distribui\u00e7\u00e3o na popula\u00e7\u00e3o, sendo as m\u00e9dias estabelecidas atrav\u00e9s da recolha de medidas dos condenados. O operador do Bertillon levava o perfil de um suspeito para o arquivo e procurava uma correspond\u00eancia atrav\u00e9s de um processo de elimina\u00e7\u00e3o: primeiro, exclu\u00eda o sexo que n\u00e3o correspondia, depois o comprimento da cabe\u00e7a que n\u00e3o correspondia, e assim por diante. Se fosse encontrada uma tentativa de correspond\u00eancia, esta era confirmada com refer\u00eancia a marcas corporais tamb\u00e9m listadas no cart\u00e3o. Onde quer que este sistema fosse implementado, as taxas de reconhecimento de “reincidentes” disparavam; o sistema de Bertillon rapidamente se espalhou por todo o mundo.11<\/a><\/p>\n\n\n\n Com Bertillon, entrou em cena outra carater\u00edstica da tecnologia contempor\u00e2nea de fronteiras e vigil\u00e2ncia: a quantifica\u00e7\u00e3o, ou o que hoje \u00e9 conhecido como “datafica\u00e7\u00e3o”. Bertillon n\u00e3o se limitou a medir a altura e o comprimento da cabe\u00e7a dos prisioneiros, mas inventou um m\u00e9todo para traduzir em c\u00f3digo as caracter\u00edsticas distintivas do corpo. Por exemplo, se um prisioneiro tivesse uma cicatriz no antebra\u00e7o, os sistemas anteriores de identifica\u00e7\u00e3o criminal limitavam-se a registar esse facto no processo. Em contrapartida, Bertillon media a sua dist\u00e2ncia a um determinado ponto de refer\u00eancia. Estes dados eram depois registados de forma normalizada, utilizando um idioma de abreviaturas e s\u00edmbolos que tornavam estas descri\u00e7\u00f5es mais sucintas. O resultante portrait parl\u00e9, <\/em>ou retrato falado, transcrevia o corpo f\u00edsico numa “linguagem universal” de “palavras, n\u00fameros e abreviaturas codificadas”.12<\/a> Pela primeira vez na hist\u00f3ria, uma descri\u00e7\u00e3o precisa de um sujeito podia ser telegrafada.<\/p>\n\n\n\n A tradu\u00e7\u00e3o do corpo em c\u00f3digo ainda est\u00e1 subjacente aos m\u00e9todos contempor\u00e2neos de identifica\u00e7\u00e3o biom\u00e9trica. Identifica\u00e7\u00e3o por impress\u00f5es digitais<\/a> Os sistemas que foram testados e implementados pela primeira vez na \u00cdndia colonial converteram os padr\u00f5es das cristas papilares num c\u00f3digo, que podia depois ser comparado com outros c\u00f3digos gerados da mesma forma. A tecnologia de reconhecimento facial<\/a> produz representa\u00e7\u00f5es esquem\u00e1ticas do rosto e atribui-lhe valores num\u00e9ricos, permitindo assim a compara\u00e7\u00e3o e a correspond\u00eancia. Outras formas de identifica\u00e7\u00e3o biom\u00e9trica, como a identifica\u00e7\u00e3o por voz, a leitura da \u00edris e o reconhecimento da marcha, seguem o mesmo princ\u00edpio.<\/p>\n\n\n\n Al\u00e9m da quantifica\u00e7\u00e3o, a classifica\u00e7\u00e3o – um instrumento fundamental de gera\u00e7\u00e3o de conhecimento e governa\u00e7\u00e3o durante s\u00e9culos – \u00e9 outra marca das tecnologias de vigil\u00e2ncia e identifica\u00e7\u00e3o modernas e contempor\u00e2neas. Conforme observado por muitos estudiosos, de Foucault13<\/a> a Zygmunt Bauman14<\/a> e Denise Ferreira da Silva15<\/a> , a classifica\u00e7\u00e3o \u00e9 uma ferramenta central do Iluminismo europeu, evidenciada de forma mais emblem\u00e1tica pela taxonomia de Carl Linnaeus. Na sua tabela graduada, Linnaeus nomeou, classificou e ordenou hierarquicamente o mundo natural, desde as plantas aos insectos e aos seres humanos, dividindo e subdividindo cada grupo de acordo com caracter\u00edsticas comuns. A classifica\u00e7\u00e3o e as taxonomias s\u00e3o amplamente vistas como uma express\u00e3o das mudan\u00e7as epistemol\u00f3gicas fundamentais de uma epistemologia teoc\u00eantrica para uma epistemologia racionalista no in\u00edcio da era moderna, que permitiram descobertas cient\u00edficas, mas que tamb\u00e9m estavam ligadas \u00e0 coloniza\u00e7\u00e3o e \u00e0 escravatura.16<\/a> No seu livro sobre o tema, Geoffrey Bowker e Susan Leigh Star sublinham a utiliza\u00e7\u00e3o da classifica\u00e7\u00e3o como um instrumento poderoso, mas muitas vezes n\u00e3o reconhecido, de ordenamento pol\u00edtico: “As agendas pol\u00edtica e socialmente carregadas s\u00e3o muitas vezes apresentadas primeiro como puramente t\u00e9cnicas e s\u00e3o dif\u00edceis de ver. \u00c0 medida que as camadas do sistema de classifica\u00e7\u00e3o se v\u00e3o integrando numa infraestrutura de trabalho, a interven\u00e7\u00e3o pol\u00edtica original vai-se enraizando cada vez mais firmemente. Em muitos casos, isso leva a uma naturaliza\u00e7\u00e3o da categoria pol\u00edtica, atrav\u00e9s de um processo de converg\u00eancia. Torna-se um dado adquirido.’17<\/a><\/p>\n\n\n\n Hoje em dia, a classifica\u00e7\u00e3o \u00e9 fundamental para a aprendizagem autom\u00e1tica, um subcampo da intelig\u00eancia artificial concebido para discernir padr\u00f5es em grandes quantidades de dados. Isto permite-lhe n\u00e3o s\u00f3 categorizar grandes quantidades de informa\u00e7\u00e3o, mas tamb\u00e9m prever e classificar dados novos e nunca antes vistos. Por outras palavras, aplica o conhecimento adquirido a novas situa\u00e7\u00f5es. Embora a pesquisa sobre aprendizado de m\u00e1quina tenha come\u00e7ado em meados do s\u00e9culo passado, ela ganhou um destaque sem precedentes recentemente com aplicativos como o ChatGPT.<\/p>\n\n\n\n A aprendizagem autom\u00e1tica \u00e9 tamb\u00e9m cada vez mais aplicada no trabalho fronteiri\u00e7o. Raramente utilizada como uma tecnologia aut\u00f3noma, \u00e9 amplamente utilizada em tecnologias existentes para aumentar e acelerar formas h\u00e1 muito estabelecidas de vigil\u00e2ncia, identifica\u00e7\u00e3o e triagem. Por exemplo, a previs\u00e3o algor\u00edtmica<\/a>, que analisa grandes quantidades de dados, incluindo padr\u00f5es de movimento, publica\u00e7\u00f5es nas redes sociais, conflitos pol\u00edticos, cat\u00e1strofes naturais, etc., est\u00e1 a substituir cada vez mais a modela\u00e7\u00e3o estat\u00edstica da migra\u00e7\u00e3o para efeitos de mapeamento dos padr\u00f5es migrat\u00f3rios. A Comiss\u00e3o Europeia est\u00e1 atualmente a financiar investiga\u00e7\u00e3o sobre m\u00e9todos algor\u00edtmicos<\/a> que alargariam as formas existentes de an\u00e1lise de risco, recorrendo a fontes de dados mais vastas para identificar novas formas de conduta “arriscada”. A aprendizagem autom\u00e1tica tamb\u00e9m est\u00e1 a ser testada ou utilizada em guardas fronteiri\u00e7os ‘detectores de mentiras’<\/a>, reconhecimento de dialectos<\/a>, rastreio e identifica\u00e7\u00e3o de embarca\u00e7\u00f5es suspeitas<\/a>, reconhecimento facial nas fronteiras internas da UE<\/a> e an\u00e1lise comportamental dos reclusos nos campos gregos<\/a>. Como ilustra esta vasta gama de aplica\u00e7\u00f5es, parece n\u00e3o haver nenhuma tecnologia fronteiri\u00e7a isenta da aprendizagem autom\u00e1tica, quer se trate da an\u00e1lise assistida de imagens de drones ou da an\u00e1lise de pedidos de asilo.<\/p>\n\n\n\n A classifica\u00e7\u00e3o est\u00e1 no cerne do aprendizado de m\u00e1quina – ou pelo menos do tipo de aprendizado de m\u00e1quina orientado por dados<\/a> que se tornou dominante atualmente. Os pontos de dados individuais s\u00e3o organizados em categorias e subcategorias, um processo efectuado atrav\u00e9s de aprendizagem supervisionada ou n\u00e3o supervisionada. Na aprendizagem supervisionada, os dados de treino s\u00e3o rotulados de acordo com uma taxonomia predefinida. Na pr\u00e1tica, isto significa normalmente que os humanos atribuem r\u00f3tulos a dados como “c\u00e3o” a uma imagem do referido c\u00e3o. O modelo de aprendizagem autom\u00e1tica aprende com este conjunto de dados rotulados, identificando padr\u00f5es que se correlacionam com as etiquetas. Na aprendizagem n\u00e3o supervisionada, os dados n\u00e3o s\u00e3o rotulados por humanos. Em vez disso, o algoritmo identifica de forma independente padr\u00f5es e estruturas nos dados. Por outras palavras, o algoritmo classifica os dados criando os seus pr\u00f3prios agrupamentos com base em padr\u00f5es inerentes ao conjunto de dados. Ele cria sua pr\u00f3pria taxonomia de categorias, que pode ou n\u00e3o se alinhar com sistemas criados por humanos.<\/p>\n\n\n\n Como salienta a estudiosa de IA e fronteiras Louise Amoore, a cria\u00e7\u00e3o de clusters algor\u00edtmicos como uma representa\u00e7\u00e3o de padr\u00f5es inerentes e “naturais” a partir de dados \u00e9 uma “proposta pol\u00edtica extraordinariamente poderosa”, uma vez que “oferece a promessa de uma cria\u00e7\u00e3o e delimita\u00e7\u00e3o de comunidade pol\u00edtica neutra, objetiva e livre de valores”.18<\/a> A ideia do cluster algor\u00edtmico como uma “comunidade natural” compreende um movimento racializante significativo: as formas de conduta associadas \u00e0 migra\u00e7\u00e3o irregular s\u00e3o consequentemente rotuladas como “arriscadas”. Como esses clusters s\u00e3o formados sem refer\u00eancia a crit\u00e9rios pr\u00e9-definidos, como proxies “cl\u00e1ssicos” para ra\u00e7a, como nacionalidade ou religi\u00e3o, eles s\u00e3o dif\u00edceis de desafiar com conceitos existentes, como caracter\u00edsticas protegidas ou preconceito.19<\/a> Por exemplo, um migrante pode ser identificado como um risco de seguran\u00e7a por um algoritmo de aprendizado de m\u00e1quina com base em uma correla\u00e7\u00e3o opaca entre itiner\u00e1rios de viagem, postagens de m\u00eddia social, redes pessoais e profissionais e padr\u00f5es clim\u00e1ticos.<\/p>\n\n\n\n A cria\u00e7\u00e3o de categorias de acordo com atributos inerentes ecoa e estende-se a outras pr\u00e1ticas do s\u00e9culo XIX: nomeadamente, uma s\u00e9rie de esfor\u00e7os cient\u00edficos que utilizam a medi\u00e7\u00e3o e a estat\u00edstica para identificar regularidades e padr\u00f5es que apontariam para um comportamento criminoso. \u00c0 semelhan\u00e7a da aprendizagem autom\u00e1tica n\u00e3o supervisionada, os dom\u00ednios da craniometria, da frenologia e da antropologia criminal acumularam sistematicamente dados sobre sujeitos humanos para recolher padr\u00f5es que pudessem ser classificados em categorias de criminalidade.<\/p>\n\n\n\n Por exemplo, frenologistas como Franz Joseph Gall associaram tra\u00e7os espec\u00edficos de personalidade \u00e0 proemin\u00eancia de regi\u00f5es do cr\u00e2nio. No dom\u00ednio conexo da fisiognomia, figuras como o pastor su\u00ed\u00e7o Johann Kaspar Lavater efectuaram um estudo sistem\u00e1tico das caracter\u00edsticas faciais como guia do comportamento criminoso. Impulsionados pelo desenvolvimento da fotografia, os estudos que investigavam sinais de criminalidade no rosto ganharam for\u00e7a, com condenados e reclusos de asilos a serem repetidamente sujeitos a tais “estudos”. As fotografias compostas de Frances Galton, o fundador do movimento eug\u00e9nico e um pioneiro da identifica\u00e7\u00e3o de impress\u00f5es digitais, s\u00e3o um exemplo disso: imagens de condenados foram sobrepostas umas \u00e0s outras para obter regularidades como marcadores f\u00edsicos de criminalidade.20<\/a><\/p>\n\n\n\n A antropologia criminal consolidou estas abordagens numa tentativa coerente de submeter o corpo criminoso a um escrut\u00ednio cient\u00edfico. Sob a lideran\u00e7a do psiquiatra e antrop\u00f3logo italiano Cesare Lombroso, os antrop\u00f3logos criminais utilizaram uma vasta gama de instrumentos antropom\u00f3rficos de medi\u00e7\u00e3o, desde as medidas precisas dos membros de Bertillon at\u00e9 \u00e0s medidas craniom\u00e9tricas do cr\u00e2nio, mapeando as caracter\u00edsticas faciais e registando marcas distintivas como cicatrizes e tatuagens. Com base nisso, enumeraram uma lista dos chamados “estigmas” ou regularidades f\u00edsicas encontradas no corpo do “criminoso nato”. Embora essa no\u00e7\u00e3o seja hoje amplamente desacreditada, o m\u00e9todo subjacente de classifica\u00e7\u00e3o baseado em caracter\u00edsticas de dados em massa ainda existe.<\/p>\n\n\n\n Confiar nas conclus\u00f5es tiradas da an\u00e1lise quantitativa das caracter\u00edsticas faciais continua a ser um forte atrativo. Um artigo de 2016<\/a> alegou ter treinado com sucesso um algoritmo de rede neural profunda para prever a criminalidade com base em fotos de cabe\u00e7as de cartas de condu\u00e7\u00e3o, enquanto um estudo de 2018<\/a> fez afirma\u00e7\u00f5es semelhantes sobre a leitura da orienta\u00e7\u00e3o sexual a partir de fotos de sites de encontros.<\/p>\n\n\n\n Ao se envolver criticamente com esses sistemas, \u00e9 imperativo permanecer atento ao projeto pol\u00edtico mais amplo que eles s\u00e3o implantados para defender. Como escreve a estudiosa de IA Kate Crawford: “Correlacionar a morfologia craniana com intelig\u00eancia e reivindica\u00e7\u00f5es de direitos legais funciona como um \u00e1libi t\u00e9cnico para o colonialismo e a escravatura. Embora haja uma tend\u00eancia para nos concentrarmos nos erros das medi\u00e7\u00f5es do cr\u00e2nio e na forma de os corrigir, o erro muito maior est\u00e1 na vis\u00e3o do mundo subjacente que animou esta metodologia. O objetivo, portanto, n\u00e3o deve ser o de exigir medi\u00e7\u00f5es mais exactas ou “justas” do cr\u00e2nio para refor\u00e7ar modelos racistas de intelig\u00eancia, mas sim o de condenar a abordagem por completo.’21<\/a> Por outras palavras, as t\u00e9cnicas de classifica\u00e7\u00e3o e quantifica\u00e7\u00e3o n\u00e3o podem ser divorciadas dos contextos sociopol\u00edticos que s\u00e3o incumbidas de verificar e atestar. Para reformular o acad\u00e9mico de Rela\u00e7\u00f5es Internacionais Robert Cox, a classifica\u00e7\u00e3o e a quantifica\u00e7\u00e3o s\u00e3o sempre para algu\u00e9m, e com algum objetivo.22<\/a><\/p>\n\n\n\n No entanto, como adverte a acad\u00e9mica de Estudos de Ci\u00eancia e Tecnologia Helga Nowotny, se “confiarmos” nos resultados da previs\u00e3o algor\u00edtmica como fundamentalmente verdadeiros, compreendemos mal a l\u00f3gica das redes neurais profundas. Estas redes “s\u00f3 conseguem detetar regularidades e identificar padr\u00f5es com base em dados que v\u00eam do passado. N\u00e3o est\u00e1 envolvido qualquer racioc\u00ednio causal, nem uma IA pretende que esteja.”23<\/a><\/p>\n\n\n\n Embora estas m\u00e1quinas possam produzir “previs\u00f5es pr\u00e1ticas e mensur\u00e1veis”, n\u00e3o t\u00eam qualquer sentido de causa e efeito – em suma, n\u00e3o t\u00eam “compreens\u00e3o” no sentido humano.24<\/a> Al\u00e9m disso, uma depend\u00eancia excessiva dos algoritmos empurra-nos para o determinismo, alinhando o nosso comportamento com a previs\u00e3o mec\u00e2nica em vez de caminhos alternativos. Este \u00e9 um problema nas culturas pol\u00edticas baseadas na responsabilidade. Se quisermos aprender com o passado para construir um futuro melhor, n\u00e3o podemos confiar nos resultados preditivos de um modelo de aprendizagem autom\u00e1tica.<\/p>\n\n\n\n Para al\u00e9m da depend\u00eancia partilhada e cont\u00ednua da quantifica\u00e7\u00e3o e da classifica\u00e7\u00e3o, h\u00e1 muitos fios que se podem puxar para explorar a hist\u00f3ria emaranhada das tecnologias de vigil\u00e2ncia e identifica\u00e7\u00e3o desde o s\u00e9culo XIX at\u00e9 ao presente. As popula\u00e7\u00f5es marginalizadas e excedent\u00e1rias, como os condenados e as pessoas colonizadas, foram durante muito tempo utilizadas como ‘campos de ensaio tecnol\u00f3gicos<\/a>‘ para aperfei\u00e7oar os sistemas de classifica\u00e7\u00e3o e treinar algoritmos. O medo da mobilidade humana descontrolada continua a ser utilizado como motor de investiga\u00e7\u00e3o e desenvolvimento, sendo a tecnologia, por sua vez, utilizada para resolver problemas que ela pr\u00f3pria criou. E os m\u00e9todos cient\u00edficos sociais positivistas continuam a ser instrumentais para a tarefa de traduzir multiplicidades estrondosas em valores num\u00e9ricos puros.<\/p>\n\n\n\n Em vez de cairmos no hype da IA, podemos antes sintonizar-nos com uma sensa\u00e7\u00e3o de d\u00e9j\u00e0-vu: o sentimento inquietante de que j\u00e1 vimos tudo isto antes. Desta forma, podemos resistir melhor \u00e0s alega\u00e7\u00f5es fantasiosas feitas por actores corporativos e fronteiri\u00e7os, e come\u00e7ar a desacoplar as tecnologias dos projectos globais de domina\u00e7\u00e3o.<\/p>\n\n\n\n **<\/p>\n\n\n\n Este artigo baseia-se na investiga\u00e7\u00e3o realizada durante o projeto <\/em>‘Fronteiras El\u00e1sticas: Rethinking the Borders of the 21st Century’<\/em><\/a> sediado na Universidade de Graz, financiado pela funda\u00e7\u00e3o NOMIS.<\/em><\/p>\n\n\n\n 1<\/a> 2<\/a> 3<\/a> 4<\/a> 5<\/a> 6<\/a> 7<\/a> 8<\/a> 9<\/a> 10<\/a> 11<\/a> 12<\/a> 13<\/a> 14<\/a> 15<\/a> 16<\/a> 17<\/a> 18<\/a> 19<\/a> 20<\/a> 21<\/a> 22<\/a> Um cat\u00e1logo de identifica\u00e7\u00e3o<\/h4>\n\n\n\n
\n
Modernos registos de invas\u00f5es<\/h4>\n\n\n\n
Marca\u00e7\u00e3o da criminalidade<\/h4>\n\n\n\n
O antepassado da desdatfica\u00e7\u00e3o<\/h4>\n\n\n\n
Da taxonomia \u00e0 aprendizagem autom\u00e1tica<\/h4>\n\n\n\n
O suposto tipo penal<\/h4>\n\n\n\n
AI d\u00e9j\u00e0-vu<\/h4>\n\n\n\n
A. Bertillon, Instructons signal\u00e9tiques<\/em>, Melun, 1893, placa 16, p. 262.<\/code><\/p>\n\n\n\nFa\u00e7o parte de uma equipa de investigadores no projeto NOMIS-funded Elastic Borders<\/a>, Universidade de Graz, \u00c1ustria.<\/code><\/p>\n\n\n\nVer tamb\u00e9m: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities<\/em>, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Medindo o corpo humano da antropometria \u00e0s ci\u00eancias sociais computacionais', Public<\/em>, Vol. 30, No. 60, 2020, pp. 20-33; A. Valdivia e M. Tazzioli, 'Genealogias al\u00e9m da justi\u00e7a algor\u00edtmica: Inventando sujeitos racializados', em Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency<\/em>, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.<\/code><\/p>\n\n\n\nSe as impress\u00f5es digitais forem recolhidas na Gr\u00e9cia, mas o requerente de asilo for posteriormente detido na Alemanha, poder\u00e1 ser confrontado com o afastamento para a Gr\u00e9cia para processamento do seu pedido.<\/code><\/p>\n\n\n\nB. Ayata, K. Cupers, C. Pagano, A. Fyssa e D. Alaa, A implementa\u00e7\u00e3o da abordagem de Hotspot da UE na Gr\u00e9cia e em It\u00e1lia: Uma an\u00e1lise comparativa e interdisciplinar (documento de trabalho)<\/em>, Rede Su\u00ed\u00e7a de Estudos Internacionais, 2021, p. 36.<\/code><\/p>\n\n\n\nJ.B. Rule, Private Lives and Public Surveillance<\/em>, Allen Lane, 1973.<\/code><\/p>\n\n\n\nIbid., p. 91.<\/code><\/p>\n\n\n\nM. Foucault, A sociedade deve ser defendida. Lectures at the Coll\u00e8ge de France, 1975-76<\/em>, trans. D. Macey, Picador, 2003, p. 244.<\/code><\/p>\n\n\n\nS. A. Cole, Identidades de suspeitos: A history of fingerprinting and criminal identification<\/em>, Harvard University Press, 2001, p.12.<\/code><\/p>\n\n\n\nIbid., pp. 18-9.<\/code><\/p>\n\n\n\nIbid., pp. 34-45.<\/code><\/p>\n\n\n\nIbid., p.48.<\/code><\/p>\n\n\n\nM. Foucault, The Order of Things<\/em>. Routledge, 1975.<\/code><\/p>\n\n\n\nZ. Bauman, Modernity and the Holocaust<\/em>, Blackwell Publishers, 1989.<\/code><\/p>\n\n\n\nD. Ferreira da Silva, Toward a Global Idea of Race,<\/em> University of Minnesota Press, 2007.<\/code><\/p>\n\n\n\nS. Wynter, 'Unsettling the coloniality of being\/power\/truth\/freedom: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review<\/em>, <\/em>Vol. 3, No. 3, 2003, pp. 257-337.<\/code><\/p>\n\n\n\nG. C. Bowker e S. L. Star, Sorting things out: Classification and its consequences<\/em>, MIT press, 2000, p. 196.<\/code><\/p>\n\n\n\nL. Amoore, 'The deep border', Political Geography<\/em>, 2001, 102547.<\/code><\/p>\n\n\n\nIbid.<\/code><\/p>\n\n\n\nGalton conduziu um estudo similar em meninos de escolas judaicas, procurando por marcadores raciais de juda\u00edsmo.<\/code><\/p> \n\n\n\nK. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence<\/em>, Yale University Press, 2021, pp. 126-7.<\/code><\/p>\n\n\n\nR. W. Cox, 'Social Forces, States and World Orders: Beyond International Relations Theory', Millennium<\/em>, Vol. 10, No. 2, 1981, pp. 126-155.<\/code><\/p>\n\n\n\n