El arsenal de alta tecnolog\u00eda europea en materia de fronteras se describe a menudo como un cuento futurista de luz, velocidad y potencia inform\u00e1tica. Sistemas de identificaci\u00f3n como la base de datos Eurodac almacenan, procesan y comparan las huellas dactilares digitalizadas de los inmigrantes mediante luz infrarroja cercana, cables de fibra \u00f3ptica y servidores centralizados. Los drones patrullan los cielos con sus sensores \u00f3pticos que no parpadean. Y grandes vol\u00famenes de datos se introducen en programas inform\u00e1ticos que predicen la pr\u00f3xima oleada de llegadas.<\/p>
\n\n\n\n
Noticias<\/a> y Informes de ONG<\/a> centrados en la alta tecnolog\u00eda de las fronteras europeas abundan. En todos ellos se pone de manifiesto c\u00f3mo las formas remotas de vigilancia, disuasi\u00f3n y control complementan y, en ciertos casos, sustituyen cada vez m\u00e1s a las fortificaciones fronterizas. Aunque este tipo de investigaci\u00f3n y defensa es esencial para responsabilizar a la UE y a los desarrolladores de tecnolog\u00eda de su papel en la conducci\u00f3n de los solicitantes de asilo hacia rutas migratorias letales<\/a>, pasa por alto la larga historia de estas tecnolog\u00edas y su papel establecido en los aparatos de gobierno occidentales. Con ello no s\u00f3lo se corre el riesgo de amplificar AI hype<\/a>‘ entre los responsables pol\u00edticos y los desarrolladores, que aclaman estas herramientas como un medio tanto para crear fronteras \u00abm\u00e1s inteligentes\u00bb como para proteger los derechos humanos de los migrantes<\/a>.Y lo que es m\u00e1s importante, este tipo de amnesia hist\u00f3rica tambi\u00e9n puede interpretar err\u00f3neamente la violencia y las exclusiones promulgadas por estas tecnolog\u00edas como una cuesti\u00f3n t\u00e9cnica de \u00absesgo\u00bb f\u00e1cilmente corregible mediante mediciones m\u00e1s precisas o conjuntos de datos m\u00e1s amplios.\n\n\n\n El despliegue de tecnolog\u00edas avanzadas para controlar la movilidad humana es cualquier cosa menos nuevo. Imag\u00ednese una comisar\u00eda de polic\u00eda urbana europea a finales del siglo XIX. Si el municipio hubiera adoptado las \u00faltimas tecnolog\u00edas de identificaci\u00f3n, los sospechosos habr\u00edan sido sometidos a un complejo proceso de medici\u00f3n. Anotar sus medidas era un proceso preciso y altamente especializado, que requer\u00eda un t\u00e9cnico cualificado y formado.<\/p> \n\n\n\n Considere estas instrucciones para medir una oreja<\/a>:<\/p>\n\n\n\n El operador lleva la mand\u00edbula fija del instrumento a apoyarse contra el borde superior de la oreja y la inmoviliza, presionando su pulgar izquierdo con bastante firmeza sobre el extremo superior de la mand\u00edbula del instrumento, con los otros dedos de la mano apoyados en la parte superior del cr\u00e1neo. Con el v\u00e1stago del calibrador paralelo al eje de la oreja, empuja suavemente la mand\u00edbula m\u00f3vil hasta que toque el extremo inferior del l\u00f3bulo y, antes de leer el n\u00famero indicado, se asegura de que el pabell\u00f3n auricular [parte externa de la oreja] no est\u00e9 presionado en modo alguno por ninguna de las dos mand\u00edbulas.1<\/a><\/p>\n<\/blockquote>\n\n\n\n Este proceso puede parecer una pintoresca aunque algo curiosa reliquia del Fin de Si\u00e8cle, pero es cualquier cosa menos eso. El Bertillonage, el sistema de medici\u00f3n, clasificaci\u00f3n y archivo para la identificaci\u00f3n de delincuentes ideado en la d\u00e9cada de 1870 por el polic\u00eda franc\u00e9s del mismo nombre, marc\u00f3 un hito en la historia de la tecnolog\u00eda de vigilancia e identificaci\u00f3n. Notablemente, sus principios clave sustentan las tecnolog\u00edas de identificaci\u00f3n hasta nuestros d\u00edas, desde la base de datos hasta la biometr\u00eda y el aprendizaje autom\u00e1tico.<\/p> Los sistemas de fronteras inteligentes emplean tecnolog\u00edas avanzadas para crear fronteras modernas, eficaces y eficientes<\/a>. En este contexto, las tecnolog\u00edas avanzadas se presentan a menudo como la traducci\u00f3n de procesos fronterizos como la identificaci\u00f3n, el registro y el control de la movilidad en un procedimiento puramente t\u00e9cnico, lo que hace que el proceso sea m\u00e1s justo y menos propenso a la falibilidad humana. La precisi\u00f3n algor\u00edtmica se caracteriza como un medio para evitar sesgos pol\u00edticos poco \u00e9ticos y corregir el error humano.<\/p> \n\n\n\n Como investigador de los fundamentos tecnocient\u00edficos del aparato fronterizo de alta tecnolog\u00eda de la UE,2<\/a> reconozco tanto la creciente elasticidad de las pr\u00e1cticas fronterizas contempor\u00e1neas, como la metodolog\u00eda hist\u00f3ricamente establecida de sus herramientas y pr\u00e1cticas.3<\/a><\/p> \n\n\n\n Pongamos por ejemplo la base de datos Eurodac<\/a>, piedra angular de la gesti\u00f3n de fronteras de la UE. Creada en 2003, este \u00edndice almacena las huellas dactilares de los solicitantes de asilo para hacer cumplir el Reglamento de Dubl\u00edn sobre primera entrada.4<\/a> La toma de huellas dactilares y el registro en bases de datos interoperables son tambi\u00e9n herramientas fundamentales utilizadas en enfoques recientes de la gesti\u00f3n de la migraci\u00f3n como el Enfoque Hotspot, en el que la atribuci\u00f3n de identidad sirve para filtrar a los inmigrantes \u00abmerecedores\u00bb de los \u00abno merecedores\u00bb.5<\/a><\/p>\n\n\n\n A lo largo de los a\u00f1os, tanto el tipo de datos almacenados en Eurodac como sus usos se han ampliado: su alcance se ha extendido para servir a \u00abfines migratorios m\u00e1s amplios<\/a>\u00ab, almacenando datos no s\u00f3lo sobre solicitantes de asilo sino tambi\u00e9n sobre inmigrantes irregulares para facilitar su deportaci\u00f3n. Una propuesta aceptada recientemente<\/a> ha a\u00f1adido im\u00e1genes faciales e informaci\u00f3n biogr\u00e1fica, incluidos nombre, nacionalidad y datos del pasaporte, a la toma de huellas dactilares. Adem\u00e1s, se ha rebajado de catorce a seis a\u00f1os la edad m\u00ednima de los migrantes cuyos datos pueden almacenarse.<\/p> \n\n\n\n Desde 2019, Eurodac es ‘interoperable<\/a> con varias otras bases de datos de la UE que almacenan informaci\u00f3n sobre personas buscadas, residentes extranjeros, titulares de visados y otras personas de inter\u00e9s para las administraciones de justicia penal, inmigraci\u00f3n y asilo, vinculando eficazmente la justicia penal con la migraci\u00f3n, al tiempo que se ampl\u00eda enormemente el acceso a estos datos. Eurodac desempe\u00f1a un papel fundamental para las autoridades europeas, como demuestran los esfuerzos por alcanzar un \u00ab\u00edndice del 100% de huellas dactilares\u00bb: la Comisi\u00f3n Europea ha instado a los Estados miembros a que inscriban a todas las personas reci\u00e9n llegadas en la base de datos, utilizando la coacci\u00f3n f\u00edsica y la detenci\u00f3n si es necesario<\/a>.<\/p>. \n\n\n\n Aunque los Estados nacionales llevan siglos recopilando datos sobre los ciudadanos con fines fiscales y de reclutamiento militar, su indexaci\u00f3n, organizaci\u00f3n en bases de datos y clasificaci\u00f3n para fines gubernamentales concretos -como el control de la movilidad de poblaciones \u00abindeseables\u00bb- es un invento del siglo XIX.6<\/a> El historiador y fil\u00f3sofo franc\u00e9s Michel Foucault describe c\u00f3mo, en el contexto de la creciente urbanizaci\u00f3n e industrializaci\u00f3n, los Estados se preocuparon cada vez m\u00e1s por la cuesti\u00f3n de la \u00abcirculaci\u00f3n\u00bb. Las personas y los bienes, as\u00ed como los agentes pat\u00f3genos, circulaban m\u00e1s de lo que lo hab\u00edan hecho a principios de la Edad Moderna.7<\/a> Aunque los Estados no trataron de suprimir o controlar totalmente estos movimientos, buscaron medios para aumentar lo que se consideraba circulaci\u00f3n \u00abpositiva\u00bb y minimizar la circulaci\u00f3n \u00abnegativa\u00bb. Para ello utilizaron las novedosas herramientas de las ciencias sociales positivistas: en el campo de la demograf\u00eda se emplearon enfoques estad\u00edsticos para rastrear y regular fen\u00f3menos como los nacimientos, los accidentes, las enfermedades y las muertes.8<\/a> El emergente Estado-naci\u00f3n gestor abord\u00f3 el problema de la circulaci\u00f3n desarrollando un conjunto de herramientas muy particular que amasaba informaci\u00f3n detallada sobre la poblaci\u00f3n y desarrollaba m\u00e9todos estandarizados de almacenamiento y an\u00e1lisis.<\/p> <\/p> El Estado-naci\u00f3n gestor se enfrent\u00f3 al problema de la circulaci\u00f3n desarrollando un conjunto de herramientas muy particular que amasaba informaci\u00f3n detallada sobre la poblaci\u00f3n y desarrollaba m\u00e9todos estandarizados de almacenamiento y an\u00e1lisis.\n\n\n\n Un problema especialmente enojoso era la circulaci\u00f3n de delincuentes conocidos. En el siglo XIX, estaba muy extendida la creencia de que si una persona delinqu\u00eda una vez, volver\u00eda a delinquir. Sin embargo, los sistemas disponibles para la identificaci\u00f3n de criminales eran lamentablemente inadecuados para la tarea.<\/p> \n\n\n\n Como explica el crimin\u00f3logo Simon Cole, para identificar a un desconocido se necesita una \u00abmarca corporal verdaderamente \u00fanica\u00bb.9<\/a> Sin embargo, antes de la llegada de los sistemas modernos de identificaci\u00f3n, s\u00f3lo hab\u00eda dos formas de hacerlo: la marca o el reconocimiento personal. Aunque en Europa y Norteam\u00e9rica se hab\u00eda utilizado ampliamente en convictos, prisioneros y esclavos, la evoluci\u00f3n de las ideas sobre la criminalidad y el castigo condujo en gran medida a la abolici\u00f3n de las marcas f\u00edsicas a principios del siglo XIX. En su lugar se estableci\u00f3 el registro de antecedentes penales: un documento escrito en el que se catalogaba el nombre del convicto y una descripci\u00f3n escrita de su persona, incluyendo marcas y cicatrices identificativas.<\/p> \n\n\n\n Sin embargo, identificar a un sospechoso s\u00f3lo a partir de una descripci\u00f3n escrita resultaba complicado. Adem\u00e1s, el sistema era vulnerable al uso de alias y a las diferentes graf\u00edas de los nombres: s\u00f3lo se pod\u00eda identificar con certeza a una persona conocida en su comunidad. Los primeros sistemas de identificaci\u00f3n de delincuentes eran fundamentalmente vulnerables a la movilidad.10<\/a> En particular, estos problemas han continuado acechando a la gesti\u00f3n contempor\u00e1nea de la migraci\u00f3n,<\/a> ya que las bases de datos a menudo contienen m\u00faltiples entradas para la misma persona como resultado de las diferentes transliteraciones de los nombres del alfabeto \u00e1rabe al romano.<\/p> <\/p> Los sistemas de identificaci\u00f3n de delincuentes eran fundamentalmente vulnerables a la movilidad.\n\n\n\n La invenci\u00f3n de la fotograf\u00eda en la d\u00e9cada de 1840 contribuy\u00f3 poco a resolver el problema de la fiabilidad de la identificaci\u00f3n criminal. Un registro fotogr\u00e1fico no s\u00f3lo segu\u00eda dependiendo del reconocimiento personal, sino que tambi\u00e9n planteaba la cuesti\u00f3n del archivo. Antes del Bertillonage, los registros de antecedentes penales se almacenaban en forma de compendios anuales de delitos o de listas alfab\u00e9ticas de delincuentes. Aunque las fotograf\u00edas ofrec\u00edan una representaci\u00f3n m\u00e1s exacta del rostro, no hab\u00eda forma de archivarlas en funci\u00f3n de los rasgos. Si se quer\u00eda buscar en el \u00edndice, por ejemplo, a una persona con un ment\u00f3n prominente, no exist\u00eda ning\u00fan procedimiento para hacerlo. Las fotograf\u00edas de condenados se ordenaban alfab\u00e9ticamente seg\u00fan el nombre facilitado por el delincuente, por lo que adolec\u00edan de la misma debilidad que otros sistemas de identificaci\u00f3n.<\/p> \n\n\n\n Alphonse Bertillon fue el primero en resolver este problema combinando las mediciones sistem\u00e1ticas del cuerpo humano con el archivo y el registro de datos. El crimin\u00f3logo mejor\u00f3 la recuperaci\u00f3n de registros ordenando las entradas num\u00e9ricamente en lugar de alfab\u00e9ticamente, creando un sistema de indexaci\u00f3n basado enteramente en medidas antropom\u00f3rficas. Las fichas se organizaban seg\u00fan un sistema jer\u00e1rquico de clasificaci\u00f3n, en el que la informaci\u00f3n se divid\u00eda primero por sexo, luego por longitud de la cabeza, anchura de la cabeza, longitud del dedo coraz\u00f3n, etc. Cada conjunto de mediciones se divid\u00eda en grupos, seg\u00fan el sexo. Cada conjunto de medidas se divid\u00eda en grupos bas\u00e1ndose en una evaluaci\u00f3n estad\u00edstica de su distribuci\u00f3n en la poblaci\u00f3n, y se establec\u00edan medias tomando medidas de los condenados. El operador de Bertillon llevaba el perfil de un sospechoso al archivo y buscaba una coincidencia mediante un proceso de eliminaci\u00f3n: primero, exclu\u00eda el sexo que no coincid\u00eda, luego las longitudes de cabeza que no coincid\u00edan, y as\u00ed sucesivamente. Si se encontraba una coincidencia provisional, \u00e9sta se confirmaba con referencia a las marcas corporales que tambi\u00e9n figuraban en la ficha. Dondequiera que se aplicaba este sistema, los \u00edndices de reconocimiento de los \u00abreincidentes\u00bb se disparaban; el sistema de Bertillon pronto se extendi\u00f3 por todo el mundo.11<\/a><\/p>\n\n\n\n Con Bertillon entr\u00f3 en escena otro rasgo distintivo de la tecnolog\u00eda contempor\u00e1nea de vigilancia y fronteras: la cuantificaci\u00f3n, o lo que hoy se conoce como \u00abdataficaci\u00f3n\u00bb. Bertillon no s\u00f3lo med\u00eda la estatura y la longitud de la cabeza de los presos, sino que invent\u00f3 un m\u00e9todo para traducir en c\u00f3digo los rasgos distintivos del cuerpo. Por ejemplo, si un preso ten\u00eda una cicatriz en el antebrazo, los sistemas anteriores de identificaci\u00f3n de delincuentes se limitaban a anotarlo en el expediente. En cambio, Bertillon med\u00eda su distancia con respecto a un punto de referencia determinado. A continuaci\u00f3n, se registraban de forma estandarizada utilizando un lenguaje de abreviaturas y s\u00edmbolos que convert\u00edan estas descripciones en forma abreviada. El resultante portrait parl\u00e9, <\/em>o retrato hablado, transcrib\u00eda el cuerpo f\u00edsico en un \u00ablenguaje universal\u00bb de \u00abpalabras, n\u00fameros y abreviaturas codificadas\u00bb.12<\/a> Por primera vez en la historia, se pod\u00eda telegrafiar una descripci\u00f3n precisa del sujeto.<\/p> 12<\/a> Por primera vez en la historia, se pod\u00eda telegrafiar una descripci\u00f3n precisa del sujeto.\n\n\n\n La traducci\u00f3n del cuerpo en c\u00f3digo sigue siendo la base de los m\u00e9todos contempor\u00e1neos de identificaci\u00f3n biom\u00e9trica. Identificaci\u00f3n dactilar<\/a> Los sistemas que se probaron e implantaron por primera vez en la India colonial convert\u00edan los patrones de las crestas papilares en un c\u00f3digo, que luego pod\u00eda compararse con otros c\u00f3digos generados del mismo modo. Reconocimiento facial<\/a> la tecnolog\u00eda produce representaciones esquem\u00e1ticas del rostro y le asigna valores num\u00e9ricos, permitiendo as\u00ed su comparaci\u00f3n y cotejo. Otras formas de identificaci\u00f3n biom\u00e9trica, como la identificaci\u00f3n por voz, el escaneado del iris y el reconocimiento de la forma de andar, siguen este mismo principio.<\/p> Reconocimiento facial<\/strong>.\n\n\n\n Adem\u00e1s de la cuantificaci\u00f3n, la clasificaci\u00f3n -un instrumento clave de la generaci\u00f3n de conocimiento y la gobernanza durante siglos- es otro rasgo distintivo de las tecnolog\u00edas modernas y contempor\u00e1neas de vigilancia e identificaci\u00f3n. Como han se\u00f1alado muchos estudiosos, desde Foucault13<\/a> hasta Zygmunt Bauman14<\/a> y Denise Ferreira da Silva15<\/a> , la clasificaci\u00f3n es una herramienta central de la Ilustraci\u00f3n europea, cuyo ejemplo m\u00e1s emblem\u00e1tico es la taxonom\u00eda de Carl Linnaeus. En su tabla graduada, Linneo nombr\u00f3, clasific\u00f3 y orden\u00f3 jer\u00e1rquicamente el mundo natural, desde las plantas hasta los insectos y los seres humanos, dividiendo y subdividiendo cada grupo seg\u00fan caracter\u00edsticas compartidas. La clasificaci\u00f3n y las taxonom\u00edas se consideran en general una expresi\u00f3n de los cambios epistemol\u00f3gicos fundamentales de principios de la Edad Moderna, de una epistemolog\u00eda teoc\u00e9ntrica a otra racionalista, que permitieron avances cient\u00edficos pero tambi\u00e9n estuvieron ligados a la colonizaci\u00f3n y la esclavitud.16<\/a> En su libro sobre el tema, Geoffrey Bowker y Susan Leigh Star subrayan el uso de la clasificaci\u00f3n como un poderoso pero a menudo no reconocido instrumento de ordenaci\u00f3n pol\u00edtica: \u00abLas agendas con carga pol\u00edtica y social a menudo se presentan primero como puramente t\u00e9cnicas y son dif\u00edciles incluso de ver. A medida que las capas del sistema de clasificaci\u00f3n se integran en una infraestructura de trabajo, la intervenci\u00f3n pol\u00edtica original se afianza cada vez m\u00e1s. En muchos casos, esto conduce a una naturalizaci\u00f3n de la categor\u00eda pol\u00edtica, a trav\u00e9s de un proceso de convergencia. Se da por sentado.’17<\/a><\/p>\n\n\n\n Hoy en d\u00eda, la clasificaci\u00f3n es fundamental para el aprendizaje autom\u00e1tico, un subcampo de la inteligencia artificial dise\u00f1ado para discernir patrones en grandes cantidades de datos. Esto le permite no s\u00f3lo categorizar grandes cantidades de informaci\u00f3n, sino tambi\u00e9n predecir y clasificar datos nuevos, no vistos previamente. En otras palabras, aplica los conocimientos aprendidos a situaciones nuevas. Aunque la investigaci\u00f3n sobre el aprendizaje autom\u00e1tico comenz\u00f3 a mediados del siglo pasado, ha cobrado un protagonismo sin precedentes recientemente con aplicaciones como ChatGPT.<\/p> Aprendizaje autom\u00e1tico<\/strong>.\n\n\n\n El aprendizaje autom\u00e1tico tambi\u00e9n se aplica cada vez m\u00e1s en el trabajo fronterizo. Rara vez se utiliza como tecnolog\u00eda independiente, sino que se despliega ampliamente a trav\u00e9s de las tecnolog\u00edas existentes para aumentar y acelerar las formas de vigilancia, identificaci\u00f3n y clasificaci\u00f3n establecidas desde hace tiempo. Por ejemplo, la predicci\u00f3n algor\u00edtmica<\/a>, que analiza grandes cantidades de datos como patrones de movimiento, publicaciones en redes sociales, conflictos pol\u00edticos, desastres naturales, etc., est\u00e1 sustituyendo cada vez m\u00e1s a los modelos estad\u00edsticos de migraci\u00f3n para trazar patrones migratorios. La Comisi\u00f3n Europea financia actualmente la investigaci\u00f3n de m\u00e9todos algor\u00edtmicos<\/a> que ampliar\u00edan las formas existentes de an\u00e1lisis de riesgos recurriendo a fuentes de datos m\u00e1s amplias para identificar nuevas formas de conducta \u00abarriesgada\u00bb. El aprendizaje autom\u00e1tico tambi\u00e9n se est\u00e1 probando o utilizando en detectores de mentiras en guardias fronterizos<\/a>, reconocimiento de dialectos<\/a>, rastreo e identificaci\u00f3n de buques sospechosos<\/a>, reconocimiento facial en las fronteras interiores de la UE<\/a> y an\u00e1lisis del comportamiento de los internos en los campos griegos<\/a>. Como ilustra este amplio abanico de aplicaciones, parece que no hay ninguna tecnolog\u00eda fronteriza exenta de aprendizaje autom\u00e1tico, ya sea el an\u00e1lisis asistido de im\u00e1genes de grabaciones de drones o la investigaci\u00f3n de solicitudes de asilo.<\/p> que se ha impuesto en la actualidad. Los puntos de datos individuales se organizan en categor\u00edas y subcategor\u00edas, un proceso que se lleva a cabo mediante aprendizaje supervisado o no supervisado. En el aprendizaje supervisado, los datos de entrenamiento se etiquetan seg\u00fan una taxonom\u00eda predefinida. En la pr\u00e1ctica, esto suele significar que los humanos asignan etiquetas a los datos, como \u00abperro\u00bb a una imagen de dicho perro. El modelo de aprendizaje autom\u00e1tico aprende de este conjunto de datos etiquetados identificando patrones que se correlacionan con las etiquetas. En el aprendizaje no supervisado, los datos no son etiquetados por humanos. En su lugar, el algoritmo identifica de forma independiente patrones y estructuras dentro de los datos. En otras palabras, el algoritmo clasifica los datos creando sus propios grupos bas\u00e1ndose en patrones inherentes al conjunto de datos. Crea su propia taxonom\u00eda de categor\u00edas, que puede o no alinearse con los sistemas creados por humanos.<\/p> \n\n\n\n Como se\u00f1ala Louise Amoore, estudiosa de la inteligencia artificial y las fronteras, considerar los conglomerados algor\u00edtmicos como una representaci\u00f3n de patrones \u00abnaturales\u00bb inherentes a los datos es una \u00abpropuesta pol\u00edtica extraordinariamente poderosa\u00bb, ya que \u00abofrece la promesa de una comunidad pol\u00edtica neutral, objetiva y libre de valores\u00bb.18<\/a> La idea del conglomerado algor\u00edtmico como una \u00abcomunidad natural\u00bb supone un importante movimiento racializador: las formas de conducta asociadas a la inmigraci\u00f3n irregular se etiquetan como \u00abde riesgo\u00bb. Como estas agrupaciones se forman sin referencia a criterios predefinidos, como los \u00abcl\u00e1sicos\u00bb indicadores de raza, como la nacionalidad o la religi\u00f3n, son dif\u00edciles de cuestionar con conceptos existentes como las caracter\u00edsticas protegidas o el sesgo.19<\/a> Por ejemplo, un migrante podr\u00eda ser identificado como un riesgo para la seguridad por un algoritmo de aprendizaje autom\u00e1tico basado en una correlaci\u00f3n opaca entre itinerarios de viaje, publicaciones en redes sociales, redes personales y profesionales, y patrones meteorol\u00f3gicos.<\/p> <\/p> La idea de una agrupaci\u00f3n algor\u00edtmica como \u00abcomunidad natural\u00bb comprende una importante medida de racializaci\u00f3n: las formas de conducta asociadas a la migraci\u00f3n irregular se etiquetan, en consecuencia, como \u00abde riesgo\u00bb.\n\n\n\n La creaci\u00f3n de categor\u00edas en funci\u00f3n de atributos inherentes se hace eco y se extiende a otras pr\u00e1cticas del siglo XIX: a saber, una serie de esfuerzos cient\u00edficos que utilizan la medici\u00f3n y la estad\u00edstica para identificar regularidades y patrones que apunten a un comportamiento delictivo. Al igual que el aprendizaje autom\u00e1tico no supervisado, los campos de la craneometr\u00eda, la frenolog\u00eda y la antropolog\u00eda criminal acumulaban sistem\u00e1ticamente datos sobre sujetos humanos para extraer patrones que pudieran clasificarse en categor\u00edas de criminalidad.\n\n\n\n Por ejemplo, fren\u00f3logos como Franz Joseph Gall relacionaron rasgos espec\u00edficos de la personalidad con la prominencia de regiones del cr\u00e1neo. En el campo relacionado de la fisiognom\u00eda, figuras como el pastor suizo Johann Kaspar Lavater emprendieron un estudio sistem\u00e1tico de los rasgos faciales como gu\u00eda del comportamiento criminal. Impulsados por el desarrollo de la fotograf\u00eda, los estudios que investigaban los signos de criminalidad en el rostro cobraron fuerza, y los convictos y reclusos de manicomios fueron sometidos repetidamente a este tipo de \u00abestudios\u00bb. Las fotograf\u00edas compuestas de Frances Galton, fundadora del movimiento eugen\u00e9sico y pionera de la identificaci\u00f3n de huellas dactilares, son un ejemplo de ello: se superpon\u00edan im\u00e1genes de convictos para obtener regularidades como marcadores f\u00edsicos de criminalidad.20<\/a><\/p>\n\n\n\n La antropolog\u00eda criminal consolid\u00f3 estos enfoques en un intento coherente de someter el cuerpo criminal al escrutinio cient\u00edfico. Bajo el liderazgo del psiquiatra y antrop\u00f3logo italiano Cesare Lombroso, los antrop\u00f3logos criminales utilizaron una amplia gama de herramientas antropom\u00f3rficas de medici\u00f3n, desde las precisas medidas de las extremidades de Bertillon hasta las medidas craneom\u00e9tricas del cr\u00e1neo, pasando por la cartograf\u00eda de los rasgos faciales y la anotaci\u00f3n de marcas distintivas como cicatrices y tatuajes. Sobre esta base, enumeraron una lista de los llamados \u00abestigmas\u00bb o regularidades f\u00edsicas que se encontraban en el cuerpo del \u00abcriminal nato\u00bb. Aunque esta noci\u00f3n est\u00e1 ampliamente desacreditada hoy en d\u00eda, el m\u00e9todo subyacente de clasificaci\u00f3n basado en caracter\u00edsticas de datos masivos todav\u00eda existe.<\/p> \n\n\n\n Confiar en las conclusiones extra\u00eddas del an\u00e1lisis cuantitativo de los rasgos faciales sigue siendo un fuerte atractivo. Un documento de 2016<\/a> afirmaba haber entrenado con \u00e9xito un algoritmo de red neuronal profunda para predecir la criminalidad a partir de fotos de la cabeza tomadas de carn\u00e9s de conducir, mientras que un estudio de 2018<\/a> hac\u00eda afirmaciones similares sobre la lectura de la orientaci\u00f3n sexual a partir de fotos de sitios de citas.<\/p> Estudio de 2016<\/a> hizo afirmaciones similares sobre la lectura de la orientaci\u00f3n sexual a partir de fotos de sitios de citas.\n\n\n\n Al abordar estos sistemas de forma cr\u00edtica, es imperativo tener en cuenta el proyecto pol\u00edtico m\u00e1s amplio para el que se despliegan. Como escribe la especialista en IA Kate Crawford: \u00abCorrelacionar la morfolog\u00eda craneal con la inteligencia y la reivindicaci\u00f3n de derechos legales act\u00faa como una coartada t\u00e9cnica para el colonialismo y la esclavitud\u00bb. Aunque existe una tendencia a centrarse en los errores de las mediciones craneales y en c\u00f3mo corregirlos, el error mucho mayor est\u00e1 en la visi\u00f3n del mundo subyacente que anim\u00f3 esta metodolog\u00eda. El objetivo, por tanto, no deber\u00eda ser reclamar mediciones m\u00e1s precisas o \u00abjustas\u00bb de los cr\u00e1neos para apuntalar modelos racistas de inteligencia, sino condenar el enfoque por completo.’21<\/a> Dicho de otro modo, las t\u00e9cnicas de clasificaci\u00f3n y cuantificaci\u00f3n no pueden divorciarse de los contextos sociopol\u00edticos que se les ha encomendado verificar y avalar. Parafraseando al acad\u00e9mico de Relaciones Internacionales Robert Cox, la clasificaci\u00f3n y la cuantificaci\u00f3n son siempre para alguien, y con alg\u00fan prop\u00f3sito.22<\/a><\/p>\n\n\n\n Sin embargo, como advierte la especialista en Estudios de Ciencia y Tecnolog\u00eda Helga Nowotny, si \u00abconfiamos\u00bb en los resultados de la predicci\u00f3n algor\u00edtmica como fundamentalmente ciertos, malinterpretamos la l\u00f3gica de las redes neuronales profundas. Estas redes \u00abs\u00f3lo pueden detectar regularidades e identificar patrones bas\u00e1ndose en datos que proceden del pasado. No interviene ning\u00fan razonamiento causal, ni una IA pretende que lo haga.’23<\/a><\/p>\n\n\n\n Aunque estas m\u00e1quinas pueden producir \u00abpredicciones pr\u00e1cticas y mensurables\u00bb, no tienen sentido de causa y efecto; en resumen, no tienen \u00abcomprensi\u00f3n\u00bb en el sentido humano.24<\/a> Adem\u00e1s, un exceso de confianza en los algoritmos nos empuja hacia el determinismo, alineando nuestro comportamiento con la predicci\u00f3n maqu\u00ednica en lugar de caminos alternativos. Este es un problema en las culturas pol\u00edticas basadas en la responsabilidad. Si queremos aprender del pasado para construir un futuro mejor, no podemos confiar en los resultados predictivos de un modelo de aprendizaje autom\u00e1tico.\n\n\n\n Adem\u00e1s de la dependencia compartida y continuada de la cuantificaci\u00f3n y la clasificaci\u00f3n, hay muchos hilos de los que se podr\u00eda tirar para explorar la enmara\u00f1ada historia de las tecnolog\u00edas de vigilancia e identificaci\u00f3n desde el siglo XIX hasta la actualidad. Las poblaciones marginadas y excedentes, como los convictos y los colonizados, se han utilizado durante mucho tiempo como \u00abcampos de pruebas tecnol\u00f3gicas<\/a>\u00bb para perfeccionar los sistemas de clasificaci\u00f3n y entrenar algoritmos. El miedo a la movilidad humana descontrolada sigue siendo el motor de la investigaci\u00f3n y el desarrollo, y la tecnolog\u00eda, a su vez, se utiliza para solucionar los problemas que ella misma ha creado. Y los m\u00e9todos cient\u00edficos sociales positivistas siguen siendo fundamentales para traducir las multiplicidades rugientes en valores num\u00e9ricos n\u00edtidos.\n\n\n\n En lugar de caer en la exageraci\u00f3n de la IA, podr\u00edamos sintonizar con una sensaci\u00f3n de d\u00e9j\u00e0-vu: la inquietante sensaci\u00f3n de que ya hemos visto todo esto antes. De este modo, podr\u00edamos resistirnos mejor a las fantasiosas afirmaciones de los actores corporativos y fronterizos, y empezar a desvincular las tecnolog\u00edas de los proyectos globales de dominaci\u00f3n.<\/p> Este art\u00edculo se basa en la investigaci\u00f3n realizada durante el proyecto <\/em>‘Fronteras el\u00e1sticas: Repensando las fronteras del siglo XXI’<\/em><\/a> con sede en la Universidad de Graz, financiado por la fundaci\u00f3n NOMIS.<\/em><\/p>\n\n\n\n 1<\/a> 2<\/a> 3<\/a> 4<\/a> 5<\/a> 6<\/a> 7<\/a> 8<\/a> 9<\/a> 10<\/a> 11<\/a> 12<\/a> 13<\/a> 14<\/a> 15<\/a> 16<\/a> 17<\/a> 18<\/a> 19<\/a> 20<\/a> 21<\/a> 22<\/a> Un cat\u00e1logo de identificaci\u00f3n<\/h4>\n\n\n\n
\n
Marcado de la criminalidad<\/h4>\n\n\n\n
Ancestro de la Dataficaci\u00f3n<\/h4>\n\n\n\n
De la taxonom\u00eda al aprendizaje autom\u00e1tico<\/h4>\n\n\n\n
El supuesto tipo penal<\/h4>\n\n\n\n
Un d\u00e9j\u00e0-vu de la IA<\/h4>\n\n\n\n
A. Bertillon, Instructons signal\u00e9tiques<\/em>, Melun, 1893, l\u00e1mina 16, p. 262.<\/code><\/p>\n\n\n\nFormo parte de un equipo de investigadores del proyecto financiado por NOMIS Fronteras el\u00e1sticas<\/a>, Universidad de Graz, Austria.<\/code><\/p>\n\n\n\nV\u00e9ase tambi\u00e9n: M. Maguire, 'Biopower, Racialization and New Security Technology', Social Identities<\/em>, Vol. 18, No.5, 2012, pp. 593-607; K. Donnelly, 'We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences', Public<\/em>, Vol. 30, n.\u00ba 60, 2020, pp. 20-33; A. Valdivia y M. Tazzioli, 'Genealogies beyond Algorithmic Fairness: Making up racialized subjects', in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency<\/em>, FAccT '23, Association for Computing Machinery, 2023, pp. 840-50.<\/code><\/p>\n\n\n\nSi las huellas se tomaron en Grecia, pero el solicitante de asilo fue detenido posteriormente en Alemania, podr\u00eda enfrentarse a la expulsi\u00f3n a Grecia para tramitar su solicitud.<\/code><\/p>\n\n\n\nB. Ayata, K. Cupers, C. Pagano, A. Fyssa y D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: A comparative and interdisciplinary analysis (working paper)<\/em>, Swiss Network for International Studies, 2021, p. 36.<\/code><\/p>\n\n\n\nJ.B. Rule, Vidas privadas y vigilancia p\u00fablica<\/em>, Allen Lane, 1973.<\/code><\/p>\n\n\n\nIbid., p. 91.<\/code><\/p>\n\n\n\nM. Foucault, Hay que defender la sociedad. Conferencias en el Coll\u00e8ge de France, 1975-76<\/em>, trans. D. Macey, Picador, 2003, p. 244.<\/code><\/p>\n\n\n\nS. A. Cole, Suspect identities: A history of fingerprinting and criminal identification<\/em>, Harvard University Press, 2001, p.12.<\/code><\/p>\n\n\n\nIbid., pp. 18-9.<\/code><\/p>\n\n\n\nIbid., pp. 34-45.<\/code><\/p>\n\n\n\nIbid., p.48.<\/code><\/p>\n\n\n\nM. Foucault, El orden de las cosas<\/em>. Routledge, 1975.<\/code><\/p>\n\n\n\nZ. Bauman, Modernidad y Holocausto<\/em>, Blackwell Publishers, 1989.<\/code><\/p>\n\n\n\nD. Ferreira da Silva, Toward a Global Idea of Race,<\/em> University of Minnesota Press, 2007.<\/code><\/p>\n\n\n\nS. Wynter, 'Unsettling the coloniality of being\/power\/truth\/freedom: Towards the human, after man, its overrepresentation - an argument', CR: The New Centennial Review<\/em>, <\/em>Vol. 3, No. 3, 2003, pp. 257-337.<\/code><\/p>\n\n\n\nG. C. Bowker y S. L. Star, Sorting things out: Classification and its consequences<\/em>, MIT press, 2000, p. 196.<\/code><\/p>\n\n\n\nL. Amoore, 'The deep border', Political Geography<\/em>, 2001, 102547.<\/code><\/p>\n\n\n\nIbid.<\/code><\/p>\n\n\n\nGalton realiz\u00f3 un estudio similar en escolares jud\u00edos, buscando marcadores raciales de juda\u00edsmo.<\/code><\/p>\n\n\n\nK. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence<\/em>, Yale University Press, 2021, pp. 126-7.<\/code><\/p>\n\n\n\nR. W. Cox, 'Fuerzas sociales, Estados y \u00f3rdenes mundiales: Beyond International Relations Theory', Millennium<\/em>, Vol. 10, No. 2, 1981, pp. 126-155.<\/code><\/p>\n\n\n\n