Perfiles queer y post-vigilanciaResumen:
Este artículo aborda la hipotética capacidad de los sistemas algorítmicos de generar perfiles de usuarios “queer”, como una modalidad reciente de la llamada “vigilancia queer” y cuyos antecedentes son rastreables en las reflexiones foucaultianas sobre el panóptico y el dispositivo de la sexualidad. Revisamos extensamente cómo opera el mecanismo de perfilado de usuario desde sus primeros prototipos a finales de los años setenta. Establecemos cuáles son sus particularidades con respecto a otros tipos de identificación. Proponemos que estos sistemas configuran un salto exponencial en las tecnologías de percepción sobre la sexualidad de los sujetos que obliga a repensar aspectos centrales de la teoría queer como el dispositivo de la sexualidad foucaultiana o la matriz heterosexual butleriana, en un contexto de post-vigilancia.
Palabras clave:
Inteligencia artificial; teoría queer; vigilancia algorítmica; perfilado de usuario
Resumo:
Este artigo aborda a capacidade hipotética dos sistemas algorítmicos de gerar perfis de usuários queer, como uma modalidade recente da chamada "vigilância queer", cujos antecedentes podem ser rastreados até as reflexões foucaultianas sobre o panopticon e o dispositivo da sexualidade. Analisamos extensivamente como o mecanismo de criação de perfis de usuários opera desde seus primeiros protótipos no final da década de 1970. Estabelecemos suas particularidades em relação a outros tipos de identificação. Propomos que esses sistemas configuram um salto exponencial nas tecnologias de percepção da sexualidade dos sujeitos que nos obriga a repensar aspectos centrais da teoria queer, como o dispositivo de sexualidade foucaultiano ou a matriz heterossexual butleriana, em um contexto de pós-vigilância.
Palavras-chave:
Inteligência artificial; teoria queer; vigilância algorítmica; perfil de usuário
Abstract:
This article addresses the hypothetical capacity of algorithmic systems to generate queer user profiles, as a recent modality of the so-called "queer surveillance" and whose antecedents are traceable in Foucauldian reflections on the panopticon and the dispositif of sexuality. We extensively review how the mechanism of user profiling operates since its first prototypes in the late 1970s. We establish what its particularities are with respect to other types of identification. We propose that these systems configure an exponential leap in the technologies of perception of the sexuality of subjects that forces us to rethink central aspects of queer theory such as the Foucauldian sexuality device or the Butlerian heterosexual matrix, in a context of post-surveillance.
Keywords:
Artificial intelligence; queer theory; algorithmic surveillance; user profiling
Introducción1
En los últimos años se ha intensificado una advertencia tecno-política proveniente tanto desde el activismo como desde el campo de investigación surgido por el cruce de los estudios sobre vigilancia y los estudios queer acerca de la vigilancia digital sobre las sexualidades disidentes. El sistema red compuesto por plataformas digitales, procesos de datificación y dispositivos electrónicos ubicuos tendría actualmente la capacidad de codificar los patrones de comportamiento de todos los usuarios, incluidos aquellos grupos identitarios que se ubican por fuera de la norma heterosexual y su matriz de inteligibilidad, al menos en el contexto occidental. Dicho proceso ha sido calificado como una vigilancia queer (Gary KAFER; Daniel GRINBERG, 2019).
Tal como aclaran Gary Kafer y Daniel Grinberg, “el parentesco entre la vigilancia y lo queer está lejos de ser nuevo” (KAFER; GRINBERG, 2019, p. 592). Como es sabido, al describir la sexualidad como un dispositivo (dispositif) en los años setenta, Foucault intentaba distanciar la sexualidad de las múltiples interpretaciones esencialistas a través de las cuales había sido abordada. A diferencia de estas lecturas naturalizantes, la palabra dispositivo remite a un ensamblaje de partes o elementos que constituyen un mecanismo, es decir, que permite interpretarla y afrontarla en los términos de una tecnología. El dispositivo de la sexualidad habría emergido precisamente en la confluencia de elementos propios de las sociedades disciplinarias europeas de los siglos XVII y XVIII, generando dinámicas singulares de poder basados en la producción de conocimiento científico sobre la sexualidad del sujeto y metodologías clínicas derivadas de la práctica confesional que él denominó “incitación a los discursos” (Michel FOUCAULT, 2007, p. 25-47).
Según Foucault, el poder disciplinario se basa en la vigilancia que se ejerce especialmente sobre los cuerpos minoritarios en espacios institucionales cerrados como la cárcel, la escuela o el hospital. Este poder busca regular los cuerpos y evitar desviaciones de la norma. Foucault analizó el panóptico de Bentham, un modelo arquitectónico que ilustraba la lógica de la vigilancia disciplinaria (Michel FOUCAULT, 2001). En el siglo XIX de Occidente, la vigilancia sobre el cuerpo sexuado se habría intensificado, creando categorías como la "homosexualidad", resultado de un panopticismo sexual dentro del dispositivo de la sexualidad (FOUCAULT, 2007).
Tener en cuenta este antecedente panóptico de hace un par de siglos es relevante para abordar la vigilancia queer en nuestro presente algorítmico. Esto se debe a la centralidad que sigue teniendo este paradigma en los estudios de vigilancia y también a un debate que atraviesa este campo, pues mientras algunos autores remiten directamente al panoptismo y describen la vigilancia contemporánea como un “panóptico digital” (Byung-Chul HAN, 2014, p. 62), otros sentencian la obsolescencia del paradigma panóptico, cuyos mecanismos disciplinares y emplazamientos arquitectónicos fijos se encontrarían completamente desdibujados por las transformaciones tecnológicas del poder digital. Esas transformaciones tecnopolíticas afectarían también a la vigilancia queer y obligarían a reconceptualizar la relación entre lo queer y la vigilancia en el contexto postdisciplinario de la sociedad algorítmica.
La supuesta captura digital de lo queer abre una pregunta radical: ¿Cómo es posible que algo tan inclasificable como lo queer pueda ser capturado y codificado en las redes digitales al punto de establecerse como un patrón algorítmico? En términos estrictos, lo que describe esta acepción se debe entender como el resultado del “desarrollo de algoritmos exitosos de creación de perfiles y personalización” (Katja DE VRIES, 2010, p. 71).
En nuestro devenir de usuarios, los sujetos humanos interactuamos con múltiples dispositivos tecnológicos. Esa interacción humano-máquina es objeto de monitoreo y registrada en la forma de datos por los mismos dispositivos como parte de un desarrollo técnico más amplio de datificación de la realidad. En ese sentido, se advierte que,
en las últimas décadas, una parte relevante de los esfuerzos gubernamentales públicos y privados se han abocado a desarrollar tecnologías para recolectar, almacenar y analizar datos acerca de los vivientes. (Flavia COSTA, 2020, p. 112)
Así, la capacidad algorítmica de “codificar lo queer” podría ser comprendida como el correlato sociotécnico de un proceso de integración de las minorías excluidas, pero también como una intensificación expandida de la vigilancia digital y las dinámicas de control. Para entender este punto, es fundamental examinar las modalidades técnicas concretas que están en juego en esta algoritmización de lo queer y las novedades o diferencias que establece con las otras dinámicas de vigilancia queer.
Las dos modalidades de la vigilancia digital
Para iniciar este recorrido en torno a la operatividad técnica del algoritmo habrá que hacer una distinción entre las dos modalidades de vigilancia digital, atendiendo al nivel individual o colectivo en el que opera.
Las preocupaciones acerca de la vigilancia digital suelen limitarse a una clase en la que la vigilancia se ejerce sobre información personal, esto es, aquella información directamente ligada a la identidad de un sujeto específico: nombre, edad, lugar de trabajo, género, etc. Esa información personal digitalizada es vulnerable de ser registrada y utilizada por entidades públicas o privadas para “controlar, rastrear, monitorear o incluso manipularnos” (Martijn VAN OTTERLO, 2013. p.1-2).
Sin embargo, en el nivel de los grandes datos (Big Data), la modalidad analítica configura un salto post individual, pues el monitoreo no se focaliza en los datos propios de cada individuo por separado y en particular, sino en el conjunto de datos de grandes grupos de usuarios (Kenneth CUKIER; Viktor MAYER-SCHÖNBERGER, 2013). Los datos producidos por la interacción humana con los dispositivos son derivados a grandes bases de datos de manera despersonalizada y desagregada, es decir, desacoplados del sujeto del cual surgen. Los algoritmos procesan esos datos para encontrar correlaciones y crear perfiles de usuario que son modelados prototípicos de carácter estandarizado y a la vez flexible que ocupan el lugar de los usuarios en la dinámica administrativa de la tecnología informática. Esta definición es decisiva, pues el algoritmo no opera directamente sobre el usuario, sino sobre el perfil de usuario que ha sido construido también algorítmicamente como un material técnicamente administrable.
La modalidad digital no individualizada resulta contraintuitiva debido a la aparente personalización de los sistemas de categorización algorítmicos que percibimos a nivel de usuario en las plataformas y dispositivos electrónicos, como si el algoritmo “nos conociera”. Y es que justamente esa personalización ocurre gracias a la creación de perfiles producidos en base a modelos estadísticos desvinculados de su origen individual. Este sistema ha recibido el nombre de “profiling” o “computer profiling” (U.S. Congress, Office of Technology Assessment, 1986, p. 87-95), que consiste en la creación de modelos generales de comportamiento predictible tanto para cosas, procesos o personas. En la versión automatizada de este proceso se utilizan redes neuronales, aprendizaje automático y minería de datos:
Además de la información disponible sobre las personas en las bases de datos y en Internet, hay una gran cantidad de sensores adicionales disponibles para una mayor recopilación de datos y monitoreo del comportamiento. Estos sensores incluyen etiquetas RFID, cámaras de video (por ejemplo, CCTV), señales GPS y teléfonos móviles. Una característica común de estos dispositivos es que están ampliamente disponibles en nuestra vida diaria, a diferencia de los sensores especializados o caros, como los sensores ultrasónicos o los escáneres cerebrales. Un subcampo de IA particularmente interesado en aprender perfiles de datos tan ricos (sensores) es el reconocimiento de actividad. (VAN OTTERLO, 2013, p. 5)
Los usos de sistemas de profiling más conocidos son las tiendas de compra on line, los motores de búsqueda y más recientemente las plataformas de contenido audiovisual, aunque la lógica del profiling se extiende rápidamente a todo el contenido digital, donde el usuario puede experimentar abiertamente la sugerencia o recomendación de productos y contenido.
Grundy y la sexualidad post-discursiva
En 1979. la experta en inteligencia artificial Elaine Rich presentó los resultados de su proyecto Grundy, un sistema computacional pionero diseñado para bibliotecas (Elaine RICH, 1979). Grundy tenía la capacidad de identificar los intereses bibliográficos de los lectores mediante modelos de usuario construidos de inferencias a partir de su comportamiento previo. Este enfoque permitía a los lectores “expresar” sus intereses sin tener que comunicarlos explícitamente a un bibliotecario, evitando así posibles problemas intercomunicacionales de comprensión o incluso situaciones incómodas. Veinte años antes de la existencia de Amazon, Grundy infería los intereses bibliográficos de los potenciales lectores en base a una interfaz conversacional del tipo preguntas y respuestas entre la máquina y el humano. En su justificación de este tipo de sistemas de modelado de usuario, Rich argumentaba que,
A medida que las computadoras llegan a ser utilizadas por un mayor número de personas para ayudar a realizar una gran variedad de tareas, es cada vez más importante que sean fáciles de usar. Hay muchos factores que pueden contribuir a la facilidad de uso de un sistema informático, que van desde el buen diseño de los dispositivos de entrada, como terminales, hasta la velocidad de respuesta del sistema, la idoneidad de su respuesta y la naturalidad de los lenguajes de entrada y salida. Los modelos apropiados de los usuarios de un sistema pueden ser una contribución importante porque pueden afectar simultáneamente varios de esos factores, como la velocidad y la calidad de respuesta y la habitabilidad de la interfaz de lenguaje. (RICH, 1979, p. 330)
El contexto de la biblioteca pública para el que se creó Grundy es ejemplar, pues configura una relación de elementos, agentes y procesos muy precisos: lectores o usuarios de la biblioteca con características e intereses particulares, los libros de contenidos diversos y la figura del bibliotecario -sustituido por el sistema computacional- que debe hacer recomendaciones en base a los intereses temáticos y a las características personales de los lectores. Si el objetivo es que el sistema computacional haga recomendaciones adecuadas, entonces será necesario que establezca un modelo muy preciso del lector y sus intereses, esto es, un modelo de usuario. Para Rich, los paradigmas computacionales existentes hasta ese momento para desarrollar esa labor, basados en preguntas directas a las personas, tenían dos problemas: primero, que las preguntas personales necesarias para generar un modelo de usuario pueden ser demasiadas y segundo, que algunas personas no puedan dar las respuestas adecuadas, ya sea porque no conocen un concepto o término específico, o simplemente porque no estarían dispuestas a entregar abiertamente cierto tipo de información. Rich imaginó varios escenarios para ejemplificar estas dificultades, uno de los cuales resulta sorprendente para reflexionar sobre la relación entre perfiles de usuario, sexualidad y poder algorítmico: la abuela de alguien visita una biblioteca púbica “interesada en leer libros sobre homosexualidad” (RICH, 1979, p. 332). Para esa abuela hipotética sería extremadamente bochornoso explicar el tema de su interés a un bibliotecario humano, pero también exponerlo abiertamente por escrito ante un sistema computacional. Por eso la propuesta de Rich es revolucionaria: el modelado de usuario para esa abuela no requerirá de preguntas directas y explícitas, sino de una serie de preguntas de carácter conversacional genérico que entregarán información relevante de manera relativamente indirecta y se procesarán a partir de técnicas de inferencia. Por ejemplo, Grundy pedía al usuario escribir una serie de palabras individuales que lo describieran como persona. Luego de eso preguntaba si había leído algún libro en particular y si le había gustado. Tras algunas interacciones, el sistema ya podía dar algunas sugerencias bibliográficas.
El modelo propuesto por Rich había preestablecido un listado de tipos de personas que operaban como estereotipos a los que se les asociaban características y puntajes. El uso de estereotipos en la construcción de modelos de usuario implica agrupar características y comportamientos de los individuos en categorías predefinidas, facilitando al sistema la tarea de identificar patrones generales que puedan aplicarse a un conjunto de usuarios con rasgos similares. Estos estereotipos permiten al sistema crear perfiles “rápidos y efectivos”, basándose en supuestos sobre las preferencias de los usuarios. Por otro lado, Grundy recurría a la inferencia probabilística al utilizar datos históricos y patrones previos para calcular la probabilidad de que un usuario tenga ciertos intereses o características. No se trataba de establecer certezas sobre los sujetos, sino más bien de calcular probabilidades en base a los gustos previos de usuarios similares.
El ejemplo de la abuela interesada en libros sobre homosexualidad ilustra cómo el algoritmo de creación de perfiles de Grundy, desde sus inicios, estaba programado para soslayar el tedioso ritual que obligaba al sujeto a hablar sobre sus deseos, representando un giro radical ante el paradigma de la "incitación a los discursos" propuesto por Foucault para describir el funcionamiento del dispositivo de la sexualidad moderna.
Grundy ejemplifica cómo los algoritmos, en lugar de los discursos, han asumido el rol de procesar de manera discreta los datos del sujeto, transformándolo en un usuario de dispositivos. A partir de la década de 1990, las tecnologías digitales, especialmente Internet, comenzaron una expansión global impulsada por la exploración intensiva de sus múltiples potencialidades técnicas, en particular las comerciales, dada la coincidencia temporal entre el despliegue de la red y la implantación del modelo neoliberal global. Esta exploración entusiasta generó -muy probablemente- su propio campo específico de problemas técnicos, una serie de tropiezos y desafíos que debían resolverse o ajustarse en el marco acelerado de una tecnología impulsada por los deseos capitalistas del mercado.
Un ingrediente adicional del ensamblaje productivo que se consolidaba entre la tecnología expandida y la extraordinaria energía que aportó la expectativa de su aprovechamiento económico es la centralidad que había adquirido la figura del usuario algunas décadas atrás. Como explica Carlos Scolari, en la evolución de la tecnología computacional durante la segunda mitad del siglo XX, convivieron diferentes paradigmas acerca de la relación entre humanos y máquinas y la función de las interfaces que permitían su interacción (Carlos SCOLARI, 2004). De todos ellos, el paradigma más exitoso fue el de la interacción persona ordenador IPO o HCI, que estudia cómo las personas diseñan, usan y se ven afectadas por sistemas informáticos interactivos, incluyendo técnicas de interacción para mejorar la usabilidad y la comunicación (Brad MYERS; Jim HOLLAN; Isabel CRUZ, 1996).
Hacia finales de los años 60, la interacción humano-computador ya estaba siendo entendida como un problema relativo a la ciencia ergonómica. El académico y profesor de ciencia ergonómica Brian Shackel lo describía así en 1969:
en el nivel de la filosofía de diseño, hay suficientes datos disponibles para respaldar la opinión de que tanto el hombre como la gran computadora son procesadores centrales altamente sofisticados pero, cuando se unen para interactuar, están unidos por canales de comunicación algo limitados. Nuevamente, en el nivel más práctico, las actitudes de los usuarios están comenzando a presentar problemas; por ejemplo, se informó recientemente (1969) que un gran número del público británico expresó cierta preocupación cuando se enfrentaron a modificaciones en sus cheques para adaptarse a la automatización bancaria. (Brian SHACKEL, 1969, p. 149)
Lo que se va estableciendo en esos años es consecuencia de un desarrollo tecnológico hegemónico a nivel global cuya ideología ergonómica se focalizó en la experiencia del usuario, y cuya codificación neoliberal impuso rápidamente la figura del consumidor, entendiendo al usuario de tecnologías digitales como un consumidor de contenidos y experiencias tanto off line como on line. Esta evolución se ha manifestado especialmente luego de la masificación de Internet en los años 90, donde la homogeneidad de los materiales en la red generó un problema de adaptación a la diversidad de usuarios. Los estudios científicos que plantearon estos problemas y las posibles soluciones innovadoras a los mismos fueron insistentes en advertir este grave inconveniente: los sitios web -al igual que los antiguos medios como la radio o la TV- estaban entregando un mismo tipo de contenido a un público heterogéneo, un conjunto de usuarios diverso. Para abordar esta cuestión, surgió la hipermedia adaptativa (HA), que buscaba personalizar contenidos basándose en información personal de cada individuo, abandonando de paso el modelo homogeneizador de los mass media del siglo XX. Los nuevos sistemas construían perfiles de usuario para ofrecer servicios adaptados a preferencias particulares, utilizando técnicas de seguimiento imperceptibles que no requerían de la intervención consciente del usuario, como el análisis de patrones de interacción (desplazamiento de artículos, el tiempo observando un contenido o la ampliación de una imagen o ventana). Este enfoque desencadenó una transformación en la relación entre el usuario y la tecnología: el uso del usuario produce información que modifica la herramienta para adaptarse a él, convirtiendo al usuario en objeto de valor. Lo que algunos autores llaman “economía de la atención” se trataría más concretamente de una “economía del uso”, donde no sólo la “atención” sino la serie de acciones e interacciones del usuario con los dispositivos electrónicos se convierten en un recurso productivo para los sistemas de extracción de datos (Rui Alexandre Pereira Pinheiro DA CRUZ; Francisco J. GARCÍA PEÑALVO; Luis ALONSO ROMERO, 2003, p. 1).
En 1994, científicos del Japan Advanced Institute of Science and Technology presentaron un sistema que registraba automáticamente el tiempo de lectura que pasaba un usuario leyendo artículos de un popular sitio de noticias on line. El estudio asociaba directamente el tiempo de lectura con el interés del usuario en los temas tratados en cada artículo. Un mayor tiempo de lectura implicaba mayor interés, poco tiempo de lectura significaba un interés bajo. Los resultados del registro automático se compararon con una evaluación de interés explícito dado por cada uno de los voluntarios que participaron en la investigación (Masahiro MORITA; Yoichi SHINODA, 1994).
Tres años más tarde, Hidekazu Sakagami y Tomonari Kamba, ambos académicos de la Universidad de Tokio e investigadores de la Nippon Electric Company NEC, desarrollaron ANATAGONOMY un periódico on line experimental que infería el interés del lector en cada artículo luego de datificar acciones como el scrolling (desplazamiento) por el artículo o la ampliación de una ventana (Hidekazu SAKAGAMI; Tomonari KAMBA, 1997).
Perfil de usuario e identidad
Distinguir a los individuos unos de otros, identificar a las personas de manera adecuada y eficiente ha sido un desafío para los poderes que han administrado y gobernado los sistemas sociales complejos y se ha materializado en el tiempo a través de diferentes técnicas. Si nos remitimos al periodo histórico más reciente y al acotado ámbito digital, también se pueden distinguir distintas técnicas de identificación y categorización de personas. Por eso es importante recalcar que el perfilado algorítmico es un tipo específico de identificación, con operatorias y características propias que difieren de otras modalidades de identificación digital.
El perfilado algorítmico no mapea una identidad preexistente, sino que mediatiza cómo nos experimentamos (DE VRIES, 2010). Este mecanismo no solo implica algoritmos, sino también aparatos de monitoreo, procesos de datificación y redes digitales, que contribuyen a la creación de una "nueva identidad algorítmica" (John CHENEY-LIPPOLD, 2011, p. 165) impulsada por la dinámica comercial, y puede llevar a identificaciones forzadas que no se corresponden con la autoidentificación del individuo (DE VRIES, 2010). Por ejemplo, John Cheney Lippold nos recuerda que, en el contexto de la red, “una categoría como el género no está determinada por los genitales o incluso la apariencia física” (CHENEY-LIPPOLD, 2011, p. 165). Esa categoría de género tampoco estaría necesariamente vinculada a una autoidentificación. Matzner destaca la lógica inductiva de los sistemas de Big Data, donde los datos indican qué buscar en lugar de que la búsqueda esté predeterminada (Tobias MATZNER, 2016). Además, el desacoplamiento entre la generación y el análisis de datos implica que los datos pueden ser evaluados en diferentes contextos y momentos, convirtiéndose en datos para un programa solo cuando se solicitan. Este proceso de identificación algorítmica no sólo redefine la identidad, sino que también transforma la relación entre el individuo y la tecnología.
Uno de los aspectos que está en el fondo de este problema es la relación que establecen los datos con la realidad. Para Matzner por ejemplo, la mayoría de las narraciones a través de los cuales se entienden los datos operan desde un paradigma de los datos como representación. Una de las metáforas que podrían asociarse a esta lectura de los datos como material de representación es el concepto de “huella digital” o la misma idea de “doble de datos”. Lo que subyace a estas metáforas también está presente en las críticas de quienes denuncian que estos sistemas digitales son deficientes ya sea porque “reducen” una realidad compleja a un conjunto acotado de indicadores calculables, o porque son científicamente dudosos, pues se basan en modelos especulativos poco confiables y cuyas conclusiones no son comprobables.
Sin desconocer la urgencia de una crítica disciplinar que evalúe la “seriedad” científica de los análisis algorítmicos, podríamos sostener con Matzner que la falta de certeza o precisión de las técnicas algorítmicas se vuelve un problema irrelevante dado su alcance operativo y los efectos concretos (reales) que su despliegue conlleva. Por lo tanto, una pregunta tecno-política no estaría tan interesada en si lo que dicen los datos es correcto o falso en relación con la realidad datificada por ellos, sino más bien qué es lo que hacen los datos, cuál es su efecto de realidad (MATZNER, 2016). A modo de inicio en este abordaje de la performatividad de los datos, se resumen tres características o aspectos generales del perfilado algorítmico en relación con la identidad, y más específicamente, con lo que se entendería como un “perfilado queer”:
1. No es identidad correcta sino identidad pragmática. La identificación algorítmica se basa en la eficiencia y pertinencia, no en la veracidad, lo que significa que una identificación que parezca errónea desde una perspectiva de "correspondencia" puede ser adecuada desde un punto de vista pragmático (DE VRIES, 2010, p. 78). Esto implica que la identificación algorítmica, incluida una hipotética "identificación queer", se entendería como pragmática, donde los errores de identificación son irrelevantes dada la escala de su aplicación, siempre que el sistema pueda operar, aprender y corregirlos. Además, cualquier sistema de identificación influye en la constitución de la propia identidad.
2. No es identidad individual sino identidad dividual/colectiva. La identidad en la era digital no es individual, sino dividual2 o colectiva, donde los perfiles se construyen a partir de datos generados por el monitoreo de la conducta de usuarios y se agregan en conjuntos relacionados mediante algoritmos. El big data es un conjunto masivo de fragmentos de datos dividuales provenientes de diversas fuentes. Los algoritmos vuelven a agregar estos datos en perfiles que reemplazan al individuo como objeto directo de su acción, por lo que resulta técnicamente erróneo describir al perfil de usuario como un “doble de datos” (MATZNER, 2016, p. 204). Estos perfiles se basan en la suposición de que personas que compartieron preferencias en el pasado también lo harán en el futuro. Los sistemas utilizan principalmente el razonamiento inductivo para establecer patrones generales, es decir, una inferencia estadística que “se basa en la lógica de que lo que permanece incalculable a nivel individual es, sin embargo, calculable a nivel colectivo” (DE VRIES, 2010, p. 80). Las tecnologías de gobierno basadas en datos y algoritmos ya no se centran en procesos de subjetivación, sino en la elaboración de perfiles basados en la similitud de datos de usuarios y la continuidad del comportamiento.
3. La identidad no es fija, sino fluida. Los perfiles de datos se ensamblan en lugar de ser descubiertos o extraídos. Estos ensamblajes no son fijos ni únicos, ya que un mismo usuario puede tener múltiples perfiles que cambian con el tiempo. Se introduce la idea de "datos derivados", que se ensamblan para juzgar el futuro potencial de una persona, no solo quién es en el presente (MATZNER, 2016, p. 203).
El género en las plataformas digitales
Un ejemplo ilustrativo de la operatividad clasificatoria digital se encuentra en lo que Cheney-Lippold denomina "el género de Google". Los algoritmos de Google analizan los datos de usuario y construyen perfiles a los cuales se les asigna un género (masculino o femenino) que puede no coincidir necesariamente con el género “real” del usuario. Según Cheney-Lippold, esto plantea un desafío a nuestra comprensión de la identidad de género, ya que,
Cuando Google analiza sus datos de navegación y lo asigna a una de las dos categorías de género distintas (sólo 'masculino' o 'femenino'), su género algorítmico bien puede contradecir su propia identidad, necesidades y valores. (CHENEY-LIPPOLD, 2017, p. 7)
Este fenómeno se debe a que los sistemas de clasificación electrónicos producen perfiles cuya asignación de género depende del resultado de las correlaciones de datos y no de una inspección precisa del cuerpo y la identidad del sujeto. En este sentido, el género algorítmico no tiene una conexión directa con la experiencia del género a nivel individual, sino que se (des)conecta del individuo a nivel de sus fragmentos informáticos, expresando un nuevo nivel de dividualidad.
Este ejemplo del género de Google, que es recurrente en la literatura especializada, sirve como paradigma de la relación entre datos e identidad, o datos y realidad. En pocas palabras, el sistema produce su propia realidad con la cual trabaja o sobre la cual opera, que no representa a la realidad de la cual es su referente.
Esta forma de entender el género no aborda la formación de la identidad desde un marco esencialista, sino que activa un giro flexible y funcional de la categoría. Los algoritmos desesencializan el género de sus formas y determinaciones corporales y sociales, mientras que también reesencializan el género como una categoría relacionada estadísticamente, en gran parte impulsada por la investigación de mercado:
el género se convierte en un vector, una asociación completamente digital y basada en matemáticas que define el significado de masculinidad, feminidad o cualquier otro género (o categoría) que requiera un especialista en marketing. (CHENEY-LIPPOLD, 2011, p. 170)
Lo que se anticipa entonces es la superación algorítmica de la disciplina, y lo que se instala en ese marco digital es un constante monitoreo, tal vez como una versión atenuada de la vigilancia, algo más parecido a la modulación, que se describe como "un elenco autodeformable que cambiará continuamente de un momento a otro, o como un tamiz cuya malla se transmutará de un punto a otro" (CHENEY-LIPPOLD, 2011, p. 169). En este contexto, dejan de existir estándares normativos fijos de masculinidad o feminidad que definan o disciplinen los cuerpos, ya que estos estándares cambian y se actualizan constantemente. Si se ingresan nuevos datos, el perfil cambiará en consecuencia. En este sentido, el género se transforma en una variable que se define cibernéticamente, una dinámica de retroalimentación en “tiempo real” que muta a medida que llega nueva información del usuario al sistema cibernético.
Cuando el género comienza a ser administrado en los términos de una categoría basada en vectores, se distancia del dominio disciplinario y normativo para quedar reasignado a la lógica de las correlaciones estadísticas:
las categorías siempre tienen la capacidad de cambiar, fuera y en línea, pero el cambio que quiero traer al mundo de la identidad es la manera continua y centrada en los datos que modula tanto la experiencia del usuario (el contenido que ven) como la base categórica de esas identificaciones. (CHENEY-LIPPOLD, 2011, p. 172)
En este sentido, el género algorítmico deja de ser una instancia normativa y se vuelve un mero indicador para la activación de determinadas sugerencias al usuario. Sin embargo, el uso de la categoría de género en las tecnologías algorítmicas, y el deseo de categorizar a los usuarios en base a géneros, responde a una cita al sistema cultural anterior, sobre el que de cierta forma se sobreimprime este nuevo sistema algorítmico, pues "las ideas preconcebidas del mundo real sobre los significados de las categorías alimentan las definiciones fundamentales que tenemos sobre ciertos géneros, razas y clases en línea" (CHENEY-LIPPOLD, 2011, p. 170). Teniendo esto en cuenta surge la pregunta de si la variable género podría eventualmente dejar de ser significativa, llegando a disminuir la relevancia porcentual de esa variable o incluso desaparecer. En cualquier caso, Cheney-Lippold plantea que esta categorización cibernética se aleja de los estereotipos del mundo físico y produce sus propios estereotipos digitales. En este contexto, el género algorítmico se convierte en una forma de categorización que, si bien tiene sus raíces en las concepciones culturales previas, adquiere una dinámica propia al ser recodificada en el ámbito digital.
Siguiendo esta línea, en 2013 se reveló que la plataforma de Facebook analizaba el género de los usuarios a partir de las correlaciones establecidas por los likes. Esta categorización llegaba a tener un 88% de precisión:
es el doce por ciento restantes de los usuarios, aquellos cuya sexualidad permanece opaca o está mal determinada, lo que me interesa aquí. La posibilidad de que el doble de datos de uno traicione su deseo corporal y realice queerness o heteronormatividad en oposición a la intención del sujeto es quizás el punto de intersección más provocativo entre queerness y análisis de Big Data. Si la Queerness adquirió sus connotaciones de autodeterminación. (Brian SCHRAM, 2019, p. 609-610)
De acuerdo con Schram, este margen de error del sistema podría introducir formas novedosas de experimentar el género por parte de los usuarios. Y eso se debe a que el sistema podría producir experiencias queer erróneas basadas en la construcción performativa “accidental” de perfiles queer derivados de correlaciones no directamente vinculadas al deseo o la intencionalidad del sujeto, convirtiendo al sistema de categorizaciones algorítmicas en algo así como un metasistema queer que operaría justamente desde la desidentificación y la desorientación, aquellas experiencias que José Esteban Muñoz y Sara Ahmed concibieron para describir la naturaleza de lo queer.
Sin embargo, el propio Schram aclara que incluso en las modalidades más diversificadas de identificación de género, como la multiplicación de identificaciones de género en Facebook (primero más de cincuenta y luego sobre las setenta), sigue habiendo una lógica binaria y un esquema unilateral de posibilidades:
Como tal, Facebook socava el proyecto Queer en dos niveles. Primero, presenta a los usuarios un sistema de clasificación altamente granular, eliminando efectivamente la capacidad de los usuarios Queer de moverse a través de una “malla abierta de posibilidades”. (SCHRAM, 2019, p. 606)
En cierto sentido, esto tiene que ver precisamente con la contradicción fundamental que implica la idea de una “categorización queer”, puesto que “ser categorizado…, es perder la capacidad de elegir cuándo y cómo se borra uno y cómo se vuelve invisible y visible” (SCHRAM, 2019, p. 606) y esto se contrapone justamente al proyecto queer pues “lo queer nunca se instala en ningún sistema singular de clasificación.” (SCHRAM, 2019, p. 606).
Hipernormalización cibernética
Siguiendo la pregunta acerca de las modalidades más recientes de vigilancia queer, algunos autores han propuesto que, en el contexto de las sociedades contemporáneas digitalizadas, lo queer funcionaría como mecanismo de control, es decir, estaría integrado dentro de sistemas informáticos, cuestión que obligaría a repensar la capacidad subversiva de lo queer. Por ejemplo, Gary Kafer y Daniel Grinberg han afirmado que,
Dentro de la economía política neoliberal, el consumo y la domesticidad son sitios clave en los que lo queer emerge como mecanismo regulador en las sociedades de control (KAFER; GRINBERG, 2019, p. 594).
¿Qué quiere decir que lo queer aparezca como un mecanismo regulador de las sociedades de control? Para ellos, lo queer es un mecanismo de control vigilante precisamente porque expone el umbral entre lo normativo y lo no normativo. La existencia de lo queer depende o más bien se hace parte de esa división de la realidad social humana entre los que se adecúan a la norma y los que la transgreden, o también a esa otra modalidad -más cuantitativa- que divide lo social entre quienes se corresponden con un normal mayoritario y quienes se encuentran en los extremos menos probables de las curvas de normalidad. La vigilancia digital haría de lo queer un elemento útil para categorizar poblaciones en el marco de los sistemas normativos:
Dicho de otra manera, sostenemos que la vigilancia enumera lo queer. En matemáticas e informática, una función o algoritmo enumerativo es uno que produce un conjunto completo y ordenado de soluciones a un problema. Sin embargo, la enumeración, en particular con respecto a los procesos de clasificación de los sistemas de vigilancia, no se preocupa tanto por la contabilización de elementos, identidades o comportamientos que ya existen. Como técnica biopolítica, “el proceso enumerativo tiene de hecho la capacidad de crear lo que pretende solo nombrar, haciendo que nuevos tipos de personas aparezcan en el mapa social” (Currah y Stryker 2015: 2), o tal vez desaparezcan. Las transgresiones se producen simultáneamente y luego se incorporan en el esquema hegemónico para asegurar la viabilidad de las categorías normativas. (KAFER; GRINBERG, 2019, p. 595)
Para Kafer y Grinberg, la integración informática de lo queer cumpliría una función discriminadora entre lo que se ajusta a la norma y lo que no, entre lo normal y lo anormal. Sin embargo, como se desprende de lo visto anteriormente, aun cuando estas tecnologías pueden ser aplicadas con fines discriminatorios y por tanto cumplir una función de continuidad con las técnicas de dominación previas, los sistemas algorítmicos no tienen en principio un objetivo de delimitación de lo normal y lo anormal o de evaluar la adecuación a una norma preestablecida, como sí lo tenían las técnicas disciplinarias. Quisiéramos aprovechar la misma descripción que hacen los autores de lo queer como “mecanismo regulador en las sociedades de control” para proponer una lectura post disciplinaria de ese queer informático. La propia referencia a las sociedades de control nos remite a esa advertencia que hacía Deleuze en su famosa post data a las sociedades de control: “‘Control’ es el nombre propuesto por Burroughs para designar al nuevo monstruo que Foucault reconoció como nuestro futuro inmediato” (Gilles DELEUZE, 2006, p. 2). Ya no es la disciplina sino el control el encargado de administrar las sociedades contemporáneas. Aún más, la propia idea de “control” tendrá que ser despojada de sus reminiscencias disciplinarias, pues el control descrito por Deleuze no es un control determinista, como si el control significara que los individuos somos marionetas en una sociedad que nos controla tecnológicamente en el sentido que dirige y domina todas nuestras acciones:
Los encierros son moldes o moldeados diferentes, mientras que los controles constituyen una modulación, como una suerte de molde autodeformante que cambia constantemente y a cada instante, como un tamiz cuya malla varía en cada punto. (DELEUZE,2006, p. 2)
Los rígidos moldes disciplinarios ceden su lugar a modulaciones cambiantes. Aún más, el control no funciona como un poder unidireccional que iría del sistema tecnológico al individuo, sino que debe ser comprendido como una dinámica multidimensional de la que somos partícipes. El control no sólo me afecta pasivamente, sino que también me constituye como agente de control en la sociedad. Cada vez que evalúo un servicio, construyo un perfil con clave de acceso único y personal o determino quién puede ser parte o no de mi red digital, estoy ejerciendo una parte de ese poder-control.
La misma noción de un “mecanismo regulador” con la que Kafer y Grinberg describen la función de lo queer en la sociedad de control recuerda a los conceptos cibernéticos de feedback o retroalimentación, cuyo paradigma ha servido desde la segunda mitad del siglo XX para comprender fenómenos que van desde las comunicaciones a la física, la biología sistémica, la ecología y la genética. Los mecanismos reguladores son sistemas mucho más complejos que los sistemas de acceso/rechazo a los que alude la función discriminatoria o los de readecuación a la norma que impone la disciplina. Los mecanismos reguladores integran sistémicamente las distintas posibilidades de variación de los elementos, generando respuestas dinámicas -del tipo amortiguador o buffer- que permiten ciertos márgenes de cambio, pero que a la vez contrarrestan alteraciones excesivamente drásticas.
La descripción que hace Martin van Otterlo de la relación entre el perfil algorítmico y la actividad de los individuos como un ciclo de retroalimentación podría dar una luz para leer cibernéticamente la función de lo queer en el contexto de la sociedad de control digital:
la elaboración de perfiles genera modelos, y las acciones basadas en estos modelos cambiarán el comportamiento de los individuos y, debido a eso, los modelos (tendrán que) cambiar, y este ciclo de retroalimentación continuará. (VAN OTTERLO, 2013, p. 17)
Siguiendo la línea de argumentación de Kafer y Grinberg, algunos autores han propuesto el concepto de "vigilancia marginalizadora” para explicar cómo "los sistemas de vigilancia administran el riesgo y la seguridad al delimitar qué poblaciones son socialmente ilegibles y, por lo tanto, excluidas de la pertenencia política" (KAFER; GRINBERG, 2019, p. 594).
La relación con la lectura anterior es directa y a la vez distinta. La vigilancia marginalizadora, que podría ser una de las modalidades de la vigilancia queer, no estabiliza lo normal y lo anormal, sino que establece qué poblaciones son legibles y cuáles no. Ambas operan produciendo una diferencia binomial, pero sus efectos son bien diferentes. La vigilancia que separa lo normal o anormal implica un marco mayor de comprensión y claridad de ambos términos, es decir, para este tipo de vigilancia tanto lo normal como lo anormal deben ser legibles, claramente identificables. La vigilancia marginalizadora, en cambio, produciría ella misma una estructura de inteligibilidad, haciendo que ciertas poblaciones sean legibles y otras no, por no corresponder a esos marcos y códigos de legibilidad. Lo que queda fuera de ese marco de legibilidad se caracterizaría por ser una experiencia difusa e incoherente ante la mirada del poder. Esto último recuerda muy intensamente al concepto butleriano de matriz heterosexual:
Utilizo la expresión matriz heterosexual … para designar la rejilla de inteligibilidad cultural a través de la cual se naturalizan sexos, géneros y deseos. He partido de la idea de «contrato heterosexual» de Monique Wittig y, en menor grado, de la idea de «heterosexualidad obligatoria» de Adrienne Rich para describir un modelo discursivo/epistémico hegemónico de inteligibilidad de género, el cual da por sentado que para que los cuerpos sean coherentes y tengan sentido debe haber un sexo estable expresado mediante un género estable (masculino expresa hombre, femenino expresa mujer) que se define históricamente y por oposición mediante la práctica obligatoria de la heterosexualidad. (Judith BUTLER, 2014, p. 292)
Aquí aparecen claramente dos paradigmas de relación entre lo queer y la vigilancia o percepción. Por un lado, en un marco normativo y disciplinario, lo queer se organizaría como el objeto principal de la vigilancia. El poder vigila aquello que se desvía del ideal de la norma con el objeto de disciplinarlo y reencauzarlo a la vía correcta. Esta sería la lectura foucaultiana de la disciplina. Por el otro lado, en la lectura butleriana, lo queer emergería como aquello que se encuentra en los bordes de lo perceptible. La matriz heterosexual funcionaría haciendo que ciertas expresiones del sexo/género/deseo sean coherentes a partir de una norma de adecuación que las estabiliza. Las inadecuaciones a esa relación, los descalces en esa tríada provocarían extrañeza y quedarían como expresiones ininteligibles, en los bordes, constituyendo el afuera constitutivo de lo normal.
Ambas interpretaciones de lo queer como objeto de percepción son prácticamente opuestas: Mientras para Foucault las sexualidades desviadas son objeto de una categorización -o legibilidad- clara y precisa, para Butler son lo contrario, expresiones incoherentes y extrañas que no encajan con lo que preestablecen las convenciones y por lo tanto, quedan en un espacio difuso, un afuera de ininteligibilidad. Es muy probable que ambas descripciones sean coexistentes y parte operativa y funcional de un complejo dispositivo más amplio de vigilancia y percepción sobre las sexualidades. El problema es que ninguno de estos paradigmas de la vigilancia se corresponde con la función algorítmica sobre lo queer.
Como hemos visto extensamente, ya desde el proyecto Grundy de 1979 se configura un sistema de perfilado algorítmico que -a menos en su campo delimitado de acción- ya no opera a través del mecanismo de “incitación a los discursos” y tampoco bajo el sentido disciplinario que caracterizó Foucault sobre el dispositivo de la sexualidad en las sociedades occidentales desde el siglo XVII, que ha sido ampliamente utilizado por las lecturas queer contemporáneas para denunciar una de las principales modalidades del poder heteronormativo. El perfilado a partir de categorías como el género o la sexualidad tampoco parece ajustarse a una matriz de inteligibilidad, al menos no del tipo descrito por Butler. Mientras la matriz heterosexual se caracterizaba como un modelo discursivo/epistémico hegemónico sustentado en la coherencia y la estabilidad, la técnica algorítmica prescinde de esa coherencia y estabilidad preestablecidas. Mientras la matriz heterosexual precisaba del encaje perfecto de unos elementos (sexo-género-deseo), la técnica algorítmica produce múltiples correlaciones móviles entre los datos, muchas de ellas impensadas e inclusive incoherentes, sin requerir explicación causal alguna más allá del carácter autoexplicativo y por ende autoafirmativo de su "resultado".
Dado el campo de discusión actual, se podrían describir aquí dos posibilidades de existencia de lo queer ante el régimen algorítmico. Por un lado, podría ser que el interés de datificación "total" que expresa la utopía Big Data termine integrando lo queer a través de esa datificación, de la formación de correlaciones, construcción de patrones y perfiles móviles que no están orientados por una evaluación normativa. En cierto sentido, podría decirse que, en esta operación, lo queer se integra y a la vez desaparece como un elemento más de la hipernormalización algorítmica, pues pierde su excepcionalidad, rareza, extrañeza y disruptividad que lo caracterizaban:
Schram demuestra las formas en que el análisis de big data ha hecho que lo queer sea ineficaz por dos razones. Primero, el alcance y la granularidad del análisis de big data han invadido las escalas más íntimas de la experiencia humana, proscribiendo las identidades a nivel individual. En segundo lugar, los procesos de retroalimentación de la analítica del consumidor han despojado a la agencia que alguna vez se atribuyó al deseo que sustentaba las articulaciones performativas de la encarnación queer” (KAFER; GRINBERG, 2019, p. 598).
Por otro lado, y siguiendo el mismo punto butleriano, podría decirse que lo que emerge es un nuevo régimen de inteligibilidad, en que lo "estable, coherente y seguro" pasa de la estructura general y fija de la norma al microespacio de la correlación móvil. En el plano del algoritmo ya no rige una matriz únicamente heterosexual, sino una suerte de hiper-matriz configurada por la potencialidad de patrones múltiples en constante modificación. La diferencia sería además temporal, pues mientras la matriz heterosexual operaba en un tiempo de estabilidad y coherencia amplio, diacrónico, la matriz algorítmica lo hace en un tiempo acelerado, sincrónico: cada perfil algorítmico es provisionalmente coherente y seguro por el tiempo que se mantenga estable, hasta que sea reemplazado por uno nuevo.
El proceso de totalización informática que desarrolla la utopía de una digitalización absoluta de la realidad se podría describir como una "desaparición de la desaparición", lo que plantea preguntas acerca de hasta qué punto algo queda o no por fuera del ojo informático, especialmente aquellas identidades que habían sido descritas como ininteligibles para la matriz heterosexual, que transgreden o que bordean la norma. Si es que algo queda fuera de este nuevo régimen de inteligibilidad (es decir, si es que sigue persistiendo lo queer) sería aquello que no alcanza a ser capturado por el sistema de datificación. Como se puede prever, esta idea presenta un nuevo problema. Una posición entusiasta del Big Data podría contraargumentar que si algo queda aún sin datificar es debido a la falta de aparatos de captura. Por lo tanto, la solución sería más datificación, hasta lograr integrar ese queer exterior al sistema. Desde otra posición se podría argumentar que lo queer resiste al régimen de inteligibilidad algorítmica justamente porque no es capturable, pues existirían aspectos de lo humano -o de la realidad en general- que no pueden ser reducidos al algoritmo.
Este tipo de discusiones corre el riesgo de llevarnos a callejones sin salida por la necesidad -por ejemplo- de definir lo “real”, o a posiciones derechamente esencialistas o excepcionalistas de lo humano. Para sortear este problema y avanzar a una definición más pragmática, sugiero precisar dos cuestiones: primero aclarar a qué aspecto de “lo queer” nos referimos cuando hablamos de un perfilado algorítmico de la identidad queer. Y por otro, la necesidad de insistir en que estamos describiendo una modalidad concreta que ocurre en un ámbito técnico específico y acotado.
En primer lugar, las referencias académicas y políticas sobre la idea de “lo queer” se pueden separar en dos modalidades distintas pero complementarias y cuya distinción puede ser útil en varias de las confusiones o embrollos producidas por la complejidad del concepto “queer”. Pienso que hay una definición de lo queer que es más abstracta o trascendental y que lo entiende como uno de los sinónimos de la antinormatividad en sí misma, es decir, como uno de los nombres de aquella energía disidente que se ha resistido a los poderes establecidos, atravesando épocas y contextos diferentes. Y existe otra definición o uso del concepto de “lo queer” más concreta y específica, que se refiere a las culturas sexuales disidentes euronorteamericanas de la segunda mitad del siglo XX, que son las que se apropiaron y difundieron esa palabra y han determinado su uso contemporáneo y global.3 Este aspecto cultural se manifiesta en los gustos, prácticas y consumo de las personas y es lo que verdaderamente captura el algoritmo en su algoritmización de lo queer comprendido como un estilo de vida (Fernanda BRUNO, 2013).
En segundo lugar, si queremos analizar la relación de la gubernamentalidad algorítmica (Antoinette ROUVROY; Thomas BERNS, 2018) con lo queer, no se puede perder de vista este asunto específicamente técnico. El ámbito de acción informático no son directamente los cuerpos de los sujetos o las identidades, para ello hay otras interfaces y otras modalidades de poder. ¿No es precisamente el sistema de datificación el que construye su propio universo o plano de realidad/control, sin importarle aquello que quede "fuera", si es que existe algo así como un afuera? Hay que insistir en esto, la gubernamentalidad algorítmica se sustenta en un sistema técnico que construye su propia realidad administrable.
En última instancia, si es que efectivamente algo queda fuera, eso que queda fuera no se debería entender como un resabio de realidad que el sistema reductivo no alcanza a capturar. Para no caer en ese callejón sin salida, podríamos pensar ese afuera más bien como el resultado o resabio de formas de producción técnica diferentes o previas a la algoritmia actual, que siguen coexistiendo en paralelo e incluso vinculadas con el universo informático.
Conclusión
Como hemos visto, los estudios de vigilancia han utilizado el sistema panóptico como base analítica, convirtiendo al panóptico de Bentham en el paradigma de la vigilancia (Kevin D. HAGGERTY; Richard V. ERICSON, 2000). Sin embargo, las tecnologías de vigilancia contemporáneas, como el circuito cerrado de televisión o las cámaras de vigilancia urbanas, han evolucionado más allá del modelo panóptico, especialmente en su capacidad de actuar en espacios abiertos y en su poder descentralizado y menos institucionalizado (Maša GALIČ; Tjerk TIMAN; Bert-Jaap KOOPS, 2017).
Estas transformaciones sociotécnicas han dado lugar a lecturas post-panópticas de la vigilancia, que cuestionan la relevancia del modelo panóptico en la era del gobierno algorítmico. Conceptos como "superpanóptico" (Mark POSTER, 1990, p. 93) o “panóptico electrónico” (Diana GORDON, 1987) sugieren que debemos reconceptualizar o complejizar el modelo original del panóptico para captar mejor la naturaleza contemporánea de la vigilancia. Deleuze también contribuye a esta discusión al describir la evolución de la disciplina hacia el control, donde el poder individualiza y aglutina a través de un código en lugar de una firma o número, caracterizando así las sociedades de control como fundamentalmente diferentes de las disciplinarias (HAGGERTY; ERICSON, 2000, p. 607).
La post-vigilancia queer de los algoritmos se caracteriza por una transformación fundamental en la naturaleza de la vigilancia, pues los individuos son reemplazados por sus representaciones digitales como objetos de control. Esta modalidad algorítmica no se enfoca en los cuerpos reales, sino en sus "dobles" digitales, cuya conexión con la realidad es ambigua. Los objetivos de esta vigilancia trascienden la disciplina tradicional, abarcando el control social, la protección, el entretenimiento, la promoción de la salud, la educación y otros fines diversos, desafiando la noción de que la vigilancia sirve a un propósito único y coherente.
Hemos recordado cómo la intersección entre la vigilancia y la sexualidad ha sido tema de interés crítico en las primeras descripciones que estructuraron las teorías de vigilancia foucaultianas tanto del dispositivo de la sexualidad (siglo XVII) como del panóptico (siglo XVIII). Por su parte, la teoría queer ha configurado una teoría de la norma heterosexual cuyo centro operativo son justamente las modalidades disciplinarias y el dispositivo de la sexualidad, aplicados también al fenómeno de la “vigilancia queer” en la era algorítmica. Teniendo estos antecedentes en cuenta, nos hemos dado a la tarea de reflexionar sobre una modalidad concreta de identificación, propia de la gubernamentalidad algorítmica y altamente extendida en las plataformas digitales que consiste en la creación de perfiles de usuario y más específicamente, sobre la posibilidad de que los sistemas digitales sean capaces de generar perfiles de usuario “queer”.
Para ello, diferenciamos las dos modalidades de vigilancia digital teniendo en cuenta la escala de los datos: la vigilancia individual, que se enfoca en información personal específica, y otra vigilancia, que podría describirse provisionalmente como “colectiva”, que analiza grandes conjuntos de datos despersonalizados provenientes de la conducta de grupos de individuos para crear perfiles de usuario. A esta segunda modalidad pertenecerían los sistemas de perfilado.
En una breve genealogía de estos sistemas, descubrimos que, en 1979, la experta en inteligencia artificial Elaine Rich presentó el proyecto Grundy, un sistema computacional pionero diseñado para bibliotecas, que identificaba los intereses bibliográficos de los lectores mediante modelos de usuario construidos de inferencias en base a estereotipos y comportamientos previos de otros usuarios, sin necesidad de que el usuario deba comunicar explícitamente sus intereses. Lo impresionante de este caso no es sólo su carácter pionero, sino también la curiosa escena que imagina Rich para justificar la necesidad de este tipo de sistemas de recomendación: una abuela interesada en libros sobre homosexualidad en una biblioteca pública. Para Elaine Rich este era probablemente el ejemplo más engorroso o vergonzoso de explicitación de un tema ante un bibliotecario ya sea humano o computacional. Pero, adicionalmente, nos da las primeras pistas sobre una modalidad tecnológica que podría describirse como un nuevo dispositivo de la sexualidad que ya no precisa de la conocida “incitación a los discursos” para funcionar de manera adecuada.
Con el desarrollo de Internet en los años 90, surgió la hipermedia adaptativa. Estos sistemas buscaron personalizar los contenidos basándose en la información personal de cada individuo, construyendo perfiles de usuario para ofrecer servicios adaptados a sus preferencias y aprovechando para ello la enorme potencialidad de datificación que ofrecía una red de millones de usuarios interactuando con dispositivos electrónicos a nivel global. Este enfoque significó un proceso de concretización de Internet que la distanció de la TV y la radio como antecedentes de una cultura mass media de programación homogénea, pues no sólo entregaba muchas más opciones de contenido, sino que la misma pluralidad de opciones se integró constitutivamente en la dinámica funcional de los aparatos en red, proyectando versiones específicas que se moldeaban a los intereses del individuo que dejaba de ser un sujeto disciplinario y se posicionaba como un usuario, sujeto/objeto de valor desenvuelto en la cibernética de las interacciones como recurso productivo para los sistemas de extracción de datos.
Exploramos la relación entre la identidad y los algoritmos, especialmente en el contexto de la clasificación digital. Ejemplificamos cómo las categorías de género asignadas a los perfiles en plataformas como Google pueden asignar a los usuarios categorías basándose en perfiles que no siempre coinciden con la identidad de género real de las personas. Estos perfiles son fluidos y cambian con la información nueva, lo que desafía las nociones tradicionales de identidad fija. Además, se discute cómo esta categorización digital se aleja de los estereotipos del mundo físico y crea nuevos estereotipos digitales, transformando la noción de género en una variable estadística fluida más que en una identidad definida.
Finalmente, establecimos algunas consecuencias para la reflexión sobre lo queer en contextos de gubernamentalidad algorítmica. Mientras para Foucault las sexualidades desviadas son objeto de una categorización clara y precisa, para Butler son lo contrario, expresiones incoherentes y extrañas que no encajan con las convenciones establecidas. El problema es que ambos paradigmas de la vigilancia o percepción sexual no se corresponden con la función algorítmica sobre lo queer, por lo que se requiere una reconceptualización del dispositivo de la sexualidad que tenga en cuenta su condición de post-vigilancia y las consecuencias de esta modalidad específica.
En conclusión, frente a la creciente sofisticación de las tecnologías algorítmicas de vigilancia y la complejidad de los perfiles de usuario en el mundo digital, se hace urgente una actualización teórica del dispositivo de la sexualidad. Propongo que para ello sería útil abandonar la noción de “vigilancia”, al menos para describir los sistemas de perfilado algorítmico y sustituirla por el concepto de “monitoreo adaptativo”, entendiendo por tal al mecanismo de las sociedades de control que produce y procesa datos de usuario para la readaptación del propio sistema al comportamiento del usuario y no al revés. Se evitarían así una serie de confusiones a la hora de entender la modalidad específica de los perfilados de datos, pues el uso del concepto de “vigilancia” o incluso de “post-vigilancia” se asocia irremediablemente con la dinámica panóptica del encierro arquitectónico y con un marco proyectual, pues esa técnica de vigilancia se efectúa con el fin de reencauzar al sujeto a su comportamiento correcto (disciplina). Como hemos revisado ampliamente en este artículo, todas esas características no se cumplen en el funcionamiento específico del perfilado algorítmico.
El monitoreo adaptativo de lo queer plantea un desafío ineludible tanto para la teoría queer como para los estudios de vigilancia, ya que estas nuevas formas de control no solo monitorean las identidades sexuales, sino que también las producen y regulan en entornos digitales. Es necesario avanzar hacia un marco analítico que abarque las dinámicas emergentes de monitoreo y representación en plataformas digitales, invitando a repensar cómo las sexualidades disidentes pueden resistir y subvertir las nuevas formas de categorización algorítmica. Este desafío nos obliga a reformular las categorías clásicas de vigilancia foucaultiana, cuestionando cómo las tecnologías actuales reconfiguran las formas en que las identidades son gestionadas y controladas.
Bibliografía
- BRUNO, Fernanda. Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade Porto Alegre: Editora Sulina, 2013.
- BUTLER, Judith. El género en disputa: el feminismo y la subversión de la identidad México: Paidós, 2014.
- COSTA, Flavia. “¿Qué hay de mí en esos datos? Políticas de la materialidad y estrategias críticas en las prácticas bioartísticas en América Latina”. In: TELLO, Andrés Maximiliano (Ed.). Tecnología, política y algoritmos en América Latina Viña del Mar: Cenaltes Ediciones, 2020. p. 111-130.
- CUKIER, Kenneth; MAYER-SCHÖNBERGER, Viktor. Big data, la revolución de los datos masivos España: Turner Noema, 2013.
- CHENEY-LIPPOLD, John. We are data: algorithms and the making of our digital selves New York: NYU Press, 2017.
- CHENEY-LIPPOLD, John. “A new algorithmic identity: soft biopolitics and the modulation of control”. Theory, Culture & Society, Los Angeles, v. 28, n. 6, p. 164-181, 2011.
- DA CRUZ, Rui Alexandre P. P.; GARCÍA PEÑALVO, Francisco J.; ROMERO, Luis Alonso. Perfil de usuario, en la senda de la personalización Informe técnico. Salamanca: Departamento de Informática y Automática, Universidad de Salamanca, 2003. p. 1.
- DELEUZE, Gilles. “Post-scriptum sobre las sociedades de control”, Polis, 13, p. 1-6, 2006.
- DE VRIES, Katja. “Identity, profiling algorithms and a world of ambient intelligence”. Ethics and Information Technology, v. 12, p. 71-85, 2010.
- FOUCAULT, Michel. La historia de la sexualidad: vol. 1 México: Siglo XXI, 2007.
- FOUCAULT, Michel. Vigilar y castigar: nacimiento de la prisión México: Siglo XXI, 2001.
- GALIČ, Maša; TIMAN, Tjerk; KOOPS, Bert-Jaap. “Bentham, Deleuze and beyond: an overview of surveillance theories from the panopticon to participation”. Philosophy & Technology, v. 30, p. 9-37, 2017.
- GORDON, Diana. “The Electronic Panopticon: A Case Study of the Development of the National Crime Records System”, Politics and Society 15(4), p. 483-511, 1987.
- HAGGERTY, Kevin D.; ERICSON, Richard V. “The surveillant assemblage”. The British Journal of Sociology, v. 51, n. 4, p. 605-622, diciembre 2000.
- HAN, Byung-Chul. Psicopolítica: neoliberalismo y nuevas técnicas de poder Barcelona: Herder, 2014.
- KAFER, Gary; GRINBERG, Daniel. “Editorial: queer surveillance”. Surveillance & Society, v. 17, n. 5, p. 592-601, 2019.
- MATZNER, Tobias. “Beyond data as representation: the performativity of big data in surveillance”. Surveillance & Society, v. 14, n. 2, p. 197-210, 2016.
- MORITA, Masahiro; SHINODA, Yoichi. “Information filtering based on user behavior analysis and best match text retrieval”. In: Proceedings of the 17th Annual International ACM-SIGIR Conference on Research and Development in Information Retrieval Dublin, Ireland, 3-6 July 1994.
- MYERS, Brad A.; HOLLAN, Jim; CRUZ, Izabel (Eds.). “Strategic directions in human-computer interaction”. ACM Computing Surveys, v. 28, n. 4, p. 794-809, 1996.
- POSTER, Mark. The Mode of Information, Chicago: University of Chicago Press, 1990.
- RICH, Elaine. “User modeling via stereotypes”. Cognitive Science, v. 3, p. 329-354, 1979.
- ROUVROY, Antoinette; BERNS, Thomas. “Gobernabilidad algorítmica y perspectivas de emancipación: ¿lo dispar como condición de individuación mediante la relación?”. Ecuador Debate, n. 104, agosto de 2018.
- SAKAGAMI, Hidekazu; KAMBA, Tomonari. “Computer networks and ISDN systems”. Computer Networks and ISDN Systems, v. 29, p. 1447-1455, 1997.
- SHACKEL, Brian. “Man-computer interaction: the contribution of the human sciences”. Ergonomics, v. 12, n. 4, 1969.
- SCHRAM, Brian. “Accidental orientations: rethinking queerness in archival times”. Surveillance & Society, v. 17, n. 5, p. 609-610, 2019.
- SCOLARI, Carlos. Hacer click: hacia una sociosemiótica de las interacciones digitales Barcelona: Gedisa, 2004.
- U.S. CONGRESS, Office of Technology Assessment, Federal government information technology: Electronic record systems and individual privacy, Washington: Government Printing Office, 1986.
- VAN OTTERLO, Martijn. “A machine learning view on profiling”. In: HILDEBRANDT, Mireille; DE VRIES, Katja (Eds.). Privacy, due process and the computational turn: the philosophy of law meets the philosophy of technology Londres: Routledge, 2013.
-
1
Este trabajo forma parte de las discusiones generadas en el marco de una tesis doctoral que se propuso relacionar y contraponer la teoría queer con las discusiones sobre los algoritmos computacionales. En: RIVAS SAN MARTÍN, Felipe. Una genealogía queer de los algoritmos computacionales. 2022. Doctorado (Arte, producción e investigación) - Escuela de Bellas Artes, Universidad Politécnica de Valencia, Valencia, España.
-
2
El concepto de lo dividual o dividualidad proviene de la antropología y refiere a sociedades donde el concepto de persona se configura a través de múltiples relaciones “partibles” y no se corresponde con la noción Occidental de “individuo”.
-
3
Sin embargo, es importante destacar que lo queer está histórica y contextualmente situado, lo que implica que la dicotomía normatividad/antinormatividad, aunque pueda parecer más genérica que lo queer, no necesariamente es universal en todas las culturas. Una crítica decolonial podría cuestionar la aparente universalidad de este binomio o incluso preguntarse acerca de hasta qué punto el mismo concepto de “disidencia” pueda presuponer un cierto tipo de soberanía individual occidental.
-
Como citar este artículo de acuerdo con las normas de la revista:
RIVAS SAN MARTÍN, Felipe. “Perfiles queer y post-vigilancia”. Revista Estudos Feministas, Florianópolis, v. 33, n. 1, e104260, 2025.
-
Financiación:
Postdoctorado Becas Chile, folio 74230034.
-
Consentimiento de uso de imagen:
No se aplica
-
Aprobación de un comité de ética en investigación:
No se aplica
