IA y la representación corporal: imaginando nuevas corporalidades a través del diseño crítico
IA e a representação corporal: imaginando novas corporalidades por meio do design crítico | AI and Bodily Representation: Imagining New Corporalities through Critical Design
DIONISIO SÁNCHEZ · dsanchez@easdvalencia.com
ESCUELA SUPERIOR DE ARTE Y DISEÑO VALENCIA · ESPAÑA
https://orcid.org/0000-0001-9913-1286
CARLA MORENO · cmogar1@alumni.upv.es
UNIVERSIDAD POLITÉCNICA DE VALENCIA · ESPAÑA
https://orcid.org/0009-0007-5139-8513
Recibido · Recebido · Received: 17/12/2024 | Aceptado · Aceito · Accepted: 17/07/2025
Artículo bajo licencia
Creative Commons BY-NC-SA · Artigo sob licença Creative Commons BY-NC-SA · Article under Creative
Commons license BY-NC-SA.
Communiars. Revista de Imagen, Artes y Educación Crítica
y Social · ISSN 2603-6681
Cómo citar este artículo · Como citar este artigo · How to cite this article: Sánchez, D. & Moreno, C. (2025). IA y la representación corporal: imaginando nuevas corporalidades a través del diseño crítico. Communiars. Revista de Imagen, Artes y Educación Crítica y Social. Online First.
Resumen:
El artículo parte de la implementación de la Inteligencia Artificial (IA) para explorar los conflictos que surgen entre su uso y la representación y reconocimiento de los cuerpos e identidades, en especial aquellas disidentes a la cis-heteronormatividad. En primer lugar, el texto contextualiza la concepción del cuerpo en el último siglo y su configuración binaria actual, con el objetivo de desmentir su aparente neutralidad. En segundo lugar, se analiza la aplicación de la IA en disciplinas donde su uso puede reforzar desigualdades y generar situaciones discriminatorias. En tercer lugar, se presenta DiffusionBee como una herramienta crítica capaz de subvertir dicha narrativa a través del prototipado desde el diseño crítico, dando lugar a un video performado. En cuarto lugar, se exponen los resultados obtenidos para abrir un debate sobre el diseño y uso de la IA. Finalmente, se concluye sobre la necesidad de evidenciar los límites y sesgos de estas tecnologías desde el ámbito docente y del diseño, no solo para evitar un uso discriminatorio, sino también para promover procesos democráticos y transparentes en los que esta tecnología pueda mejorar.
Palabras clave:
Cuerpo. Diseño crítico. Discriminación. Inteligencia Artificial. Performance. Queer.
Resumo:
O artigo parte da implementação da Inteligência Artificial (IA) para explorar os conflitos que emergem entre seu uso e a representação e o reconhecimento dos corpos e identidades, especialmente daqueles dissidentes da cis-heteronormatividade. Em primeiro lugar, o texto contextualiza a concepção de corpo ao longo do último século e sua configuração binária atual, com o objetivo de desmentir sua aparente neutralidade. Em segundo lugar, analisa-se a aplicação da IA em disciplinas nas quais seu uso pode reforçar desigualdades e gerar situações discriminatórias. Em terceiro lugar, apresenta-se o DiffusionBee como uma ferramenta crítica, capaz de subverter essa narrativa por meio do prototipagem dentro do design crítico, dando origem a um vídeo performativo. Em quarto lugar, expõem-se os resultados obtidos para abrir um debate sobre o design e o uso da IA. Por fim, conclui-se sobre a necessidade de evidenciar os limites e os vieses dessas tecnologias no âmbito docente e do design, não apenas para evitar um uso discriminatório, mas também para promover processos democráticos e transparentes nos quais essa tecnologia possa contribuir de forma positiva.
Palavras-chave:
Corpo. Design crítico. Discriminação. Inteligência Artificial. Performance. Queer.
Abstract:
The article begins
with the implementation of Artificial Intelligence (AI) to explore the
conflicts that arise between its use and the representation and recognition of
bodies and identities, particularly those that diverge from
cis-heteronormativity. Firstly, the text contextualises the conception of the
body over the past century and its current binary configuration, with the aim
of challenging its apparent neutrality. Secondly, it analyses the application
of AI in disciplines where its use may reinforce inequalities and generate
discriminatory situations. Thirdly, DiffusionBee is
presented as a critical tool capable of subverting this narrative through
prototyping within critical design, resulting in a performative video.
Fourthly, the results are presented in order to open a debate on the design and
use of AI. Finally, the article concludes by stressing the need to expose the
limitations and biases of these technologies within educational and design contexts—not
only to prevent discriminatory use, but also to promote democratic and
transparent processes in which this technology can have a positive impact.
Keywords:
Artificial Intelligence. Body. Critical design. Discrimination. Performance. Queer.
…
1. Introducción
Las técnicas de representación corporales, desde los avances en el conocimiento del cuerpo a través del dibujo anatómico en los siglos XVII y XVIII, hasta la invención de la fotografía en el siglo XIX, han sido herramientas de normativización de la diferenciación sexual en el ámbito médico que perduran a día de hoy. Sin embargo, la democratización de la fotografía permitió construir subjetividades que problematizan la relación entre lo visual y lo identitario, generando grietas desde la auto-representación.
Con la reciente llegada de la Inteligencia Artificial (IA) al público masivo, estos procesos de representación podrían ser reproducidos a través de técnicas de aprendizaje automático mediante algoritmos, por lo que nos preguntamos si estas herramientas serán útiles para crear nuevos imaginarios corporales fuera de la normatividad petrosexoracial[1]. ¿Podríamos imaginar un cuerpo queer o, por el contrario, seguirá la IA fomentando y replicando las ideas de los cuerpos como las tecnologías de representación le han precedido, perpetuando así la visión eurocentrista, cis, patriarcal y colonial?
A través de la asignatura: “What if? ¿qué pasaría sí? Formas de investigación en diseño” impartida en la Escola d’Art i Superior de Disseny de València (España) nos planteamos cómo imaginar nuevas formas de representar cuerpos fuera de la normatividad petrosexoracial. Tratamos de indagar sobre estas preguntas a través de la especulación y utilizando el diseño crítico como una herramienta problematizadora que nos permite desafiar suposiciones y roles convencionales mediante propuestas especulativas.
Para llevar a cabo nuestra especulación, se ha utilizado la herramienta de IA DifussionBee, como forma de indagación e investigación, dando así lugar a conclusiones trans-fronterizas entre el conocimiento y la subjetividad de las personas que diseñan.
2. Pensando el cuerpo
Para imaginar cuerpos queer primero hemos de hacer una pequeña contextualización sobre el devenir actual del cuerpo, y cómo este ha sido condicionado por lo que Paul B. Preciado (2022) denomina sistema petrosexoracial: una suerte de capitalismo patriarcal, heterosexual, colonial, binario y extractivista que normativiza la producción de cuerpos.
En la sociología clásica, la visión de un cuerpo desnudo, sin contexto ni signos culturales, erguido y sin prótesis que “lo completen” nos remite a su comprensión natural. Chris Shilling lo explica como “una base biológica y presocial sobre la cual se fundan las superestructuras del yo y de la sociedad” (Shilling, 1993, p.41), planteando el cuerpo como un recipiente vacío de significantes, de interés meramente médico, lo que Roy Porter (1991) asocia a una concepción clásica y judeo-cristiana del cuerpo dualista (cuerpo-mente, recipiente-alma). Esto implica la imposición de una verdad universal, un proceso de normalización que Michael Foucault (1969) describe como una naturalización del saber a través de un poder que define qué es verdadero —estado, educación, medicina, sexólogo, endocrino— y, por lo tanto, aquellos y aquellas que no encajan en la norma son considerados como desviados[2].
Sin embargo, el historiador del sexo Thomas Laqueur (1990) apunta que la actual visión occidental y binaria se instaura entre finales del siglo XIII y principios del XIX como un proceso histórico/contextual, concluyendo que el sexo, el ser humano y su definición varían con el fin de mantener la jerarquización sexual desembocando en un orden social. Desde esta perspectiva parten autores constructivistas como Mary Douglas (1978), Michael Foucault (1995), Erving Goffman (1971) y Bryan Turner (1989) que comprenden el cuerpo desde la cultura, cuestionando su pretendida objetividad.
Por otro lado, a finales de los años 40 del siglo XX, se apuntalará lo que hoy comprendemos como género, a manos del sexólogo John Money en su tesis doctoral, y que más tarde definiría en su artículo Imprinting and the Establishment of the Gender Role (1957). Así, Money es el primero en plantear la separación entre el sexo y el género, y la diferenciación entre la identidad de género y roles de género como un resultado sociocultural, que se puede condicionar, en oposición al determinismo biológico.
Money llevaría a cabo su investigación en infancias intersexuales, sosteniendo que, en función del aspecto de los genitales externos, se podría condicionar la identidad de género del sujeto, creando el protocolo Money (Money et al., 1955), que consiste en la reasignación de sexo por medio de intervenciones quirúrgicas y tratamientos hormonales, que no deja de ser una estrategia de normativización que fije el sexo y adecue los cuerpos a una concepción binaria. De este modo, se instauran soluciones médicas a las disidencias del sistema sexo/género, sin considerar la autonomía de los sujetos.
En este proceso de estandarización de los cuerpos, las personas que se identifican como cis-género[3], también serán sometidas a la mirada disciplinaria generando nuevos diagnósticos como hipomastia (falta de desarrollo normal de la glándula mamaria, pechos asimétricos o pequeños), ginecomastia (desarrollo de tejido mamario en hombres cis-género), Síndrome de Poland (ausencia unilateral de mama y musculo pectoral) o hirsutismo (altos niveles de andrógenos en mujeres cis-género que provoca bello facial espeso) junto a sus respectivos tratamientos médicos de reafirmación de género: masectomía, mamoplastia, masculinización del tórax, depilación láser, implantes capilares, liposucción, rinoplastia, himenoplastia, etcétera.
Para plantear un imaginario corporal que escape a esta lógica se ha de abandonar un sujeto universal, siendo críticos con la visión eurocéntrica que excluye los cuerpos femeninos que no encajan con los cromosomas XX[4], pero también los cuerpos racializados sometidos al escrutinio binario por no cumplir con el canon eurocéntrico y blanco de una mujer, así como los cuerpos intersex, entre otras identidades subalternas.
Frente al esencialismo de los cuerpos se iniciaría en la corriente del feminismo radical— pionera en incluir a las personas trans y sus reivindicaciones— una crítica a la supuesta naturalidad de la feminidad que lo había cohesionado previamente, a través de autoras de referencia como Katherine Millett (1970) o Andrea Dworkin (1974), que plantearon el sistema sexo-género como un constructo social necesario para que el patriarcado mantenga su hegemonía, al que imaginaban como respuesta cuerpos andróginos y sociedades agénero. Por otro lado, Monique Wittig, desde el lesbianismo político, dinamita la categoría “mujer” al afirmar que “las lesbianas no son mujeres” (Wittig, 2006, p.54). Críticas que darían cabida así a los planteamientos postfeministas o el paraguas del llamado “pensamiento queer”, en los que se proponen una multiplicidad de identidades subalternas como sujetos a emancipar (lesbianas, personas racializadas, personas transgénero, personas no binarias, personas intersexuales, etcétera).
Judith Butler (1990), por otro lado, utiliza los conceptos de performance y performatividad como principios ajenos al feminismo para cuestionar el sistema binario, planteando que “el cuerpo no es un ser sino un límite variable, una superficie cuya permeabilidad está políticamente regulada, una práctica significante dentro de un campo cultural en el que hay una jerarquía de géneros” (Butler, 1990, p.271), volviendo así su superficie inestable. Sin embargo, el ejercicio del extrañamiento del cuerpo conlleva el riesgo de la asimilación, replicando roles y apariencias hasta el punto de alcanzar estados de passing[5] de lo opuesto.
Siguiendo esta lógica, las identidades funcionan como una dicotomía, en la que la diferencia nace de la norma, reforzando así el paradigma al que han surgido en oposición, perpetuando la dinámica de poder entre dominador/dominados. Preciado propone ante esta dualidad la política de las multitudes queer:
La política de las multitudes queer emerge de una posición crítica respecto a los efectos normalizadores y disciplinarios de toda formación identitaria […] se opone a las políticas paritarias derivadas de una noción biológica de la "mujer" o de la "diferencia sexual". Se opone a las políticas republicanas universalistas que permiten el "reconocimiento" e imponen la "integración" de las "diferencias" en el seno de la República (Preciado, 2005, p.8).
Para imaginar esos cuerpos queer debemos abandonar las categorías cis/trans, hetero/homo, bello/feo, normal/anormal, hombre/mujer, proponiendo la abolición de toda identidad, rol y deseo basado en la normatividad petrosexoracial.
3. Una IA discriminatoria
Los usos de la IA han sido abordados tradicionalmente desde la ciencia ficción como tecnologías distópicas que conformaban “sociedades automatizadas, deshumanizadas y deprimidas, soledad en compañía de máquinas, depredación del planeta, degradación ecológica, gobiernos totalitarios y fuertes desigualdades en el acceso a los recursos y poder” (Manjarrés et al., 2021, p.19).
En los últimos años estamos asistiendo a una popularización de estas herramientas. En las industrias creativas están teniendo una gran aceptación debido a sus potencialidades para crear imágenes. Aplicaciones como Chat GPT, Midjourney o DALL·E 3, se están instaurando en los procesos creativos, siendo utilizadas por un considerable número de diseñadores y artistas. Debido a su impacto en nuestro modelo de producción y consumo de imágenes es necesario reflexionar sobre las cuestiones éticas en la implementación de la IA desde dos enfoques: por una parte, tratando de mitigar los riesgos asociados a su implementación y sus potencialidades negativas asociadas; y por otra, para aprovechar sus posibilidades y generar discursos contra hegemónicos que nos ayuden a confrontar las narrativas dominantes.
Las imágenes creadas a través de la IA tienden a replicar la visión hegemónica respecto a la representación y control de los cuerpos, fomentando así las discriminaciones y sesgos que existen en la sociedad (un ejemplo claro es la creación de imágenes sexualizadas al representar personas LGTBIQ). Existen estudios que señalan los problemas en la clasificación de personas a partir de su género, criticando la forma en la que la IA se comporta como un sistema opresivo que tiende a clasificar a las personas por medio de binarios, excluyendo y señalando a todas las que escapen de dicha norma, siendo el nuevo guardián que decide “qué vidas importan más y, al ser una tecnología que no está exenta de prejuicios, se ha convertido en el último campo de batalla de la lucha de clases” (Linis-Dinco, 2021, p.21).
Asimismo, las tecnologías de reconocimiento facial basadas en IA han demostrado su imparcialidad a la hora de identificar a las mujeres de forma errónea, sobre todo en las mujeres racializadas, promoviendo la discriminación y potenciando los riesgos relacionados con la perpetuación de determinados estereotipos; y esto se basa fundamentalmente en el supuesto de que el género puede definirse por medio de la información que se obtiene de nuestro rostro (Liliequist et al., 2023, p.32). Un claro ejemplo de esa discriminación quedó patente en el uso de la IA por parte de Amazon para realizar contrataciones de personal, donde se favorecía más a los hombres que a las mujeres (Dastin, 2022).
Por otra parte, la incursión paulatina de procesos de vigilancia basados en IA están fomentando lógicas de exclusión al basarse en sistemas binarios de clasificación, provocando que acciones cotidianas como pasar por el control de aduanas de un aeropuerto represente una amenaza para las personas LGTBIQ, y en especial a las personas trans (Beauchamp, 2014), debido a la “supuesta” incongruencia entre su imagen física y su imagen normativa (pasaporte) (Kerrigan y Barry, 2023); “las personas trans son automáticamente tachadas de fraudulentas” al no encajar en dicha norma (Linis-Dinco, 2021, p.1). En ese sentido, y tal y como argumenta Jean Linis-Dinco, dicho proceso no es casual; y esto se debe a que las personas que ostentan el poder tienen la capacidad para controlar las tecnologías y así mantener el statu quo.
Al mismo tiempo, aplicaciones como Clearview, que permiten captar imágenes de nuestro rostro mientras caminamos por la calle, pueden obtener información personal y vulnerar nuestra privacidad, poniendo en peligro la integridad física para el colectivo LGTBIQ, ya que en muchos casos oculta su identidad por cuestiones de discriminación:
En países donde ser trans es un delito, ir sigilosamente es la única forma de sobrevivir. Sólo en 2020, 350 personas transgénero fueron asesinadas. La mayoría de los asesinatos ocurrieron en América Central y del Sur, lejos de la representación distorsionada y glamorosa de la transexualidad en Hollywood (Linis-Dinco, 2021).
Asimismo, para entrenar al algoritmo se recopilaron imágenes de personas transgénero grabadas sin su consentimiento. Este hecho se puede interpretar como una acción que responde a un acto de clasificación y categorización, considerando que las personas transgénero representan una amenaza. Por lo tanto, es necesario involucrar a todos los colectivos que están siendo discriminados en proyectos de IA para intentar mitigar los sesgos desde dentro; de la misma forma, es imperativo que las minorías estén incluidas en la investigación y desarrollo de la IA, en la recopilación de datos y en el diseño de algoritmos, y poder debatir las consideraciones éticas de su implementación, para rendir cuentas sobre dichos procesos, de manera que se generen escenarios donde se trabaje con una IA más justa y equitativa (Hrezek, 2024).
Mientras que los usos aplicados de la IA, —así como las cuestiones éticas y morales subyacentes— están abriendo un debate sobre su uso, aquí nos proponemos utilizarla como una herramienta crítica que nos permita modificar narrativas y superar los sesgos en la representación visual de los cuerpos a través de su uso.
4. Uso de DiffusionBee de forma crítica
De todas las aplicaciones de IA que existen para crear imágenes, hemos elegido DifussionBee de Stable Diffusion. Una herramienta de código abierto gratuita que nos permite trabajar en local —evitando censura a la hora de representar desnudos y garantizando mayor privacidad con las imágenes personales que usamos—, con la función imagetoimage[6], uso de text prompt[7] y training[8], lo que nos permite entrenar nuestros propios modelos de generación usando imágenes de nuestro cuerpo de forma local[9].
El
primer acercamiento lo hacemos desde la función text prompt, introduciendo las palabras “trans
woman, photography” [10] y “trans
men, photography” [11], planteando el sujeto y el
estilo, una decisión binarista y concisa para evitar
una mala interpretación de nuestra petición. Por último, se ajusta al máximo el
valor Guidance Scale[12], valor con el que la
herramienta se ajusta con mayor literalidad a los prompts
introducidos. Sin embargo, los resultados nos muestran las limitaciones,
propias del algoritmo, representando imágenes hipersexualizadas
caracterizadas por su transfobia [Figura 1].
Figura 1. DifussionBee. Representación
mujer y hombre trans respectivamente (2023).
Es común encontrar resultados inesperados en el uso de las IA, que pueden corresponderse a ambigüedades lingüísticas, prompts desestructurados o inespecíficos, que dejan el resultado a una interpretación única e insospechada (Koza, 2023). No obstante, en el caso que presentamos, nos surgen diversas preguntas: ¿por qué implica desnudez representar a una persona trans? ¿Por qué la mujer tiene unos senos grandes y se presenta con su miembro erecto? ¿Por qué el hombre cubre su pecho? ¿Por qué ambos están desnudos y tienen cuerpos feminizados, depilados y sexualizados? ¿Por qué ambos son caucásicos? Tras repetir las peticiones con resultados similares, empezamos a comprender los sesgos de la IA, resultado de los aprendizajes previos y de los datos con los que se ha entrenado el algoritmo, incluso aunque el proceso se haya llevado a cabo de forma local.
Si entendemos las identidades como textos que se inscriben en nuestros cuerpos, imaginar cuerpos queer, desviados y fronterizos, en una IA que no tolera ambigüedades, se convierte en un oxímoron. Así, DifussionBee se confirma como una tecnología del cuerpo que normativiza los resultados.
Para Preciado, los cuerpos queer son aquellos que se alzan, a través de “la rearticulación y la reconversión de las tecnologías sexopolíticas concretas de producción de los cuerpos “normales” y “desviados” [...] son las drag-kings, las bolleras lobo, las mujeres barbudas, los trans-maricas sin polla, los discapacitados-ciborg” (Preciado, 2005, p. 6), por lo que, para seguir indagando, la herramienta nos obliga a cambiar de estrategia.
Partimos
del diseño crítico y especulativo como metodología, que a diferencia del diseño
convencional —o afirmativo utilizando los términos de Anthony Dunne y Fiona Raby (2013)—, no
busca verdades absolutas, más bien plantea preguntas reflexivas (o discursivas)
que desafían el pensamiento, siendo igual de relevante que el diseño que
resuelve problemas. Para ello, invertimos su uso, ampliando el número de text prompts,
reduciendo la cantidad de pasos de iteración, que determinan el nivel de
detalle del resultado y reducimos los parámetros de la Guidance
Scale, creando un proceso difuso e indefinido, en
busca de resultados desviados. A continuación, subimos imágenes de nuestros
cuerpos desnudos y redactamos prompts
ambiguos: post-human, nonbinary, african, naked, photography[13], respetando
dicha estructura para mantener un resultado con un estilo similar, en el que se
plantea el sujeto, características y tipo de representación. Tras obtener el output
lo guardamos y lo volvemos a cargar, infectando los text
prompts: trans,
lesbian masc, butch, naked, photography[14]. Repetimos la acción durante varias sesiones, generando múltiples
identidades, a cada cual más precaria que la interior [Figura 2].
Figura 2. DifussionBee, text prompts utilizados: Progesterone, Mastectomy, Bald, Transmasc (2023).
Finalmente,
los resultados empiezan a ser más interesantes mientras que los text prompts multiplican los
sujetos y características: black, african, asian, old, disable, prosthetic,
drag king, hairy, bald, mastectomy,
progesterone[15], no queremos dejar atrás ninguna
posibilidad, el propósito es generar la verdad visual en la que cualquiera
pueda proyectarse.
Figura 3. Cuerpos propuestos a partir de la indagación en DiffusionBee a través de una metodología crítica (2023).
Generamos más de 100 propuestas corporales [Figura 3], que se prototipan en un video con el programa de edición Adobe Premiere Pro, utilizando la herramienta “time warp” para crear transiciones entre los cuerpos [Figuras 4 y 5].
Figura 4. Transición usando Time Warp en
Adobe Premiere Pro (fotogramas de Multitudes Queer) (2023).
El resultado final nos acerca de algún modo a la multitud queer que plantea Preciado:
No hay diferencia sexual, sino una multitud de diferencias, una transversalidad de las relaciones de poder, una diversidad de las potencias de vida. Estas diferencias no son "representables" dado que son "monstruosas" y ponen en cuestión por eso mismo no sólo los regímenes de representación política sino también los sistemas de producción de saber científico de los ‘normales (Preciado, 2005, p.9).
Figura 5. Multitudes Queer
(fotogramas del video prototipado generado a partir
de la indagación en DiffusionBee buscando
corporalidades e identidades queer a través
de una metodología crítica (2023).
Desde una perspectiva crítica nos hemos apropiado de la IA, usando el error, la malinterpretación de la información y la retroalimentación a nuestro favor para superar sus sesgos. Por último, presentamos como prototipado final Multitudes Queer, un video que muestra cómo los cuerpos transitan entre sí, de una manera indefinida, creando capas entre los fotogramas de información que se hacen y deshacen en píxeles, obteniendo un palimpsesto corporal.
5. Discusión
La práctica crítica nos ha permitido problematizar y vehicular “discursos” fuera y dentro del ámbito académico, planteando la IA como una tecnología que puede generar conflictos a la hora de representar, identificar o entender la diversidad humana, sobre todo a determinados colectivos que escapan de la normatividad binaria hombre/mujer.
Los hallazgos fueron presentados en forma de video y acompañados de texto en clase para abrir un debate con el alumnado, visibilizando los conflictos relacionados con el uso de la IA en los procesos creativos. Al evidenciar su imparcialidad, nos urgió pensar en cómo podríamos involucrarnos en la comprensión de su diseño y en el alcance de sus potencialidades negativas. Asimismo, el prototipado en formato audiovisual fue performado [Fig.6] bajo el nombre Haciendo un cuerpo Queer, en el espacio expositivo Centro Municipal de Juventud Orriols, de acceso al público general, en un intento de hacer partícipe a la sociedad sobre los retos a los que nos enfrentamos en el uso de la IA.
Figura 6. Haciendo un cuerpo Queer. Registro de la performance en diálogo con el video prototipado generado titulado Multitudes Queer (2024).
Para evitar la discriminación sobre la interpretación y la clasificación de los cuerpos a través de tecnologías basadas en IA, tenemos que alejarnos de la concepción especialista “de la identidad fija reflejada en nuestro cuerpo, sin consideraciones de autoidentificación” (Liliequist et al., 2023, p.32). Además, se corre el riesgo de que las personas ya marginadas por su identidad o cuerpo se vuelvan más vulnerables frente a una tecnología que las clasifica y excluye. Es necesario comprender el uso (y el mal uso) de la IA, especular sobre cómo podríamos y deberíamos diseñar estos sistemas, abordando posibilidades, limitaciones y amenazas desde una variedad de perspectivas, incluidas la LGTBIQ (Liliequist et al., 2023).
Por otra parte, se tiene que exigir una mayor transparencia a la hora de seleccionar los datos, ya que pueden ser utilizados con fines diversos y no responder a los criterios previstos de antemano. Del mismo modo, se deben incluir a las minorías en su diseño, una situación que implica, al mismo tiempo, el riesgo de que información sensible sobre las personas que participan sea revelada con otro tipo de fines o incluso pueden llegar a violar derechos fundamentales.
En ese sentido, es necesario señalar que la IA no tiene capacidad de tomar decisiones autónomas. Tal y como argumenta Ramón López de Mántaras (2023), este es un escenario que se plantea todavía desde la ciencia ficción; por lo tanto, si la IA no puede tomar decisiones —y es desde esa posibilidad desde donde se le supondría una ética—, esta recae necesariamente sobre las personas que las diseñan y las grandes corporaciones tecnológicas. Eso nos impide pensar una IA justa y equitativa para todos, de la misma manera que no existe una “ética” que sea universalmente compartida. Es por ello que nos surgen serias dudas sobre cómo puede ser una IA feminista o queer, debido a que no existe un consenso sobre “lo feminista/lo queer”. La IA refleja/replica aquello que es lo común en lo social, por lo tanto ¿tendrán las minorías que luchar para ser finalmente normativizadas? ¿Qué quedará de nuestras reivindicaciones cuando lo hayamos conseguido? ¿Podremos conseguirlo?
La implementación generalizada de una tecnología aparentemente objetiva significa menor accesibilidad para aquellos que no se ajustan a las concepciones de los desarrolladores sobre un determinado usuario ideal. La IA es incapaz de lidiar con las ambigüedades y el espectro de la diversidad humana; por ejemplo, una persona queer puede identificarse fuera del binario de género, pero la máquina aún la colocará en una categoría binaria; por lo tanto, la falta de datos diversos para entrenar la IA afecta negativamente a los grupos marginados, ya que literalmente no están representados en su comprensión del mundo, es decir: no tiene datos suficientes para poder comprenderlos y representarlos. Las personas involucradas en el desarrollo e implementación de la IA tienen que ser conscientes de a quién se incluye y excluye, ya que ellos son los que definen a ese supuesto usuario ideal (Baldwin, 2016).
6. Consideraciones finales
Por todo lo expuesto, deducimos que la IA tiene dificultades para entender la complejidad humana, por lo tanto, se pueden establecer situaciones conflictivas a la hora de identificar a las personas, como puede ser el caso del colectivo queer, que queda fuera del binarismo hombre/mujer (Garvie & Frankle, 2016).
A pesar de los debates que se están produciendo sobre la rápida implementación de la IA, así como el desarrollo de normativas para su regulación, consideramos que su naturalización paulatina provoca una falsa ilusión sobre su “objetividad”, al aparecernos como un aparato tecnológico incuestionable debido a su “supuesta racionalidad”.
Cualquier marco desde el que se desarrolle, implemente y monitoree la IA con estándares de confianza y calidad, debe incorporar procesos de diseño participativo feministas. En ese sentido, una IA confiable tiene que construirse a través del empoderamiento de los grupos queer en su desarrollo, garantizando la diversidad y la inclusión, para trabajar más acertadamente hacia una IA creíble y efectiva[16] (Habbal et al., 2024).
Como profesionales y educadores en diseño tenemos el deber no solo de definir las futuras aplicaciones de la IA en los procesos de diseño, sino de cuestionar y problematizar las implicaciones de las herramientas que utilizamos: ¿cómo podemos asegurarnos de que los algoritmos de la IA cumplan con estándares éticos? ¿De qué forma podemos introducir mecanismos que lo garanticen? ¿Es posible hacerlo incluyendo a las minorías como parte del proceso? ¿Qué ocurrirá con los lugares y poblaciones que no tienen acceso a estas tecnologías? [17]
Desde la academia es nuestra obligación pensar sobre los usos (y abusos) de la IA para evitar que se siga replicando (y propagando) la discriminación social. Una posibilidad es apropiarnos de las tecnologías y jugar con ellas, resignificarlas, ¿podremos modificar el devenir de la IA a través de la infección, la manipulación y el hackeo?
Por último, tenemos que ser conscientes de que este proceso de resignificación y apropiación se hace desde el privilegio. En definitiva, somos personas blancas habitando el globo norte, con acceso a los recursos que ofrece el lugar aparentemente seguro de la academia y, por lo tanto, con la capacidad para generar discursividades disidentes que, en muchos casos, están alejadas de los cuerpos sobre los que se ejerce dicha violencia.
Contribuciones de los autores
Conceptualización, D.S. y C.M; investigación, D.S. y C.M; metodología, D.S. y C.M; supervisión, D.S. y C.M; visualización, D.S. y C.M; redacción—preparación del borrador original, D.S. y C.M; redacción—revisión y edición, D.S. y C.M.
Referencias
Ahmed, S. (2018). Fragilidad queer (M. Cantero Sánchez, Trans.).
452ºF: revista de teoría de la literatura y literatura comparada, (18),
196-208. https://revistes.ub.edu/index.php/452f/article/view/21433
Baldwin, A. (2016). The hidden dangers of ai for queer and trans people. Model View
Culture, (36), https://bit.ly/3TKVszG
Beauchamp, T. (2014). Surveillance. TSQ:
Transgender Studies Quarterly, 1(1-2), 208-210.
https://doi.org/10.1215/23289252-2400037
Borraz, M. (2024). La extrema derecha agita un bulo contra la
boxeadora olímpica Imane Khelif, a la que acusa de
ser un hombre. El diario. bit.ly/4fZvh1p
Butler, J. (1990). Gender trouble: Feminism and the
subversion of identity. Routledge.
Dastin, J. (2022). Amazon scraps secret AI recruiting tool that showed bias against women. En K. Martin (Ed.), Ethics of data and analytics (pp. 296-300). Auerbach Publications.
Douglas, M. (1978). Símbolos naturales. Exploraciones en cosmología. Alianza.
Dunne, A., & Raby,
F. (2013). Speculative everything:
design, fiction, and social dreaming. MIT press.
Dworkin, A. (1974). Woman hating. E. P. Dutton.
Foucault, M. (1969). La arqueología del saber. Éditions Gallimard.
Foucault, M. (1995). Historia de la sexualidad. Siglo XXI.
Garvie, C., y Frankle, J. (2016, 7 de abril). Facial-recognition software might have a racial bias problem. The Atlantic. https://bit.ly/4eqJ0xI
Goffman, E. (1971). Ritual de la interacción. Tiempo Contemporáneo.
Habbal, A., Ali, M. K., y Abuzaraida, M. A. (2024). Artificial Intelligence Trust, Risk
and Security
Management (AI TRiSM): Frameworks, applications,
challenges and future research directions. Expert Systems with Applications,
240, 122442. https://doi.org/10.1016/j.eswa.2023.122442
Hrezek (2023, 24 de mayo). Unveiling the Disparities of AI: The Impact On
Cis-Gender and Trans Women. Eracoalition. https://bit.ly/4ctvOHa
Kerrigan, P., y Barry,
M. (2023). Automating
vulnerability: Algorithms, artificial intelligence and machine learning for
gender and sexual minorities. En Routledge
Handbook of Sexuality, Gender, Health and Rights, 164-173. Routledge.
Koza, W. (2023). Cómo hacer cosas con palabras: Algunas reflexiones en torno a las inteligencias artificiales generativas de imágenes. Quintú Quimün. Revista de Lingüística, 7(2), Q078. https://doi.org/10.5281/zenodo.10014180
Laqueur, T. (1990). La Construcción Del Sexo: Cuerpo y Género Desde Los Griegos Hasta Freud. Cátedra
Liliequist, E., Tubella, A. A., Danielsson,
K. y Cocq, C. (2023). Beyond the Binary---Queering AI for an Inclusive
Future. Interactions, 30(3), 31-33. https://doi.org/10.1145/3590141
Linis-Dinco, J. (2021, 1 de marzo). Machines, Artificial Intelligence and rising global transphobia. Melbourne Law School. https://bit.ly/3TK3GYT
López, R. (2023, 22 de noviembre). ¿Es posible una IA ética? [Video]. CCCB. https://acortar.link/3vOVYj
Manjarrés, Á., Fernández-Aller, C., López-Sánchez, M., Rodríguez-Aguilar, J. A., y Castañer, M. S. (2021). Artificial intelligence for a fair, just, and equitable world. IEEE Technology and Society Magazine, 40(1), 19-24. https://dx.doi.org/10.1109/MTS.2021.3056292
Millett, K. (1970). Política sexual. Doubleday.
Money, J., Hampson, J. G., &
Hampson, J. L. (1955). Hermaphroditism: Recommendations concerning assignment
of sex, change of sex, and psychologic management. The Journal of Clinical Endocrinology & Metabolism, 16(4),
547-556. https://doi.org/10.1210/jcem-16-4-547
Money, J., Hampson, J.
G., & Hampson, J. L. (1957). Imprinting and the establishment of gender role.
Archives of Neurology & Psychiatry, 77(3), 333-336. https://psycnet.apa.org/doi/10.1001/archneurpsyc.1957.02330330119019
Preciado, P.B. (2005). Multitudes Queer. Nota para una política de los "anormales". Multitudes, 2(12), 17-25. https://dx.doi.org/10.3917/mult.012.0017
Preciado,
P. B. (2022). Dysphoria Mundi.
Anagrama.
Porter, R. (1991).
Bodies of thought: Thoughts about the body in eighteenth-century England. En J. H. Pittock & A. Wear
(Eds.), Interpretation and Cultural History (pp. 82-108). Palgrave Macmillan UK.
Shilling, C. (1993). The Body and Social Theory. Sage.
Turner, B. (1989). El cuerpo y la sociedad: exploraciones en la teoría social. FCE.
Wittig, M. (2006). El pensamiento heterosexual y otros ensayos. Eagles.
[1] Según Paul B. Preciado, el término petrosexoracial hace referencia al capitalismo basado en la utilización de las energías fósiles —extractivista por definición—, que se sustenta a través del consumo y se apuntala en el heteropatriarcado misógino, racista y colonial.
[2] Desviado ha sido históricamente un término peyorativo para referirse a conductas no normativas asociadas al colectivo LGTBI, criminales o a personas neurodivergentes/psiquiatrizadas. Sin embargo, Sara Ahmed (2018) apunta que este insulto fue reapropiado por personas del colectivo LGTBI y pasó a designar discursos y prácticas políticas emancipadoras que se resisten a la normalización de la disidencia sexo afectiva.
[3] Según Kristen Schilt y Laurel Westbrook (2009), “cis” es el prefijo en latín que significa “en el mismo lado”. Complementa a “trans”, el prefijo “a través de”. “Cisgénero” sustituye los términos “no-transgénero” o “varón biológico” / “mujer biológica” para referirse a las personas cuyo sexo biológico, su cuerpo y su identidad personal coinciden.
[4] Podemos tomar como un caso paradigmático el reciente cuestionamiento de la identidad de la boxeadora Imane Khelif (representante de Argelia y ganadora de la medalla de oro boxeo en el peso welter en los juegos olímpicos de París 2024), en el que intervinieron desde usuarios anónimos a políticos y personas influyentes en la opinión pública como el presidente de Argentina Javier Milei, el director ejecutivo de Tesla, Elon Musk, la presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso, la ministra italiana de Familia y Natalidad, Eugenia Roccella (Borraz, 2024), entre otros.
[5] El passing es una práctica común en muchos ámbitos (para aquellas personas que están en lugares fronterizos con respecto a etnia, género, sexualidad, diversidad funcional, clase social, etcétera) y puede tomarse como indicador del grado de exclusión que experimentan estas personas que tratan de asimilarse. Algunas personas trans o intersex utilizan el passing como ejercicio deliberado; persiguen ser reconocidos como personas de un género determinado y este reconocimiento se convierte en el locus de lucha cotidiana que correlaciona con la discriminación experimentada.
[6] La función Image to Image de DiffusionBee permite modificar imágenes existentes aplicando IA generativa, manteniendo su estructura mientras cambia estilo, detalles o contenido según un prompt y ajustes de difusión.
[7] Un Text Prompt es una descripción escrita que guía a una IA generativa para crear o modificar contenido visual, textual o sonoro según las indicaciones proporcionadas.
[8] En DiffusionBee, el training se refiere al proceso de entrenar modelos de IA personalizados utilizando imágenes específicas para que la IA aprenda y genere resultados más adaptados a un estilo, sujeto o concepto particular.
[9] Trabajar de forma local en DiffusionBee significa que todas las imágenes se generan en tu propio dispositivo, sin necesidad de conexión a internet ni uso de servidores externos, lo que mejora la privacidad y evita dependencias en la nube.
[10] Mujer trans, fotografía.
[11] Hombre trans, fotografía.
[12] En DiffusionBee, el Guidance Scale es un parámetro que controla cuánto la IA sigue el text prompt al generar una imagen. Valores altos hacen que la imagen sea más fiel al prompt, mientras que valores bajos permiten más creatividad y variaciones aleatorias.
[13] Post-humano, no binario, africano, desnudo, fotografía.
[14] Trans, lesbiana masculina, marimacho, desnuda, fotografía.
[15] Negro, africano, asiático, viejo, discapacitado, prótesis, drag king, peludo, calvo, mastectomía, progesterona.
[16] Los autores en su investigación pretenden hacer una aproximación metodológica en la construcción de una IA que recoja las diferentes sensibilidades de la teoría queer y los diferentes feminismos.
[17] Estas apreciaciones se las debemos a Justyna Janowska, alumna de la asignatura: “What if? ¿Qué pasaría sí? Formas de Investigación en Diseño” del curso 2023-2024 y su trabajo titulado “Diseño más allá de los humanos: Una exploración especulativa en futuros dominados por la creatividad de la inteligencia artificial”. Algunas ideas sobre el manifiesto descolonizador de la IA se pueden consultar en: https://www.decolonizing.tech/