En nuestro caso, el Magic prompt<\/em> generado a partir de las palabras que incluimos fue el siguiente: \u201cA thoughtfully composed image of a group of university professors gathered around a large, circular table, intently discussing the future of \u00ablabour law and AI.\u00bb The professors are dressed in formal attire, each with a unique expression, showcasing their intellectual curiosity. Charts and books related to labor law and AI are scattered across the table, while a large projector screen displays a slide highlighting the key points of their conversation. The room is filled with a sense of academic rigor and the anticipation of progress in the field<\/em>\u201d [Una imagen cuidadosamente dise\u00f1ada de un grupo de profesores universitarios reunidos alrededor de una gran mesa circular, discutiendo atentamente el futuro del \u00abderecho laboral y la IA\u00bb. Los profesores visten trajes formales, cada uno con una expresi\u00f3n \u00fanica, mostrando su curiosidad intelectual. Hay gr\u00e1ficos y libros relacionados con el derecho laboral y la IA esparcidos por la mesa, mientras un gran proyector muestra una diapositiva en la que se destacan los puntos clave de su conversaci\u00f3n. En la sala se respira rigor acad\u00e9mico y expectaci\u00f3n por los avances en este campo]. Lo curioso es que nosotros solo introducimos los comandos que nos parec\u00edan m\u00e1s esenciales: \u201clabour law<\/em>\u201d [derecho laboral], \u201cfuture<\/em>\u201d [futuro], \u201clabour law and ai<\/em>\u201d [derecho laboral e IA], \u201cuniversity professors<\/em>\u201d [profesoras\/es universitarios, ya sabemos que en ingl\u00e9s es totalmente neutro], \u201cuniversity teachers discussing the future of \u00ablabour law and ai\u00bb<\/em>\u201d [docentes universitarios discutiendo sobre el futuro del \u201cderecho del trabajo y la IA\u201d]. A ra\u00edz de estas m\u00ednimas indicaciones, la web fue capaz de desarrollar dicho magic prompt<\/em> y la imagen objeto de cr\u00edtica, donde obviamente se observan unos sesgos evidentes que, reitero a riesgo de repetirme en demas\u00eda, son resultado de los datos con los que trabaja la herramienta, datos obtenidos de la realidad hist\u00f3rica humana con los que ha sido entrenada.<\/p>\n Se nos ha hecho hincapi\u00e9 en la cuesti\u00f3n del sesgo por raz\u00f3n de g\u00e9nero, pero \u00bfpor qu\u00e9 quedarnos solo ah\u00ed? La idea de la herramienta es clara, incluso si le volvemos a solicitar el mismo magic prompt<\/em>:<\/p>\n Un profesor universitario, mayoritariamente, ser\u00e1 un hombre de edad avanzada (o, al menos, relativamente) y raza blanca. \u00bfAcaso no hay profesoras, profesores j\u00f3venes, docentes de otras razas o etnias, o incluso docentes con discapacidades f\u00edsicas apreciables a simple vista? S\u00ed suelen presentarse a varias personas con gafas, aunque resulta curioso que, por ahora, seg\u00fan Ideogram, parece que lo normal es que apenas haya profesores calvos en la Universidad, aunque aqu\u00ed ya tenemos dudas de si la herramienta se ha entrenado con ese tipo de datos (algo que resultar\u00eda realmente curioso) o tambi\u00e9n se le ha implementado un sistema est\u00e9tico que entienda que resulta m\u00e1s adecuado mostrar a hombres con una buena densidad capilar (lo cual se podr\u00eda nuevamente considerar discriminatorio, aunque a ciertas personas les pueda resultar exagerado).<\/p>\n Pero haremos m\u00e1s pruebas para corroborar si, efectivamente, los datos utilizados para el entrenamiento de Ideogram muestran esa imagen del profesorado universitario. Si introducimos los prompts<\/em> \u201cfuture, university, teachers discussing the future of labor law and ai<\/em>\u201d, la herramienta autom\u00e1ticamente producir\u00e1 el siguiente magic prompt<\/em>: \u201cA futuristic university setting, where a group of distinguished professors gather around a high-tech holographic projection of a diploma. They are engaged in a deep discussion about the future of labor law and AI, with a sense of urgency and intrigue. The background features advanced technology, such as robotic arms and holographic displays, giving the scene a modern and innovative atmosphere<\/em>\u201d [Un escenario universitario futurista, donde un grupo de distinguidos profesores se re\u00fanen en torno a una proyecci\u00f3n hologr\u00e1fica de alta tecnolog\u00eda de un diploma. Est\u00e1n inmersos en un profundo debate sobre el futuro del derecho laboral y la IA, con una sensaci\u00f3n de urgencia e intriga. El fondo presenta tecnolog\u00eda avanzada, como brazos rob\u00f3ticos y pantallas hologr\u00e1ficas, que confieren a la escena un ambiente moderno e innovador]. Y nos crear\u00e1 la siguiente imagen:<\/p>\n Una vez m\u00e1s, hombres blancos de edad avanzada. Ninguna mujer, ning\u00fan latinoamericano, ning\u00fan afroamericano, etc.<\/p>\n Sin embargo, volvamos a hablar de los datos: seg\u00fan la estad\u00edstica de personal de Universidades del Curso 2021-2022 en Espa\u00f1a [4]<\/a>, del total de 133.484 personas que conformaban el personal docente e investigador en las Universidades espa\u00f1olas (tanto p\u00fablicas como privadas), 75.185 eran hombres y 58.299 mujeres. Es decir, el g\u00e9nero femenino estaba representado en un 43,7%, cifra que ascend\u00eda ligeramente hasta el 43,9% en el \u00e1mbito del Derecho. Por tanto, \u00bfno ser\u00eda fr\u00edvolo contemplar la existencia de un sesgo algor\u00edtmico cuando nosotros mismos, como seres humanos, hemos conducido a una situaci\u00f3n en la que, al menos en Espa\u00f1a, en el Curso 2021-2022 hab\u00eda 16.886 profesores m\u00e1s que profesoras?<\/p>\n Intent\u00e9moslo una vez m\u00e1s con una sola frase como prompt<\/em>: university teachers discussing the future of \u00ablabor law and ai\u00bb<\/em>. El magic prompt<\/em> generado es el que sigue: \u201cA thought-provoking artwork depicting a group of diverse university professors engaged in a deep conversation about the future of labor law and AI. They are seated around a large wooden table adorned with books and papers. Each professor has a unique expression and demeanor, reflecting their individual personalities. In the background, a large screen displays a futuristic cityscape, with robots and drones navigating the streets. The atmosphere is one of intellectual curiosity and anticipation for the challenges that lie ahead<\/em>\u201d [Una obra de arte que invita a la reflexi\u00f3n y que representa a un grupo de diversos profesores universitarios inmersos en una profunda conversaci\u00f3n sobre el futuro del derecho laboral y la IA. Est\u00e1n sentados alrededor de una gran mesa de madera adornada con libros y papeles. Cada profesor tiene una expresi\u00f3n y un comportamiento \u00fanicos, que reflejan sus personalidades individuales. De fondo, una gran pantalla muestra un paisaje urbano futurista, con robots y drones recorriendo las calles. El ambiente es de curiosidad intelectual y expectaci\u00f3n ante los retos que nos aguardan]. Y aqu\u00ed tenemos una peque\u00f1a y grata sorpresa:<\/p>\n Adem\u00e1s de una mujer, aparecen dos hombres de raza negra. Un ligero avance en el que, sin embargo, se sigue apreciando la misma mayor\u00eda: hombres blancos de avanzada edad.<\/p>\n Siguiendo en la Universidad, quisimos representar una clase futurista para conocer cu\u00e1l era la conclusi\u00f3n de la herramienta al respecto. Usamos este prompt:<\/em> \u201cA futuristic illustration of a university classroom where AI regulation is being discussed. The professor, dressed in a professorial robe, stands at the front of the classroom, using a holographic projector to display information on AI regulation. The students, wearing virtual reality headsets, are engaged in the discussion, their avatars represented as 3D holograms. The atmosphere is a blend of high-tech innovation and traditional academic setting<\/em>\u201d [Ilustraci\u00f3n futurista de un aula universitaria en la que se debate sobre la regulaci\u00f3n de la IA. El profesor, vestido con una toga, se sit\u00faa en la parte delantera del aula y utiliza un proyector hologr\u00e1fico para mostrar informaci\u00f3n sobre la regulaci\u00f3n de la IA. Los estudiantes, que llevan cascos de realidad virtual, participan en el debate con sus avatares representados como hologramas en 3D. El ambiente es una mezcla de innovaci\u00f3n de alta tecnolog\u00eda y entorno acad\u00e9mico tradicional], y el resultado obtenido fue el que vemos:<\/p>\n Entre el alumnado se observa una mayor presencia femenina, pero el resto de razas no blancas siguen sin tener cabida y, una vez m\u00e1s (ya no es sorpresa) nos hallamos frente a un profesor blanco de avanzada edad.<\/p>\n Dado que la curiosidad es una cualidad de todo investigador, nos surge la duda de saber qu\u00e9 hubiese ocurrido si solo hubi\u00e9semos incluido los t\u00edtulos del proyecto que tenemos en mente como prompts:<\/em> \u201ciniciativa interblogs, La Regulaci\u00f3n De La Inteligencia Artificial En El Mundo Laboral\u201d. El magic prompt<\/em> propuesto por la herramienta es \u201cA thought-provoking illustration of a futuristic workplace, where AI-powered robots and humans work in harmony. The scene is set in a modern office, with a digital clock showing the year 2050. A diverse group of people and AI are gathered around a conference table, discussing the regulation of artificial intelligence in the world of work. A large screen in the background projects the words \u00abIniciativa Interblogs\u00bb and displays relevant stats and figures. The atmosphere is one of collaboration, innovation, and progress in a rapidly evolving labor market<\/em>\u201d [Una ilustraci\u00f3n que invita a la reflexi\u00f3n sobre un lugar de trabajo futurista, en el que robots con inteligencia artificial y humanos trabajan en armon\u00eda. La escena se sit\u00faa en una oficina moderna, con un reloj digital que indica el a\u00f1o 2050. Un grupo diverso de personas y de IA est\u00e1n reunidos en torno a una mesa de conferencias, discutiendo la regulaci\u00f3n de la inteligencia artificial en el mundo laboral. Una gran pantalla de fondo proyecta las palabras \u00abIniciativa Interblogs\u00bb y muestra estad\u00edsticas y cifras relevantes. El ambiente es de colaboraci\u00f3n, innovaci\u00f3n y progreso en un mercado laboral en r\u00e1pida evoluci\u00f3n]. Y es aqu\u00ed donde, como vemos, nos hemos salido del \u00e1mbito universitario y nos hemos introducido en el \u201clugar de trabajo futurista\u201d, dando paso a un enfoque mucho m\u00e1s igualitario en la empresa:<\/p>\n Vemos que aqu\u00ed se aprecia una participaci\u00f3n mucho mayor de la mujer en el entorno laboral, e incluso se incluyen robots humanoides en la ecuaci\u00f3n. Por tanto, en el \u00e1mbito laboral s\u00ed parece incluir a la mujer en condiciones de igualdad, pero probaremos una vez con el prompt<\/em> \u00fanico \u201cfuture workplace people<\/em>\u201d y quitando la opci\u00f3n de generaci\u00f3n del magic prompt<\/em>. Este ser\u00eda el resultado:<\/p>\n Por fin encontramos como resultado no solo una mujer, sino que adem\u00e1s presenta rasgos asi\u00e1ticos. Ideogram suele ofrecer 4 im\u00e1genes en cada b\u00fasqueda, y como en los casos anteriores, las otras eran muy similares, pero la mujer era de raza blanca (sin embargo, esta que vemos era la primera opci\u00f3n). Pero como es una imagen muy simple, veremos qu\u00e9 ocurre si permitimos que act\u00fae el magic prompt<\/em>, que queda como sigue: \u201cA futuristic office setting with a diverse group of employees working in harmony. The office features sleek, modern design with floating desks, holographic screens, and a transparent conference room. People from different backgrounds and cultures are wearing stylish, futuristic attire, working on their holographic devices. The atmosphere is a blend of professionalism and creativity, suggesting a technologically advanced and inclusive future workplace<\/em>\u201d [Una oficina futurista con un grupo diverso de empleados trabajando en armon\u00eda. La oficina presenta un dise\u00f1o elegante y moderno con mesas flotantes, pantallas hologr\u00e1ficas y una sala de conferencias transparente. Personas de distintas procedencias y culturas visten atuendos futuristas y elegantes y trabajan con sus dispositivos hologr\u00e1ficos. El ambiente es una mezcla de profesionalidad y creatividad, que sugiere un futuro lugar de trabajo tecnol\u00f3gicamente avanzado e integrador].<\/p>\n Es obviamente un entorno mucho m\u00e1s integrador e igualitario, por lo que parece que, en t\u00e9rminos generales, el entorno t\u00edpico de prestaci\u00f3n del trabajo actual (la oficina) s\u00ed es concebido por la herramienta, seg\u00fan los datos que ha obtenido, como un \u00e1mbito donde la discriminaci\u00f3n es mucho menos acentuada (si bien en este tipo de im\u00e1genes no suelen incluirse a los trabajadores mayores, esperemos que no sea una predicci\u00f3n del todo precisa).<\/p>\n Dado que algunas de las cr\u00edticas que recibimos se refer\u00edan espec\u00edficamente a la discriminaci\u00f3n por raz\u00f3n de g\u00e9nero, tambi\u00e9n quisimos comprobar qu\u00e9 ocurrir\u00eda si le solicit\u00e1semos a la web im\u00e1genes sobre sectores en los que, por el contrario, es m\u00e1s frecuente la presencia de mujeres. As\u00ed, acudimos a datos de ILOSTAT [5]<\/a> que nos ilustraban acerca de la gran presencia femenina en el sector de la enfermer\u00eda y, a modo de ejemplo, le solicitamos que nos reflejara un \u201cnurse team<\/em>\u201d, gener\u00e1ndose el magic prompt<\/em> \u201cA compassionate and dedicated team of nurses working together in a modern hospital. They are all wearing their crisp, white nursing uniforms and smiling as they collaborate on a patient’s care. They hold medical equipment and charts, as they communicate effectively to ensure the best possible outcome for their patient. The background showcases a clean and organized hospital room, with soft, soothing colors and natural light streaming in from the windows<\/em>\u201d [Un equipo compasivo y entregado de enfermeras trabajando juntas en un hospital moderno. Todas llevan sus uniformes de enfermer\u00eda blancos y limpios y sonr\u00eden mientras colaboran en el cuidado de un paciente. Sostienen equipos m\u00e9dicos y gr\u00e1ficos, mientras se comunican eficazmente para garantizar el mejor resultado posible para su paciente. El fondo muestra una habitaci\u00f3n de hospital limpia y organizada, con colores suaves y relajantes y luz natural que entra por las ventanas]:<\/p>\n Como pod\u00edamos intuir, efectivamente todas las enfermeras que aparecen en la imagen son mujeres. Lo curioso de este caso es que, tanto en esta imagen como en las otras generadas mediante el mismo prompt,<\/em> la diversidad cultural s\u00ed es bastante llamativa.<\/p>\n Lo m\u00e1s interesante de los datos de ILOSTAT es que, en el \u00e1mbito del profesorado, tambi\u00e9n se menciona la prevalencia de la mujer. Pero, dados los datos sobre universidades antes vistos, parece l\u00f3gico pensar que se refiere a la generalidad de profesoras, incluyendo las de Educaci\u00f3n Primaria, Secundaria o incluso infantil. Para comprobar ello, decidimos pedirle a Ideogram que genere una imagen a partir del prompt<\/em> completamente neutro \u201cschool teachers discussing about AI future<\/em>\u201d, sustituyendo as\u00ed University<\/em> por school.<\/em> De esa manera, el magic prompt<\/em> \u201cA thought-provoking image of a group of school teachers gathered around a large touch-screen display, discussing the future of AI in education. They are wearing their traditional school attire, and their expressions show a mix of curiosity, concern, and excitement. The touch-screen display shows various AI-driven educational tools, such as virtual classrooms, personalized learning modules, and AI-powered grading systems. The background is a modern school setting with interactive whiteboards, laptops, and various educational aids<\/em>\u201d [Una imagen que invita a la reflexi\u00f3n de un grupo de profesores reunidos en torno a una gran pantalla t\u00e1ctil debatiendo sobre el futuro de la inteligencia artificial en la educaci\u00f3n. Llevan su atuendo escolar tradicional y sus expresiones muestran una mezcla de curiosidad, preocupaci\u00f3n y entusiasmo. La pantalla t\u00e1ctil muestra varias herramientas educativas basadas en IA, como aulas virtuales, m\u00f3dulos de aprendizaje personalizados y sistemas de calificaci\u00f3n basados en IA. El fondo es un entorno escolar moderno con pizarras interactivas, ordenadores port\u00e1tiles y diversos materiales educativos] nos ofrece la siguiente imagen:<\/p>\n Como est\u00e1bamos imaginando, el sesgo es evidente: un solo hombre frente a siete mujeres. Pero quiz\u00e1s la pregunta que deber\u00edamos hacernos es la siguiente: \u00bfEs esto un verdadero sesgo algor\u00edtmico o solo refleja la realidad social que vivimos actualmente, o al menos la que hemos venido viviendo hist\u00f3ricamente?<\/p>\n En definitiva, lo que queremos hacer ver es que Ideogram es un proyecto que naci\u00f3 \u201ccompuesto por seis expertos en ciencias de la computaci\u00f3n, con antecedentes en empresas tecnol\u00f3gicas de renombre como Google y Twitter\u201d logrando \u201cuna financiaci\u00f3n semilla de 16.5 millones de d\u00f3lares, con el respaldo de firmas como a16z e Index Ventures\u201d [6]<\/a>. Es decir, se trata de una empresa importante que seguro ha hecho un gran esfuerzo de entrenamiento y recopilaci\u00f3n de datos, datos reales que pueden obtenerse por cualquier medio y existen como tales, favoreciendo el aprendizaje de la herramienta. As\u00ed pues, podemos concluir que esos sesgos que se aprecian en las im\u00e1genes generadas mediante herramientas de IA no deben considerarse solamente como sesgos algor\u00edtmicos, como si fuera la propia inteligencia artificial la que discriminara, sino que derivan de la discriminaci\u00f3n que nosotros, como seres humanos, ejercemos y hemos venido ejerciendo desde los tiempos m\u00e1s remotos: \u201cEs ya axiom\u00e1tico afirmar que el funcionamiento algor\u00edtmico genera sesgos. La principal raz\u00f3n es que los propios humanos, como seres consustancialmente sociales y provistos de determinados valores, actuamos siempre con prejuicios, a su vez causantes de sesgos\u201d [7]<\/a>. Quiz\u00e1s debamos tener cuidado con la inmensa atenci\u00f3n que le estamos prestando a la discriminaci\u00f3n algor\u00edtmica o sesgos injustos y debamos retomar la base de la misma, que es la discriminaci\u00f3n humana en s\u00ed misma, la cual termina por verse representada en las herramientas de inteligencia artificial. En suma, el sesgo \u201cdiscriminatorio\u201d que se aprecia en los resultados de IA no es sino la consecuencia \u2013formal- de una causa m\u00e1s profunda: la discriminaci\u00f3n \u2013material- que impera en nuestra sociedad a\u00fan en el siglo XXI. La tarea primordial de las y los profesionales iuslaboralistas no es (solamente) hacer frente a esas consecuencias, sino (principalmente) eliminar las causas que las provocan.<\/p>\n No ha sido este un trabajo de gran calado jur\u00eddico, ni tampoco era lo que se pretend\u00eda, pero esperamos haber podido ayudar a entender un poco mejor c\u00f3mo funcionan estas herramientas y a qu\u00e9 se deben esos sesgos que se generan constantemente.<\/p>\n Con todo, como acad\u00e9micos nos sentimos agradecidos de que se generen estos conflictos y debates que nos permitan expresar nuestras ideas y dialogar cordialmente sobre los temas que nos apasionan y, a su vez, nos preocupan. Precisamente, iniciativas como la que dio lugar a la conflictiva imagen no tendr\u00edan sentido si no incentivaran la discusi\u00f3n desde el respeto y la tolerancia. De este modo, reiteramos nuestras disculpas a toda persona que se haya sentido agraviada por la imagen, que creemos enormemente did\u00e1ctica (de hecho, nuestra intenci\u00f3n era justamente la contraria, dejar claro el sesgo discriminatorio de la IA; lamentamos no haberlo sabido explicar correctamente) y, como tal, siempre respetuosamente, la mantendremos en el blog como ejemplo del arduo camino que nos queda por recorrer en materia de IA y discriminaci\u00f3n (y otras muchas materias, pues est\u00e1 demostrado el potencial que puede alcanzar la inteligencia artificial en el futuro, incluso en el m\u00e1s inmediato).<\/p>\n [1] Prompts,<\/em> en t\u00e9rminos de IA.<\/p>\n [2]<\/a> \u201cAl final, este tipo de inteligencias artificiales necesitan la m\u00e1xima informaci\u00f3n posible para hacer una gran creaci\u00f3n, por lo que si t\u00fa incluyes una frase escueta, esta funci\u00f3n [magic prompt<\/em>] coger\u00e1 tus ideas para darles m\u00e1s forma y as\u00ed ayudar con el resultado final\u201d. Gonz\u00e1lez Valenzuela, C., \u201cIdeogram AI: c\u00f3mo funciona la mejor IA para crear im\u00e1genes con texto alternativa a Midjourney\u201d, en ComputerHoy,<\/em> 11 abril 2024.<\/p>\n [3]<\/a> Fern\u00e1ndez, Y., \u201cIdeogram AI: qu\u00e9 es y c\u00f3mo usar esta alternativa a Midjourney para crear im\u00e1genes por inteligencia artificial con textos dentro\u201d, en Xataka,<\/em> 5 octubre 2023.<\/p>\n [4]<\/a> Estad\u00edstica de personal de las universidades Curso 2021-2022<\/p>\n [5]<\/a> Obtenido de la p\u00e1gina web \u201cThese occupations are dominated by women<\/em>\u201d, 6 marzo 2020. Tambi\u00e9n se valora en dichos datos una superior aparici\u00f3n de oficinistas femeninas, lo que nos hace entender por qu\u00e9 las im\u00e1genes sobre el \u201cworkplace\u201d<\/em> s\u00ed contaban con mayor presencia de mujeres.<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-1.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-2.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-3.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/AI-bis-3.png?resize=450%2C253\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-4.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-5.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/IA-6.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/AI-bis.png?resize=300%2C300\")
<\/p>\n![\"\"](\"https:\/\/i0.wp.com\/grupo.us.es\/iwpr\/wp-content\/uploads\/2024\/04\/AI-bis-2.png?resize=300%2C300\")
<\/p>\n
\n