María José Asquerino Lamparero

Profesora ayudante doctora

Universidad de Sevilla

masquerino@us.es

 

 

1.     APROXIMACIÓN

Los entornos laborales han cambiado. Ninguna actividad económica ha quedado al margen de la Revolución 4.0 y este efecto expansivo es acaso la diferencia más notable con relación a las anteriores revoluciones.

Hemos de añadir la proyección hacia el terreno laboral de los efectos de la situación sanitaria derivada del covid-19. Ante la imposibilidad de interaccionar personalmente, se exploraron las utilidades que ofrecía la Red. Se sustituyó el contacto personal por el virtual, delegándose en el algoritmo funciones netamente humanas.

A través de las presentes líneas, nos centraremos en la fase previa a la contractual para acercarnos a las prácticas actuales que emplean sistemas algorítmicos. El algoritmo[2], alimentado de datos[3], es capaz de procesar todo tipo de información, sin límite de capacidad y sin sufrir demoras[4] .

Así, el algoritmo servirá para descartar aquellos candidatos que presenten cualidades que no aportan un valor añadido, siendo capaz de comparar a los distintos pretendientes para elegir al que sobresale por tener una serie de características -previamente definidas- en grado superior al del resto.

Si a estas circunstancias le añadimos que los algoritmos se nos presentan   como la mejor fórmula para conseguir unos procesos de selección justos[5], parece que pocas dudas podríamos albergar acerca de si hemos de acudir a ellos.

El problema es que escudriñado el algoritmo observamos cómo aquella inicial percepción no se corresponde -en más ocasiones que las que serían deseables- con la tozuda realidad, pues entre otras causas, el algoritmo puede estar viciado desde su propia concepción, al asumir como patrones ideales lo que en realidad son una manifestación de nuestras humanas conductas discriminatorias. Ante ello, “Si son los derechos fundamentales y la dignidad de la persona humana los que están en el origen de la alerta sobre las tecnologías convergentes, será desde los derechos fundamentales… desde donde debamos reconstruir y articular las tecnologías convergentes con la sociedad del futuro”[6] y, en atención a esta premisa, sin desmerecer un ápice las ventajas que los algoritmos nos pueden ofrecer, pongamos nuestra vista en el derecho a la no discriminación para permanecer en alerta y conseguir detectar los posibles peligros a fin de arbitrar soluciones menos sesgadas.

La tarea es ardua porque los algoritmos no son transparentes, siendo complicado desentrañar el criterio que se ha empleado para diseñarlos.  Además, una vez detectada la discriminación en multitud de ocasiones no se puede conocer su origen, en parte porque el algoritmo aprende por sí mismo.

 

2. EL PROCESO DE SELECCIÓN Y LA DISCRIMINACIÓN ALGORÍTIMICA

2.1. BREVES APUNTES SOBRE EL DERECHO A LA NO DISCRIMINACIÓN EN LA RELACIÓN DE TRABAJO

En la actualidad carecemos de un cuerpo normativo destinado específicamente al tratamiento de la discriminación cuando esta procede del empleo de sistemas algorítmicos. Los conflictos que se susciten han de resolverse atendiendo a las normas generales que proscriben aquella.

Hemos de acudir al art.14 de la CE y junto a él al art.35, completando el cuadro normativo con la Ley Orgánica 3/2007, de 22 de marzo, para la igualdad efectiva de mujeres y hombres[7]. Junto a estos textos es de utilidad examinar la Ley 62/2003, de 30 de diciembre, de medidas fiscales, administrativas y del orden social[8].

No hemos de olvidar los artículos 4.2.c) y art.17.1 del ET (Real Decreto Legislativo 2/2015, de 23 de octubre).

Cerramos el abanico normativo con las previsiones de la Ley de Empleo (Real Decreto Legislativo 3/2015, de 23 de octubre) y la Ley de Infracciones y Sanciones del Orden Social (Real Decreto Legislativo 5/2000, de 4 de agosto)[9].

La preocupación es trasnacional y de ello da cuenta de ello Directivas como la 2006/54/CE, de 5 de julio, sobre aplicación del principio de igualdad de oportunidades e igualdad de trato entre hombres y mujeres en asuntos de empleo y ocupación o la Directiva 2000/78/CE, de 27 de noviembre, relativa al establecimiento de un marco general para la igualdad de trato en el empleo y la ocupación, así como la Directiva 2000/43/CE, de 29 de junio sobre aplicación del principio de igualdad de trato a las personas independientemente de su origen racial o étnico.

El problema se intensifica en la fase previa al contrato de trabajo. El candidato a un puesto no suele reclamar judicialmente por su exclusión del proceso de selección, siendo también escasas las actuaciones de Inspección[10] durante estos momentos precontractuales. Además, esta fase previa está presidida  por el derecho a la libertad de empresa,  siendo escasos los instrumentos normativos destinados a regular la etapa precontractual, más allá del recuerdo de que ninguno de los derechos otorga a sus titulares facultades omnímodas[11].

Otro obstáculo que entorpece la visibilidad de las acciones discriminatorias es la falta de atención de la negociación colectiva a la fase precontractual[12], a lo que hay que sumarle también la escasez de convenios que abordan el empleo de los algoritmos.

Las dificultades anteriores han de ser completadas con el examen de la posición en que se hallan las posibles partes contratantes. El que aspira a trabajar se encuentra en una clara situación de debilidad frente a quien puede ser su empleador, lo que le lleva a transigir ante determinadas situaciones, aunque estas no sean lícitas o incluso estén formuladas bajo términos abiertamente discriminatorios[13].

A todo lo anterior hay que aunarle el dato de que, si la selección se ha llevado a cabo a través de métodos basados en los algoritmos, de ordinario, al candidato excluido le embarga la sensación de que las razones de que su postulación no ha sido tenida en cuenta no se basan en la discrecionalidad de los medios técnicos, por cuanto se suele percibir que estos instrumentos algorítmicos son objetivos.

Pero es que, además, el candidato desplazado se encuentra con un problema de acreditación ante los órganos judiciales, dificultad esta que solo en parte es resuelta por el principio de inversión del probatorio.

 

2.2. EL CURRÍCULUM VITAE

El currículo ha sido la forma común de postularse ante una empresa. El currículum se convertía en una de carta de presentación que servía para poner de relieve las competencias profesionales y titulaciones del candidato.  De esta forma se concebía en el pasado y se sigue -con matices- entendiendo en el presente.

Ahora bien, siendo cierto que la finalidad pretendida por quien redacta y envía su currículum sigue siendo la misma que históricamente, las formas bajo las cuales se plasman las habilidades de los sujetos, el lugar en el que se aloja[14] o cómo se cursa el envío sí que han experimentado una transformación notable.

Ante esta nueva realidad, marcada por la influencia de lo digital, han aparecido distintas modalidades de currículum[15]. Pero, cualquiera que sea la fórmula que se emplee para captar la atención del seleccionador (sea este un “cerebro flotando”[16] o no) se corre el riesgo del descarte de los candidatos, ya sea por motivos espurios o por razones claramente discriminatorias.

Las reflexiones en torno a esta cuestión han supuesto que la doctrina haya ensalzado el valor del “currículum ciego”[17] o anónimo que sería el que obtuviéramos una vez se omiten los datos personales[18]. Los defensores de esta fórmula de presentación advierten que los sesgos discriminatorios no estarían presentes en las decisiones, porque todos los elementos en los que se puede basar la discriminación estarían eliminados[19].

A pesar del acierto que sí puede suponer esta fórmula[20], lo cierto es que con la adopción de este modelo anónimo no se garantiza la inexistencia de sesgos discriminatorios, porque los procesos de selección no solo se fundamentan en lo que explicitamos por escrito, sino que de ordinario el currículum es tan solo la primera de las fases de las que se componen estos.

Además, si los procesos de preselección de los historiales curriculares se llevan a cabo a través de algoritmos no es descabellado pensar que el propio algoritmo encuentre la manera de elegir a los candidatos a través de la conexión de otros datos que aparecen en el currículum y que, aun presentándose de forma neutra, pueden, a través de su combinación, inferir precisamente los aspectos que querían ocultarse[21].

2.3. LAS ENTREVISTAS DIGITALES

De ordinario, tras haber descartado iniciales candidaturas que no se atienen a los requerimientos del puesto de trabajo se inicia una segunda fase,  a través de la cual se puede obtener una impresión más individualizada del candidato, para lo que resulta de suma utilidad la realización de entrevistas personales.

Además, el seleccionador -humano o no- puede tratar de averiguar de forma más o menos abierta, determinados datos personales del pretendiente que le convertirían en sujeto incómodo para el empleador o, incluso aquella otra información que perteneciendo a la esencia de ese candidato no es estrictamente profesional[22]. Es precisamente a través de las preguntas canalizadas[23] en esas entrevistas cuando se puede dar lugar a inmisiones en derechos del candidato y, en lo que a nosotros atañe, lesiones al derecho a la no discriminación[24].

De nuevo, por impulso de estas tecnologías algorítmicas, aquí las posibilidades de interferir al derecho a la no discriminación son mayores[25], porque es más sencillo conocer si el postulante está mintiendo sobre determinados aspectos. Se restringen esas posibilidades que engloban el derecho a mentir[26], por cuanto el algoritmo es capaz de inferir incoherencias en las manifestaciones de la persona, relacionando datos muy dispares que, en apariencia y aisladamente, no son concluyentes por sí mismos.

En ocasiones, y así nos lo muestra la experiencia más reciente, la discriminación se producirá como consecuencia de apartar del proceso de selección a determinados sujetos por su pertenencia a un grupo concreto, dando lugar de esta forma a la  discriminación indirecta[27], exclusión esta que se puede producir con la aparente neutral pregunta que se le hace al candidato acerca de sus preferencias, por ejemplo, en relación a la jornada laboral; con la respuesta el reclutador podría descartar a las candidatas féminas que trataran de compatibilizar obligaciones laborales con familiares[28].

Tal y como ha destacado nuestra doctrina[29],  suele ser frecuente la discriminación múltiple.

No podemos tampoco descartar la posibilidad de que candidato pueda sufrir discriminación por asociación. Piénsese en un algoritmo que descarte las candidaturas de personas que residen en un determinado lugar en el que de común habitan sujetos de una determinada etnia.

Siendo, por tanto, factible que la discriminación ocasionada por el algoritmo se pueda encuadrar en cualquiera de las modalidades de discriminación humana, la doctrina también ha señalado que la forma más recurrente de presentación de discriminación cuando se emplean sistemas algorítmicos es la indirecta[30].

Pero, y a pesar de que ciertamente, el algoritmo puede dar lugar a la toma de decisiones erróneas, no debemos perder de vista que no todos los errores van a generar lesiones al derecho a la no discriminación, de lo que se concluye en la necesidad de comprobar -a la luz de los hechos concretos- qué tipo de vulneración se ha producido, a fin de valorar adecuadamente si efectivamente se ha lesionado este derecho[31]. También sería equivocado mantener que en todo caso concurre discriminación cuando se produce una diferencia de trato con base a las distintas circunstancias susceptibles de generar un trato discriminatorio, por cuanto son posibles tanto las medidas positivas como razones normativas.

Si descendemos a supuestos concretos vemos cómo en numerosas ocasiones las entrevistas tradicionales-personales han sido sustituidas por las que lleva a cabo el chabot. Este es capaz de valorar aspectos del ser humano que pueden ser relevantes para el puesto ofertado, a través de técnicas que van más allá del análisis objetivo de las respuestas ofrecidas por el candidato. Es un mecanismo muy útil para examinar el lenguaje corporal o gesticular lo que, a su vez, le ofrece una información muy valiosa para realizar los descartes oportunos; eliminaciones de candidaturas que se vislumbran como lícitas pero que, al profundizar en las razones, pueden esconder auténticos sesgos discriminatorios[32].

Además, el empleo de estas técnicas puede también presentar una serie de taras que en ocasiones se presentan como anomalías en los sistemas. Tampoco se puede descartar que a veces se pueden extraer conclusiones apresuradas y no reales (así, se puede inferir falta de habilidad social en quien simplemente se siente incómodo por interrelacionar con una máquina) y en otras situaciones se puede hasta llegar a lesionar el derecho a la no discriminación, como consecuencia precisamente de esa falta de procesamiento de información si el candidato presenta una determinada minusvalía o incluso descartar de plano a la persona que padece ciertas deficiencias visuales o auditivas[33] que le impiden reconocer con éxito lo que se le está preguntando.

 

3. REDES SOCIALES, PLATAFORMAS Y LA REPUTACIÓN DIGITAL

3.1. LA BÚSQUEDA DE EMPLEO A TRAVÉS DE REDES SOCIALES Y PLATAFORMAS DIGITALES

Ubicados en la fase de selección digital, las redes sociales[34] se han convertido en el medio más idóneo para visibilizar nuestra imagen como trabajadores, de lo que son conscientes las empresas y, particularmente, las dedicadas a la intermediación laboral.

La utilización de las redes sociales por parte de la generalidad[35] de la población para establecer procesos de comunicación entre los individuos facilitada por la relativa sencillez[36] bajo la que se concibe, ha hecho aflorar otras opciones para ser más empleables[37].

A ello hay que sumarle la existencia de plataformas digitales a las que una persona puede acceder a fin de buscar empleo[38].

Junto a las potencialidades que nos ofrecen redes sociales no pensadas primigeniamente para el campo profesional, no podemos descartar cómo existen otro tipo de entidades que en la oferta de sus servicios tienen a gala el ofrecer información para el seleccionador sobre la valoración previa que el candidato[39] tiene a ojos de los anteriores empresarios. Este servicio es otro canal para mostrar la reputación digital del trabajador[40].

Las plataformas de búsqueda de empleo ya se revelaron como un instrumento eficaz que entrañaba una serie de ventajas tanto para la empresa anunciante como para el sujeto que optaba a una plaza vacante. Estas fueron desplazando a los medios tradicionales de búsqueda de empleo, convirtiéndose en el referente inexcusable para toda persona que desea buscar un empleo. Pero, tras explorarse las virtualidades que estas plataformas virtuales tenían, se avanzó otro paso más y aparecieron las aplicaciones digitales que presentan ventajas insoslayables con respecto a las plataformas y que, fundamentalmente, se cifran en la posibilidad de poder acceder a sus contenidos en cualquier momento y sin necesidad de estar frente a una pantalla.

Y, a partir de ahí, los servicios que estas aplicaciones ofrecen son variopintos, pudiendo estar focalizados en sectores determinados o contemplar todas las actividades económicas y puestos a desempeñar, sin descartar que algunas de ellas tratan más o menos sutilmente zafarse de las ataduras que al efecto el ordenamiento impone cuando estamos frente a una empresa de intermediación laboral[41].

Si nos situamos desde el lado de la plataforma o de las aplicaciones y relacionamos a estas con el empleo de algoritmos, se observa cómo ellos son el instrumento perfecto para extraer las preferencias laborales de los candidatos y, en función de estas opciones laborales, la plataforma está capacitada para dirigirse a cada persona ofreciéndole las vacantes que mejor se adecuen con sus pretensiones. De nuevo, los algoritmos se conciben como el medio más eficaz.

Pero, y volviendo a nuestro discurso inicial, ninguna de estas posibilidades están exentas de los riesgos que entraña que la decisión sea discriminatoria. De ahí que la autorizada doctrina haya expresado que “…el diseño del uso de la propia aplicación móvil tiene incidencia, no solo en cuanto a la protección de datos de carácter personal, sino también respecto a garantizar el derecho a no ser discriminado”[42].

Porque además, si el seleccionador deseara obtener otro tipo de información diferente a la que le ha transmitido el candidato, le basta asomarse a ese transparente océano que es internet para averiguar los datos que desea conocer y que acaso porque son más privados no han podido ser recabados a través de las fases de las que consta un proceso de selección[43].

 

3.2. LA REPUTACIÓN DIGITAL DEL TRABAJADOR

El término de reputación sin más aditivos ha estado asociado a la idea que sobre una determinada entidad pública o privada tenían los grupos de interés, conectándose de esta forma con la responsabilidad social de la empresa[44]. Esta idea de reputación logra ensalzar el valor de la empresa.  Consciente de ello, las organizaciones tratan de cultivar esa reputación y estar alerta a posibles actuaciones que conlleven la pérdida de su fama.

Para construir esa reputación empresarial, las posibilidades que al efecto nos ofrecen las tecnologías son palpables. En la medida en la que internet no sabe de fronteras, el producto (la reputación empresarial) puede alcanzar rincones recónditos.

Y si ello es así con relación a las organizaciones empresariales, lo mismo podemos decir de los trabajadores.

De esta forma surge el concepto de reputación digital del trabajador, término este que hace referencia a la fama que se consigue a través de las redes sociales[45].

La reputación digital, nos remite en ambos supuestos a idéntica noción, variando tan solo las personas a las que se dirige la imagen proyectada. En el supuesto de la reputación empresarial, será el perfil que ofrece a trabajadores, proveedores, clientes actuales y potenciales, mientras que, si nos referimos a la reputación del trabajador, será la impresión que obtengan de él quienes puedan contratarle.

A pesar de esa inicial coincidencia conceptual entre la reputación empresarial y la del trabajador, lo cierto es que la forma de construir la imagen en uno y otro supuesto es distinta, como también diferentes son los mecanismos de tutela que arbitra el ordenamiento jurídico para cada una de los sujetos[46].

De esta forma, crear una marca y venderla deja de ser patrimonio exclusivo del empleador.

Esta expansión de la exigencia de mantener una imagen cuidada[47] a través de las plataformas digitales no solo (aunque sea la razón primera) se ha ocasionado como consecuencia de la universalización en el uso de internet, sino que también viene motivada por los nuevos requerimientos de los mercados. Estamos viviendo una época en la que las habilidades personales están en pleno auge, a diferencia de lo que ocurría en etapas anteriores en las que lo más valorado  era las titulaciones.

Situados desde la esfera del pretendiente a trabajador, la creación y mantenimiento de su reputación es -desde nuestro punto de vista- ajena a la fuente de donde se obtiene la información, pues todos los datos extraídos acerca de su persona son válidos para formarnos su imagen. Aun cuando pueda resultarnos algo inquietante lo cierto es que, examinadas las huellas que dejamos en el universo internauta, se pueden colegir rasgos de la personalidad tales como la tendencia política, aficiones, si estamos ante una persona conflictiva o pacífica, reivindicativa, crítica, ególatra, altruista y un sinfín etcétera. Twitter es una magnífica herramienta a los efectos antes indicados y, por supuesto también lo son los blogs o incluso Instagram.

No hemos de dejar de aludir a determinadas aplicaciones que ofertan el servicio de reputación digital como un valor añadido. De esta manera, en la aplicación queda constancia de los comentarios y valoración que empresarios anteriores realizan sobre quien fuera su trabajador[48], lo que de nuevo nos sitúa en la reputación de este.

El problema jurídico surge cuando el seleccionador acude a esas redes sociales a fin de hacerse una idea mucho más exacta del perfil del candidato[49] (pretensión esta que no es característica del empresario del siglo XXI[50]). Es en este momento cuando la diferencia entre las redes sociales profesionales y las personales cobra vital importancia. Consultar las primeras parece razonable, pues la persona que ha vertido sus datos es consciente de que lo ha hecho con una finalidad relacionada con el empleo; acudir a las personales para extraer datos ya no es tan claro desde el punto de vista de su licitud, desde el momento en que no sea ostensible que la inclusión de información por parte del interesado no ha sido a los fines de buscar empleo. Con esta distinción no se quiere indicar que la consulta y tratamiento de datos obtenidos en redes profesionales no esté sometida a ninguna cortapisa; antes bien, le son aplicables los principios genéricos sobre tratamiento de datos, incluyendo la obligación de información al interesado, debiendo ser en todo caso, un testimonio transparente, claro y ceñido a los objetivos perseguidos, sin que sea jurídicamente admisible recopilar datos que pertenecen a la esfera más personal del individuo.

Téngase presente que incluso determinadas aficiones personales pueden ofrecer a la empleadora información valiosa a los efectos de conocer si se va a desempeñar satisfactoriamente un puesto de trabajo e incluso detectar si el candidato conoce sobre el ideario de la entidad[51]. Pero también aquí pueden surgir conflictos con el derecho a la no discriminación[52].   La propia Agencia Española de Protección de Datos advierte el peligro de la injerencia del empresario en las redes sociales y, a través de la Guía, recuerda que ni tan siquiera cuando el acceso a esa red es público los datos allí contenidos pueden utilizarse para su tratamiento [53].

Otro aspecto que influye a la hora de ofrecer una imagen digital del que postula a un puesto de trabajo es el apartado relativo a los contactos.  Parte de esa reputación puede venir determinada por el número de seguidores, quiénes son estos y a quiénes seguimos a través de nuestras cuentas. Las opiniones de terceros sobre nuestras cualidades, aciertos y errores también son elementos  que pueden ser tenidos en consideración por presentes y futuros seleccionadores.

Específicamente, y centrados en las redes sociales personales, parece indiscutible que el empresario (o seleccionador) no puede acceder a las mismas para extraer información. Pero es más, ni tan siquiera si existiera consentimiento por parte de la persona consultada, por cuanto es clara la situación de debilidad en la que se halla esta lo que, a la postre, supone que una hipotética autorización a la consulta estaría viciada[54], máxime si pensamos en el peligro que entraña el tratamiento de una información que así extraída puede ofrecer una imagen de la persona irreal al ser desconectada del contexto y el momento en el que se emitieron, lo que es una violación del principio de exactitud[55].

 

4. CONCLUSIONES

Múltiples son los datos -pues variopintas son las fuentes- que existen sobre un sujeto, datos estos que exceden de los que aparecen explícitamente plasmados en un currículum. La inicial dificultad que entrañaría el manejo de una información tan dispar y sembrada en lugares distintos no constituye ningún inconveniente para el algoritmo.

Pero el algoritmo a pesar de su enorme poder no es capaz por sí mismo de ofrecer respuestas objetivas, dando lugar no solo a soluciones arbitrarias sino claramente sesgadas, sin que en ocasiones se pueda conocer siquiera el momento en que se produce el desvío, lo que dificulta la subsanación. Además, no podemos olvidar que el algoritmo es lo que son sus datos, así pues, si estos están viciados porque los patrones que contempla son fruto de las visiones estereotipadas y discriminatorias que los humanos tenemos, el resultado será una decisión igualmente discriminatoria.

Y aunque el presente debate lo entablamos con la mirada centrada en el derecho a la no discriminación, es importante tener presente que todos los datos recabados por el empresario y/o facilitados por el trabajador habrán de ser escrupulosamente tratados, siendo de aplicación a estos efectos las previsiones normativas contenidas en el art.9 del Reglamento de Protección de Datos[56] , de las que querríamos hacer hincapié en la que hace a las garantías previstas para la portabilidad de la información o el derecho al olvido, debiendo realizar una interpretación garantista en todo momento para los intereses del trabajador.

Es en este punto cuando sí que debemos distinguir entre los datos obtenidos por el seleccionador que provienen de fuentes profesionales de aquellos que se han extraído de otro tipo de plataformas que no tenían la intención de ofrecer una imagen netamente laboral de la persona. La escisión entre los dos lugares virtuales es precisa por cuanto las garantías que se diseñan por la Ley de Protección de Datos, también son diferentes[57].

Tal y como hemos tratado de poner de manifiesto, y en este sentido no es más que el reflejo de lo que doctrinalmente se ha reiterado, no podemos ofrecer un tratamiento único a los problemas de discriminación cuando se emplean sistemas basados en los algoritmos, pues a la tutela que nos dispensa nuestro ordenamiento jurídico centrada en la prohibición de la discriminación hay que añadirle también las cautelas que introduce la Ley de Protección de Datos, lo que supone que el candidato descartado tenga derecho a la intervención humana y a impugnar la decisión empresarial de su exclusión. Esta afirmación entraña que la protección al derecho a la no discriminación viene de la mano del derecho a la protección de datos, sobre todo cuando la decisión discriminatoria se ha fundamentado en las opiniones, datos e información que nosotros -con mayor o menor conocimiento acerca de la trascendencia de nuestras manifestaciones- hemos suministrado a través de las redes sociales[58].

Junto a ello, y con vistas a erradicar la posible discriminación en las decisiones -humanas o algorítmicas- de contratación, no ha de descartarse acudir al auxilio del derecho a la intimidad.

El juego de los anteriores derechos (protección de datos e intimidad) ha de combinarse necesariamente con la interpelación a los representantes de los trabajadores para que velen por el cumplimiento de los mandatos constitucionales. Para ello, sería preciso que tomaran consciencia de la necesidad de cercenar este tipo de comportamientos.  Un primer paso (y ahora sí aludiendo solo al algoritmo) viene constituido por el art.64.4.d) del ET, cuya eficacia real solo puede producirse si esos representantes legales cuentan con la formación suficiente en estos instrumentos técnicos.

Con ello no queremos indicar que el abordaje de la cuestión sea sencillo. Conseguir dotar de mecanismos automatizados más eficientes requiere, también, que el enfoque se plantee no solo desde un prisma netamente técnico, sino también jurídico[59].

 

 

BIBLIOGRAFÍA

Álvarez Cuesta, H.: “Dimensión jurídica de la IA en el derecho de la Unión Europea” [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube.

Aragüez Valenzuela, L.: “Los algoritmos digitales en el trabajo. Brechas y sesgos”. Revista Internacional y Comparada de Relaciones Laborales y Derecho del Empleo, Vol.9, nº 4, 2021, Págs. 119-146.

Calvo Gallego, F.J.: “ Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, en Rodríguez-Piñero Royo y Todolí Signes (Dtores.) Vigilancia y control en el Derecho del Trabajo Digital, Ed. Aranzadi, 1ªEd. 2020. [Aranzadi ProView]

Cruz Villalón, J.: “Las transformaciones de las relaciones laborales ante la digitalización de la economía”. Temas Laborales, 2017, n. 138

Cruz Villalón, J.: “El impacto de la digitalización sobre los derechos fundamentales laborales” en RODRÍGUEZ-PIÑERO ROYO,M. y TODOLÍ SIGNES, A.(Dtores.). Vigilancia y control en el Derecho del Trabajo digital , Aranzadi,  2020 [Aranzadi ProView].

De la Quadra-Salcedo Fernández del Castillo, T.: “Derechos fundamentales, democracia y mercado en la edad digital”. Derecho Digital e Innovación, número 2, Abril-Junio 2019, Ed. Wolters Kluwer. [Versión digital].

Eubanks, V.: La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres. 2ª Ed. Capitán Swing.2021

Fernández García, A.: “ Aplicaciones móviles para buscar empleo: aspectos jurídico-laborales” en Trabajo en Plataformas Digitales: Innovación, Derecho y Mercado. Aranzadi.1ª Ed.2018. [Aranzadi ProView]

Fernández García, A.: “La discriminación directa en el acceso al empleo por razón de origen geográfico”. Revista de Derecho Social, 2019, nº85. Págs.75-96.

Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”. IUSLabor 1/2019. Disponible en https://raco.cat/index.php/IUSLabor/article/view/10.31009-IUSLabor.2019.i01.05/446349

Fernández García, A.: “Trabajo, algoritmos y discriminación” en Rodríguez-Piñero Royo, M. y Todolí Signes, A. (Dtores.): Vigilancia y control en el Derecho del Trabajo Digital. Aranzadi. 2020. [Aranzadi Proview].

Ginès i Fabrelles, A.: “Sesgos de género en el uso de la IA en el ámbito del trabajo. [Vídeo] en Jornada Discriminación Algorítmica laboral” (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube

Lázaro Sánchez, J.L.: “Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y crowdworking”, en Hernández Bejarano, M. y Todolí Signes, A.(Dtores.) Trabajo en plataformas digitales: innovación, derecho y mercado, Aranzadi. 2018, [Aranzadi ProView]

Mercader Uguina, J. R.: “Algoritmos y derecho del trabajo”. Actualidad Jurídica Uría Menéndez, 52, 2019, pág.

Mercader Uguina, J.R.: “Algoritmos: personas y números en el Derecho Digital del trabajo”. Diario La Ley Ciberderecho, nº 48, marzo 2021 [Versión electrónica]

Moreno Cádiz, S.: “Inteligencia Artificial en la selección de trabajadores. Técnicas utilizadas y evidencias empíricas” [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube

Pazos Pérez, A.: “La reputación digital mediante algoritmos y los derechos fundamentales de los trabajadores” en VVAA. Vigilancia y control en el Derecho del Trabajo digital en Rodríguez-Piñero Royo, M. y Todolí Signes, A. (dtores). Aranzadi. 2020. [Aranzadi ProView].

Pérez Rey, J.: “Trabajadores transparentes: acerca del impacto de las redes sociales en las relaciones laborales”, Revista Trabajo y Derecho, Monográfico 7/2018, 1/06/2018.Wolters Kluwer,  [Versión electrónica].

Preciado Doménech, H.: “Algoritmos y discriminación en la relación laboral”, Jurisdicción Social, Revista de la Comisión de lo Social de Juezas y Jueces para la Democracia. Núm.223. Junio 2021

Rivas Vallejo, P.: La aplicación de la Inteligencia Artificial al trabajo y su impacto discriminatorio op.cit., págs.241-246 bajo el epígrafe: “Selección algorítmica de candidaturas: métodos”.

Sáez Lara, C.: “El algoritmo como protagonista de la relación laboral. Un análisis desde la perspectiva de la prohibición de discriminación”. Temas Laborales núm.155/20. Págs.41-60.

Serrano Falcón, C.: “La selección a través de modelos de IA”. [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube

Todolí Signes, A.: “Sesgos de género en el uso de la IA en el ámbito del trabajo”, [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021). UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube).

 

NOTAS

[1] Trabajo realizado en el marco del Proyecto de Investigación “Nuevas Causas y Perfiles de Discriminación e Instrumentos para la Tutela Antidiscriminatoria en el Nuevo Contexto Tecnológico Social” (US-1264479).

[2] Existen multitud de definiciones acerca de lo qué es un algoritmo. Destacamos la  de Mercader Uguina, J. R.: “Algoritmos y derecho del trabajo”. Actualidad Jurídica Uría Menéndez, 52, 2019, pág.63. “Un algoritmo es una receta”.

[3] El big data engloba a la inmensa información de la que puede disponer el algoritmo para su aprendizaje.

[4] Preciado Doménech, H.: “Algoritmos y discriminación en la relación laboral”, Jurisdicción Social, Revista de la Comisión de lo Social de Juezas y Jueces para la Democracia. Núm.223. Junio 2021. Pág.7. “Es un clásico ya hablar de las “3 V” como característica propia de los Big Data. “

[5] Mercader Uguina, J.R.: Mercader Uguina, J.R.(“Algoritmos: personas y números en el Derecho Digital del trabajo”. Diario La Ley Ciberderecho, nº 48, marzo 2021.

[6] De la Quadra-Salcedo Fernández del Castillo, T.: “Derechos fundamentales, democracia y mercado en la edad digital”, op.cit, pág.3.

[7] En especial el art.5 de la citada Ley que regula la “Igualdad de trato y de oportunidades en el acceso al empleo, en la formación y en la promoción profesionales, y en las condiciones de trabajo”.

[8] Específicamente, artículo 34 y siguientes.

[9] En lo que aquí nos atañe, con relación a las ofertas discriminatorias, art. 15.5 y 16.2 del citado texto legal.

[10] Serrano Falcón, C.: “La selección a través de modelos de IA”. [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube. Señala que de enero a diciembre del año 2019 las actuaciones inspectoras durante la etapa previa a la contractual fueron tan solo de doscientas sesenta.

[11] La limitación del derecho empresarial a elegir quién formará parte de su plantilla aparece limitado por el respeto a los derechos fundamentales. Calvo Gallego, F.J.: “ Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, en Rodríguez-Piñero Royo y Todolí Signes (Dtores.) Vigilancia y control en el Derecho del Trabajo Digital, Ed. Aranzadi, 1ªEd. 2020. [Aranzadi ProView].

[12] Fernández García, A.:  “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”, IUSLabor 1/2019. Disponible en https://raco.cat/index.php/IUSLabor/article/view/10.31009-IUSLabor.2019.i01.05/446349.

[13] CRUZ VILLALÓN, J.: “ El impacto de la digitalización sobre los derechos fundamentales laborales” en RODRÍGUEZ-PIÑERO ROYO,M. y TODOLÍ SIGNES, A.(Dtores.). Vigilancia y control en el Derecho del Trabajo digital (dir), Aranzadi, 2020 [Aranzadi ProView].

[14] Aunque a ello nos referiremos posteriormente, baste ahora enunciar cómo el currículum tradicional -confeccionado únicamente a través de soporte papel- es insuficiente a los ojos de los empresarios. Recordando a Lázaro Sánchez, J.L.: “Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y crowdworking”, en Hernández Bejarano, M. y Todolí Signes, A.(Dtores.) Trabajo en plataformas digitales: innovación, derecho y mercado. Aranzadi. 2018 [Aranzadi ProView], destaca que Carlos Fernández Guerra “conocido community manager, señala en una reciente entrevista que su consejo a los jóvenes … es que no descuiden su marca personal en las redes sociales, porque el panorama ha cambiado y el nuevo currículum ya no es de papel”.

[15] Así, el denominado currículum infográfico, el currículum social o el videocurrículum.

[16] Álvarez Cuesta, H.: “Dimensión jurídica de la IA en el derecho de la Unión Europea” [Vídeo] en Jornada Discriminación Algorítmica laboral (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube.

[17] Desde el Gobierno destaca el “Proyecto para el diseño, implantación y valoración de un proyecto de currículum vitae anónimo para la selección de personal” anunciado el 20 de julio de 2017 y al que se adhieren entidades públicas y privadas. Instituto de la Mujer y para la Igualdad de Oportunidades – Noticias y novedades (inmujeres.gob.es)

[18] La obtención de este modelo de currículum – Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”, op. cit.”

[19] Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”. Op.cit.

[20] Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”. Op.cit., relata la experiencia positiva de dos empresas adheridas (IKEA  Ibérica, S.A y Unilever) al proyecto del Ministerio antes aludido.

[21] Véase la sutileza con la que actuaba el algoritmo de Amazon para la contratación de puestos técnicos. El algoritmo había logrado saber en cada caso cuáles de los candidatos eran mujeres y quiénes varones, a través del empleo de femeninos por parte de las candidatas. El algoritmo había “aprendido” que los mejores candidatos eran hombres, porque este era el sexo que tenían los técnicos hasta el momento contratados. .https://elpais.com/tecnologia/2018/10/11/actualidad/1539278884_487716.html [Fecha de consulta: 23/11/2021].

[22] Calvo Gallego, F.J.: “Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites” op.cit. Se enlaza con el carácter “intuitu personae del contrato de trabajo”.

[23] La única manera de obtener respuestas a las preguntas que el seleccionador desee llevar a cabo no es a través de la entrevista. A título de ejemplo: en la plataforma Evalart se permite que el reclutador envíe cuestionarios a los candidatos, reflejándose por escrito las respuestas:“ Los resultados quedan almacenados en Evalart, lo que permite verlos en cualquier momento”-. https://evalart.com/es/-.

[24] Aun cuando se tratara de una entrevista entre un seleccionador humano y un candidato: STSJ de Canarias, de 7 de abril de 2014, (rec. nº 932/2012). Fernández García, A.: La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”, op.cit.

Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”, op.cit , alude a la STJUE de 25 de abril de 2013, C-81/12, asunto Asociaatia Accept y a la STJUE de 10 de julio de 2008, C-54/07, asunto Feryn. Ambos supuestos se plantean ante las manifestaciones de dos empresarios que exponen que no contrataran -primer asunto- a homosexuales o a personas que no sean nacionales -segunda Sentencia-.

[25] Férnandez García, A: “Trabajo, algoritmos y discriminación” en Rodríguez-Piñero Royo, M. y Todolí Signes, A. (Dtores.): Vigilancia y control en el Derecho del Trabajo Digital. Aranzadi. 2020. [Aranzadi Proview]. Concluye que la que se lleva a cabo por el algoritmo no constituye un supuesto de discriminación autónomo.

[26] Como destaca el profesor Calvo Gallego, F.J.: “ Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, op.cit., el candidato tiene derecho a mentir sobre aquellas situaciones que no aportan ninguna información acerca de su profesionalidad, pues no se podría apreciar dolo.

[27] Véase, Fernández García, A.: “Trabajo, algoritmos y discriminación” , op.cit.

[28] Vid. Fernández García, A.: “La lucha contra la discriminación en el acceso al empleo mediante el currículum vitae anónimo”, op.cit.

[29] Ibidem. Nos ilustra la situación con un ejemplo que se ajusta a la perfección con lo que hoy estamos analizando.

[30] Ibidem, quien, a su vez, recoge la idea expresada por Vallecillo Gámez, M.R.: “La robótica y la participación de las mujeres en el mercado de trabajo”. El futuro del trabajo: cien años de la OIT: comunicaciones, 2019.

[31] La doctrina insiste en la necesidad de ser especialmente delicados a la hora de analizar si existe o no discriminación. Ibidem

[32] A título de ejemplo: se excluyen las personas que se presentan en atención al lugar de procedencia o clase social a la que pertenecen, pudiendo extraerse conclusiones acerca de uno y otra a través de la dicción del candidato. Así, FERNÁNDEZ GARCÍA, A.: “La discriminación directa en el acceso al empleo por razón de origen geográfico”. Revista de Derecho Social, 2019, nº85.[Versión online].

[33] Eubanks, V.: La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres.. 2ª Ed. Capitán Swing. 2021. En la pág.89 señala cómo las entrevistas digitales pueden discriminar a las personas sordas.

[34] Rallo Lombarte, A. y Martínez Martínez, R.: Derecho y redes sociales, Civitas-Thomson Reuters, 2010, pg.4. Entienden estos autores que redes sociales son “aquellos servicios de la sociedad de información que ofrecen a los usuarios una plataforma de comunicación a través de Internet para que estos generen un perfil con sus datos personales, facilitando la creación de redes en base a criterios comunes y permitiendo la conexión con otros usuarios y su interacción”.

[35]En el estudio anual de redes sociales de 2021 se nos muestra cómo el 85% de las personas que acceden a internet en España un 85% de los que tienen entre 16 a 70 años emplean redes sociales. Nótese -Lázaro Sánchez, J.L.: “ Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y el crowdworking”, op.cit.   https://www.epdata.es/datos/usuarios-redes-sociales-espana-estudio-iab/382

[36] Si bien el registro y exposición de comentarios, subida de imágenes es relativamente tarea sencilla, lo cierto es que tal y como destaca Pérez Rey, J.: “Trabajadores transparentes: acerca del impacto de las redes sociales en las relaciones laborales”, Revista Trabajo y Derecho, Monográfico 7/2018, 1/06/2018.Wolters Kluwer. [Versión electrónica] la configuración de la privacidad sí reviste un grado de mayor complejidad.

[37] Aparte de la conocida Linkedin,  XING (destinada a contactar a todo tipo de profesionales) o Viadeo.

[38] Así, Infojobs, Laboris, Infoempleo o Monster, entre otras.

[39] Lázaro Sánchez, J.L.: “Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y crowdworking”, op.cit. enuncia el cambio operado en el propio concepto de “candidato”.

[40] Randstad, a través de Randstad Relevate; https://www.randstad.es/hrtech/ ) incorpora información sobre la “calidad” (término este que nos ha inquietado) del candidato que va más allá del grado de satisfacción en contrataciones anteriores.

Y, a pesar de que los comentarios que pueden insertarse sobre una persona no dejan de ser subjetivos (por ejemplo, al dejarse constancia de las áreas de mejora) la mercantil insiste en la objetividad de la valoración del “talento”.

[41] El referente en esta materia es el profesor Fernández García, A.: “ Aplicaciones móviles para buscar empleo: aspectos jurídico-laborales” en Trabajo en Plataformas Digitales: Innovación, Derecho y Mercado. Aranzadi.1ª Ed.2018. [Aranzadi ProView]. Señala para ilustrar esta aseveración a Worktoday

[42]Fernández García, A.: Aplicaciones móviles para buscar empleo: aspectos jurídico-laborales” op.cit.

[43] Lázaro Sánchez, J.L.: “Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y crowdworking”, op.cit.

[44] Calvo Gallego, F.J.: Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, op.cit.

[45]Calvo Gallego, F.J.: Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, op.cit. En atención al término de reputación del trabajador.

[46] Ibidem.

[47] Ibidem. No se trata únicamente de estar presentes en las redes sociales sino “ser activo…y, sobre todo, de hacerlo bien”.

[48] Fernández García, A.: ”Aplicaciones móviles para buscar empleo: aspectos jurídico-laborales”.

[49] De los riesgos que entraña la consulta de las redes sociales para la persona del consultado no es ajena la Recomendación CM/Rec (2015) 5 del Comité de Ministros del Consejo de Europa de 1 de abril de 2015.

[50] Fernández García, A.: “Trabajo, algoritmos y discriminación” en Rodríguez-Piñero Royo, M. y Todolí Signes, A. (Dtores.) Vigilancia y control en el Derecho del Trabajo digital. Aranzadi, Cizur Menor (Navarra), 2020 [Aranzadi Proview]. El autor destaca ese interés tradicional del empresario “en obtener la máxima información de sus trabajadores y de su empresa”.

[51] Lázaro Sánchez, J. L.: “Algunos aspectos jurídicos de los procesos de contratación en la economía colaborativa y el crowdworking”, op.cit., “…cada vez son más las compañías que, siendo conscientes de que no hay mejor candidato que el que ya es fan de tu marca, sigue tus actualizaciones y encaja con la cultura de la empresa, utilizan sus perfiles en rr.ss. encontrar a futuros empleados”.

[52] Un ejemplo es la empresa Gild, entidad esta que está centrada en la elaboración -fundamentalmente- de perfiles para entidades tecnológicas. Tal y como se nos relata (Ginès i Fabrelles, A.: “Sesgos de género en el uso de la IA en el ámbito del trabajo. [Vídeo] en Jornada Discriminación Algorítmica laboral” (1/diciembre/2021).UAB. Discriminación algorítmica laboral, jornada 1 dic 2021, UB – YouTube) esta empresa no se ciñe a valorar el currículum del candidato sino que está interesada en conocer si la persona se puede o no integrar con facilidad en el universo comunitario digital, información que obtiene comprobando si el pretendiente a trabajador visita una determinada página web de cómic de manga japonés. La discriminación se produce porque hay un menor número de visitas de mujeres que de hombres.

[53] Otra previsión sumamente importante es que: “La empresa no está legitimada para solicitar «amistad» a personas candidatas para que éstas, por otros medios, proporcionen acceso a los contenidos de sus perfiles (Dictamen 2/2017 sobre el tratamiento de datos en el trabajo del Grupo de Trabajo del Artículo 29). La empresa tampoco está legitimada para solicitar a una persona trabajadora o candidata a un empleo la información que éste comparta con otras personas a través de las redes sociales.” Guía de Protección de Datos y Relaciones Laborales de 18 de mayo de 2021.

[54] El fundamento -Calvo Gallego, F.J.: “Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites”, op.cit. Señala el Considerando 43 del RGPD.

[55] Nuevamente, Calvo Gallego, F.J. Ibidem.

[55] De nuevo idéntico autor. Señala el art. 5.1.d) RGPD.

[56] Calvo Gallego, F.J.: “Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, usos y límites” op.cit.

[57] Ibidem.

[58] Ibidem.

[59] Esta necesidad es puesta de manifiesto por Sáez Lara, C.: “El algoritmo como protagonista de la relación laboral. Un análisis desde la perspectiva de la prohibición de la discriminación”, op.cit. pág.46.