MAR\u00cdA JOS\u00c9 ASQUERINO LAMPARERO<\/p>\n
Universidad de Sevilla<\/em><\/p>\n Partiendo de la clarificaci\u00f3n de conceptos tales como algoritmo, inteligencia artificial y big data <\/em>se pretende analizar la afectaci\u00f3n sobre un derecho concreto: el de no discriminaci\u00f3n.<\/p>\n Estas herramientas caracter\u00edsticas de la nueva Edad que estamos viviendo son instrumentos valios\u00edsimos para cualquiera de los \u00e1mbitos sociales en los que nos desenvolvemos, y, por ende, tambi\u00e9n para el mundo de las relaciones laborales. No obstante, el empleo que se haga de ellos puede tener efectos perniciosos para la persona y afectar a derechos tales como el de su protecci\u00f3n de datos, su salud, integridad f\u00edsica, dignidad y, por supuesto, al derecho de igualdad.<\/p>\n La circunstancia de que los algoritmos no sean transparentes y que, por lo tanto, sea complicado desentra\u00f1ar el criterio que se ha empleado para dise\u00f1ar aquellos, facilita las inmisiones y lesiones a derechos fundamentales de las personas.<\/p>\n Descendamos al terreno de las relaciones laborales. Los algoritmos se pueden emplear en fases precontractuales y durante la vida o ejecuci\u00f3n del contrato. Pensemos en la siguiente situaci\u00f3n: una empresa (y, en este sentido es indiferente sus dimensiones) precisa cubrir un puesto de trabajo, para lo que abre un proceso de selecci\u00f3n. Las posibilidades que le brindan los algoritmos y la inteligencia artificial no son nimias; conseguir\u00e1 en un lapso relativamente breve valorar no solo innumerables curr\u00edculos, sino tambi\u00e9n cada dato que conste en la documentaci\u00f3n que reciba.<\/p>\n Una vez contratado, las utilidades de la inteligencia artificial no desaparecen, pues puede ser el instrumento m\u00e1s \u00fatil para controlar los tiempos de trabajo, c\u00f3mo se est\u00e1 ejecutando la labor contratada (lo que, a su vez, puede tener efectos en la percepci\u00f3n de determinados complementos salariales) y, en definitiva, para tomar decisiones que afectan a la pervivencia del v\u00ednculo laboral que van m\u00e1s all\u00e1 de los incumplimientos laborales (as\u00ed, para examinar la concurrencia de las causas jur\u00eddicamente habilitantes para proceder a despidos objetivos por ineptitud sobrevenida o por causas econ\u00f3micas, t\u00e9cnicas y organizativas de la propia empresa).<\/p>\n Pero en el empleo de estos sistemas por parte de la empresa -y en este sentido no ha de pensarse \u00fanicamente en las plataformas digitales- se corre un riesgo en el que querr\u00edamos poner nuestra atenci\u00f3n: la discriminaci\u00f3n por la forma en la que se tratan los datos. La lesi\u00f3n al derecho a la igualdad puede facilitarse por la introducci\u00f3n de sesgos antidiscriminatorios2<\/sup> que resultan harto complicado de ser vislumbrados a priori <\/em>y, tambi\u00e9n dif\u00edciles de constatar una vez se ha producido su conculcaci\u00f3n.<\/p>\n Pero, y aunque nuestra mirada se ha focalizado en el \u00e1mbito laboral, los que redactamos estas l\u00edneas no debemos ser tan ingenuos como para pensar que los efectos de la inteligencia artificial, y espec\u00edficamente de los algoritmos, se ci\u00f1en al escenario de las relaciones laborales, siendo tan solo una preocupaci\u00f3n (y ocupaci\u00f3n) de la doctrina laboralista3<\/sup> o propia del \u00e1mbito nacional o incluso europeo.<\/p>\n Y en toda esta revoluci\u00f3n tecnol\u00f3gica hay que poner el acento en el cada vez m\u00e1s sencillo acceso a un mundo que antes se reservaba \u00fanicamente a los especialistas matem\u00e1ticos (en cada una de las vertientes) y que hoy est\u00e1 disponible para pr\u00e1cticamente cualquier sujeto por muy rudimentarios que sean los conocimientos inform\u00e1ticos que este (o nosotros) tenga\/mos.<\/p>\n De igual forma, esta -si se nos permite- \u201cdemocratizaci\u00f3n\u201d del empleo de estos sistemas (espec\u00edficamente los algor\u00edtmicos) ha sido posible gracias a una disminuci\u00f3n significativa de los gastos de adquisici\u00f3n de instrumentos inform\u00e1ticos de todo tipo, sin olvidar los que suponen la conexi\u00f3n m\u00f3vil. Por supuesto, no podemos dejar de apuntar que el verdadero catalizador para que esta revoluci\u00f3n se produzca (la revoluci\u00f3n de los n\u00fameros) no es otra m\u00e1s que la que nos ofrece la conectividad a trav\u00e9s de internet, de la que es dif\u00edcil (por no decir imposible) escapar y que, de otro lado -y aunque suene redundante-, se ha abierto tambi\u00e9n a todas las personas, casi con independencia de su edad y, por supuesto, de otros condicionantes sociales-econ\u00f3micos.<\/p>\n La universalidad subjetiva de los sistemas impulsados por la tecnolog\u00eda no nos hace entonar un canto de satisfacci\u00f3n por lo conseguido. Pues, a pesar de todo, no podemos olvidar que existe una brecha digital tremendamente significativa que tiene una serie de consecuencias en absoluto desde\u00f1ables. Simplificando: quien se queda fuera del universo virtual corre el riesgo (si se nos permite esta licencia) de ser expulsado de la realidad que viviremos en un futuro no muy lejano.<\/p>\n De otro lado, la consideraci\u00f3n de que nos encontramos ante un entorno fuertemente globalizado (y con una clara proyecci\u00f3n intensificadora de este fen\u00f3meno) no hace m\u00e1s que contribuir a la expansi\u00f3n en la utilizaci\u00f3n de estas tecnolog\u00edas que facilitan el despliegue de las actividades econ\u00f3micas4<\/sup>.<\/p>\n La necesidad de escindir los conceptos que a continuaci\u00f3n pretendemos definir, aun cuando sea en l\u00ednea de aproximaci\u00f3n, ha sido destacada por la doctrina ocupada en el estudio de distintos saberes jur\u00eddicos 5<\/sup>.<\/p>\n La doctrina ha puesto de manifiesto que los datos son la fuente de mayor riqueza que existe hoy en d\u00eda6<\/sup>. Datos que servir\u00e1n, si son correctamente manejados, para discernir nuestros h\u00e1bitos de consumo, desde los m\u00e1s cotidianos o diarios a aquellos que se refieren a cuestiones tan trascendentales como la salud, pasando por aquellos otros que aun cuando sean superficiales, tambi\u00e9n nos definen como consumidores7<\/sup>.<\/p>\n En una primera aproximaci\u00f3n, el t\u00e9rmino, parece remitirnos a la idea de (traducimos tosca y literalmente) \u201cgrandes datos\u201d. La necesidad humana de recabar datos, de obtener y procesar informaci\u00f3n no es caracter\u00edstica propia del ser humano del siglo XXI. Desde el comienzo de los tiempos hemos sentido esa llamada. Lo que s\u00ed, l\u00f3gicamente, ha cambiado sustancialmente ha sido tanto la forma a trav\u00e9s de la cual obtenemos la informaci\u00f3n como la manera en que la procesamos8<\/sup>.<\/p>\n Es, precisamente en este punto, cuando introducimos el t\u00e9rmino de big data <\/em>o si castellanizamos la expresi\u00f3n, el de macrodatos. Y as\u00ed, aunque existan antecedentes remotos que nos hacen remontarnos hasta la Segunda Guerra Mundial y, concretamente, a Alan Turing y su proyecto para descifrar el C\u00f3digo Enigma, habremos de esperar a 1989 para que, con la generalizaci\u00f3n de internet, se abra la senda del big data <\/em>o lo que es lo mismo la generaci\u00f3n masiva de los datos9<\/sup>.<\/p>\n De la propia literalidad del t\u00e9rmino (big data<\/em>) ya se pueden extraer parte de sus caracter\u00edsticas. Se trata, en primer lugar, de datos en cantidades ingentes; es tal su cuant\u00eda que es imposible (al menos con la capacidad humana actual) procesar o clasificar la informaci\u00f3n suministrada. A la nota anterior hay que a\u00f1adirle la circunstancia de que esos datos son variados; se refieren a aspectos variopintos de la realidad y acaso por ello, han de proceder de diferentes fuentes de informaci\u00f3n.<\/p>\n Estos datos se transmiten (tercer car\u00e1cter) velozmente y esa velocidad es la que propicia internet, instrumento sin el cual no podr\u00edamos comprender los macrodatos que cambian vertiginosamente. La volatilidad de los datos nos remite, a su vez, a la idea de la permanente actualizaci\u00f3n de la informaci\u00f3n. Precisamente esa agilidad consigue que la informaci\u00f3n no sea obsoleta10<\/sup> y pueda, por ello, ser \u00fatil.<\/p>\n Siendo estas sus caracter\u00edsticas intr\u00ednsecas, realmente lo sorprendente es que esos datos por s\u00ed mismos nada aportan, pero su combinaci\u00f3n, el aprovechamiento a partir de su almacenamiento s\u00ed llega a ofrecer a aquel que los interpreta una fuente de conocimiento valios\u00edsima, m\u00e1xime cuando la informaci\u00f3n que suministran los datos (y aqu\u00ed se encuentra la mayor debilidad y a la par su m\u00e1xima fortaleza) puede servir para, incluso, predecir conductas futuras.<\/p>\n En definitiva, aunque los datos almacenados sean en cantidad ingente lo cierto es que aisladamente nada aportan. Por supuesto, los datos son la materia prima del conocimiento; precisamente por esta raz\u00f3n, se hace necesario su tratamiento, as\u00ed como su an\u00e1lisis y este proceso de interrelaci\u00f3n est\u00e1 tambi\u00e9n presente en el concepto de big data<\/em>. De esta forma, la actuaci\u00f3n primera que hay que acometer es desechar la informaci\u00f3n que nada aporta para seleccionar la que s\u00ed es capaz de generar un conocimiento efectivo y relevante. Esta es la funci\u00f3n de la \u201cminer\u00eda de datos<\/em>\u201d11<\/sup> que, aplicada al mundo de las relaciones laborales puede ser muy \u00fatil para conocer cu\u00e1les son los candidatos m\u00e1s id\u00f3neos para desempe\u00f1ar un puesto de trabajo concreto (selecci\u00f3n de personal), establecer graduaciones entre los trabajadores que tienen encomendadas las mismas tareas profesionales (evaluaci\u00f3n del desempe\u00f1o), examinar pormenorizadamente los niveles de absentismo de un colectivo o de particulares trabajadores y, en definitiva, de inferir, a partir del manejo de los datos, qu\u00e9 tipo de reacci\u00f3n empresarial se desencadenar\u00e1 a la vista de la informaci\u00f3n resultante.<\/p>\n Junto a ello tienen la virtualidad de conseguir, en funci\u00f3n del patr\u00f3n dominante observado en el trabajador (o del candidato), cu\u00e1l ser\u00e1 su respuesta futura ante determinadas situaciones y \u00f3rdenes empresariales, lo que -a su vez- es susceptible de condicionar las decisiones de la empresa tanto en el momento de su contrataci\u00f3n, como para conceder incentivos o desplegar la facultad sancionadora, llegando a su m\u00e1xima expresi\u00f3n que, como es sabido, es el despido y todas estas actuaciones que vienen refrendadas por los datos, por los algoritmos; en definitiva por la m\u00e1quina que alimentada por esos patrones alcanza conclusiones, dando lugar as\u00ed a la denominada inteligencia artificial.<\/p>\n As\u00ed pues se observa c\u00f3mo el big data <\/em>no se circunscribe a una faceta concreta de las relaciones laborales. Por el contrario -y tal como ha sido puesto de manifiesto por nuestra doctrina cient\u00edfica- afecta \u201cantes incluso de que haya contrato<\/em>\u201d y esa \u201cdimensi\u00f3n transversal<\/em>\u201d12<\/sup> supone que irradie sus efectos no solo a la dimensi\u00f3n netamente individual del contrato de trabajo, sino tambi\u00e9n a la colectiva abarcando incluso aspectos relativos a la Seguridad Social13<\/sup>.<\/p>\n Pero esta aspiraci\u00f3n de utilizaci\u00f3n de los macrodatos para interpretar conductas y predecirlas ya hab\u00eda sido observada con cautela por parte del Consejo de Europa que, preocupado por procurar el m\u00e1ximo respeto a los derechos humanos, y acaso especialmente a la dignidad, adopt\u00f3 el 28 de enero de 1981 el Convenio para la protecci\u00f3n de las personas con respecto al tratamiento automatizado de datos de car\u00e1cter personal (Convenio 108) y que m\u00e1s tarde (18 de mayo de 2018) ser\u00eda revisado para su actualizaci\u00f3n, siendo esta \u00faltima versi\u00f3n la que precisamente introduce las tres \u201cV\u201d que servir\u00e1n para calificar el big data <\/em>(velocidad, volumen y variedad, t\u00e9rminos estos a los que hemos aludido al principio del presente).<\/p>\n En definitiva, siguiendo a Molina Navarrete, \u201cbig data es el sue\u00f1o de Sherlock Holmes<\/em>\u201d14<\/sup> que persigue \u201cla optimizaci\u00f3n de los riesgos econ\u00f3micos y jur\u00eddicos<\/em>\u201d.<\/p>\n Si acudimos a la Carta \u00c9tica Europea sobre el uso de la Inteligencia Artificial en los sistemas judiciales y su entorno de 4 de diciembre de 201815<\/sup>, el algoritmo queda definido en el glosario como \u201cuna secuencia finita de reglas formales (operaciones e instrucciones l\u00f3gicas) que permiten obtener un resultado de la entrada inicial de informaci\u00f3n. Esta secuencia puede ser parte de un proceso de ejecuci\u00f3n automatizado y aprovechar modelos dise\u00f1ados a trav\u00e9s del aprendizaje autom\u00e1tico<\/em>\u201d16<\/sup>.<\/p>\n Aunque hayamos destacado este concepto por integrar todos los requisitos de partida con los que contamos para la elaboraci\u00f3n del presente, ciertamente existen otros conceptos elaborados por nuestra doctrina cient\u00edfica dignos de ser tenidos en consideraci\u00f3n17<\/sup>.<\/p>\n Vayamos atr\u00e1s y centremos nuestra mirada en el aprendizaje a trav\u00e9s del algoritmo. Ese aprender (en el sentido m\u00e1s cl\u00e1sico del t\u00e9rmino, esto es, sin abarcar cualidades que -al menos hoy por hoy- son netamente humanas y que formar\u00edan parte del aprendizaje emocional e incluso de la adquisici\u00f3n de competencias) no es uniforme, no es el mismo en todos los supuestos. Conscientes de la complejidad del proceso de aprendizaje, la literatura cient\u00edfica ha escindido entre sus diferentes tipos. As\u00ed, nos encontramos ante el aprendizaje autom\u00e1tico18<\/sup>, el denominado aprendizaje profundo y tambi\u00e9n el aprendizaje de refuerzo.<\/p>\n El aprendizaje profundo19<\/sup> es m\u00e1s \u201cpeligroso\u201d20<\/sup> que el simple aprendizaje autom\u00e1tico, por cuanto si el sistema es aut\u00f3nomo para establecer las relaciones de conexi\u00f3n entre los datos y ofrecer (esto es lo verdaderamente inquietante) una pauta sobre lo que el individuo va a hacer en el futuro (esto es, predice el futuro), las posibilidades son inmensas. De un lado, porque la persona cuando ofrece sus datos (o son recopilados estos porque, sin saberlo ha prestado consentimiento a su cesi\u00f3n desconociendo, por el imbricado lenguaje empleado o por pereza mental, si se quiere, para qu\u00e9 son destinados) no se detiene (no nos detenemos) a pensar que esos datos son los que nos definir\u00e1n (con exclusi\u00f3n de otros), proyectar\u00e1n una imagen de nosotros mismos y, volvemos a lo peligroso, ofrecer\u00e1n un patr\u00f3n de nuestra conducta de futuro.21<\/sup><\/p>\n A pesar de ello, creemos que aplicadas las consideraciones anteriores al mundo de las relaciones laborales, es -desde el punto de vista empresarial- una leg\u00edtima aspiraci\u00f3n el contar con estos algoritmos predictivos (o sistemas de aprendizaje profundo22<\/sup>), por lo que la soluci\u00f3n en la pr\u00e1ctica no puede venir dada por cercenar su uso, sino por la implantaci\u00f3n de cautelas a fin de que este sea respetuoso con los derechos humanos y, particularmente, con el derecho al que atendemos nuestra mirada: el relativo a la no discriminaci\u00f3n.<\/p>\n El, por ahora, \u00faltimo nivel de aprendizaje si continuamos con la exposici\u00f3n doctrinal23<\/sup>, es el aprendizaje por refuerzo que permite la obtenci\u00f3n de \u201cla mejor decisi\u00f3n sobre un conjunto de variables y opciones<\/em>\u201d24<\/sup>, incluyendo por tanto una valoraci\u00f3n.<\/p>\n Llegados a este punto, es relevante traer a la memoria la diferencia -resaltada por nuestra doctrina25<\/sup>– entre los dos tipos de algoritmos existentes. De un lado tenemos los \u201calgoritmos de arriba-abajo<\/em>\u201d y los \u201calgoritmos de abajo-arriba<\/em>\u201d; en el primer caso, el ser humano controla el algoritmo permanentemente en todas sus secuencias; en el segundo caso -los verdaderamente revolucionarios- \u201clos programadores crean meta-algoritmos que son capaces de crear algoritmos que, cuando detectan un error, ellos mismos se corrigen<\/em>\u201d.<\/p>\n Este es, de todos los conceptos que empleamos, el m\u00e1s d\u00factil. Se trata de una expresi\u00f3n que, lejos de permanecer inmutable, va a ir sufriendo los embates del tiempo, en parte porque desconocemos sus reales posibilidades de proyecci\u00f3n futura y, tambi\u00e9n, por cuanto el propio concepto de inteligencia (artificial o no) ha experimentado alteraciones en orden a la determinaci\u00f3n de su comprensi\u00f3n y alcance26<\/sup>.<\/p>\n No obstante, de entre todas las posibilidades27<\/sup> acudiremos a la Carta \u00c9tica Europea sobre el uso de la Inteligencia Artificial en los sistemas judiciales y su entorno de 4 de diciembre de 2018. La inteligencia artificial queda definida por el \u201cconjunto de m\u00e9todos, teor\u00edas y t\u00e9cnicas cient\u00edficas cuyo objetivo es reproducir, mediante una m\u00e1quina, las habilidades cognitivas de los seres humanos<\/em>\u201d28<\/sup>.<\/p>\n Ante ello, la inteligencia artificial engloba el \u201caprendizaje autom\u00e1tico, razonamiento, programaci\u00f3n y rob\u00f3tica<\/em>\u201d29<\/sup>, entendiendo que ese aprendizaje autom\u00e1tico incluye tanto el aprendizaje profundo30<\/sup> como el de refuerzo y junto a ello el denominado \u201crazonamiento autom\u00e1tico, incluidas la planificaci\u00f3n, la programaci\u00f3n, la representaci\u00f3n del conocimiento y el razonamiento, la b\u00fasqueda y la optimizaci\u00f3n<\/em>\u201d31<\/sup> y todos estos procesos han de estas presididos por los principios de \u201cproporcionalidad e inocuidad, seguridad y protecci\u00f3n, equidad y no discriminaci\u00f3n, sostenibilidad, derecho a la intimidad y protecci\u00f3n de datos, supervisi\u00f3n y decisi\u00f3n humanas, transparencia y explicabilidad, sensibilizaci\u00f3n y educaci\u00f3n, responsabilidad y rendici\u00f3n de cuentas, gobernanza y colaboraci\u00f3n adaptativas y de m\u00faltiples partes interesadas<\/em>\u201d32<\/sup>.<\/p>\n Si descendemos a la realidad cotidiana, seamos m\u00e1s o menos conscientes de ello, son m\u00faltiples los ejemplos cotidianos del uso de la inteligencia artificial33<\/sup>, consider\u00e1ndose inteligencia artificial los programas inform\u00e1ticos34<\/sup> que empleamos, siendo la clave de esta, la adaptabilidad continua.<\/p>\n De esta manera, nutrida de datos, la inteligencia artificial podr\u00e1 \u201caprender y descubrir incluso relaciones sutiles<\/em>\u201d entre estos35<\/sup>.<\/p>\n Los usos y la virtualidad de los algoritmos en las diferentes dimensiones de la realidad humana36<\/sup> han procurado su atenci\u00f3n mundial, lo que a su vez ha propiciado el di\u00e1logo entre los diferentes pa\u00edses del globo para ahondar en su conocimiento, proyecci\u00f3n y posibilidades37<\/sup>.<\/p>\n La UE entiende que el empleo de los algoritmos lejos de resultar perjudicial en concreto para las relaciones laborales, puede entra\u00f1ar una serie de ventajas en absoluto desde\u00f1ables. Ventajas estas que comenzando en el acceso m\u00e1s igualitario al trabajo, pasan por una mejora cualitativa de la salud laboral y, por supuesto, de las condiciones laborales en general. A pesar de esas repercusiones positivas38<\/sup>, no desconoce los riesgos de diversa \u00edndole que existen39<\/sup> y la necesidad espec\u00edfica de garantizar el respeto a los derechos humanos.<\/p>\n En clave europea, nos encontramos -a\u00fan en fase de propuesta- con una norma que versa sobre la inteligencia artificial a nivel europeo, en la que se dedica especial atenci\u00f3n a su vertiente \u00e9tica. Se trata de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos de la Uni\u00f3n de fecha 21 de abril de 2021 y que, a partir de este momento, enunciaremos gen\u00e9ricamente con la expresi\u00f3n simplificada de Ley de Inteligencia Artificial.<\/p>\n Esta norma parece mostrarse especialmente preocupada por las posibilidades que entra\u00f1an los sistemas de inteligencia artificial, y dada la probabilidad de que determinados usos encierren un encubierto pero real ataque a valores connaturales al ser humano, procede a prohibir determinadas pr\u00e1cticas40<\/sup>.<\/p>\n Esa preocupaci\u00f3n, tambi\u00e9n le lleva a calificar a determinados sistemas como de alto riesgo y, tras las consideraciones que menciona en el art.641<\/sup>, realiza una enumeraci\u00f3n a trav\u00e9s del Anexo III de los concretos sistemas que quedan englobados bajo esta categorizaci\u00f3n42<\/sup>. Tras ellos, nos encontramos con las denominadas \u201cobligaciones de transparencia para determinados sistemas de IA<\/em>\u201d, b\u00e1sicamente, pueden inducir en confusi\u00f3n al usuario o desconocimiento sobre la informaci\u00f3n que se est\u00e1 extrayendo43<\/sup>.<\/p>\n Por \u00faltimo, cuando los sistemas no quedan englobados en ninguno de los apartados anteriores, se recoge una serie de normas de conducta aplicables a ellos44<\/sup>.<\/p>\n Examinados cada uno de los preceptos sobre esta clasificaci\u00f3n, la doctrina45<\/sup> pone de manifiesto que si nos centramos en el sistema de relaciones laborales la mayor parte de los usos en torno a los sistemas de inteligencia artificial son de riesgo alto46<\/sup>, sobre los que gravitan ciertas obligaciones que afectan a distintos intervinientes. Estos mandatos nos recuerdan a las normas que sobre seguridad y salud se plantean en el \u00e1mbito de la prevenci\u00f3n de riesgos laborales, siendo predicables tanto sobre los proveedores47<\/sup> como sobre los usuarios48<\/sup>.<\/p>\n Y, tras la lectura de esta Ley de Inteligencia Artificial, aparecen las cr\u00edticas. De un lado, por no haberse garantizado la presencia de los representantes de los trabajadores (dimensi\u00f3n colectiva en atenci\u00f3n al control de estos sistemas) y de otro por no haber contemplado una serie de medidas espec\u00edficas en el \u00e1mbito laboral49<\/sup>.<\/p>\n Otra de las preocupaciones presentes en el \u00e1mbito europeo es la oscuridad bajo la cual se nos presentan los sistemas algor\u00edtmicos. Atendiendo a esta inquietud, el Consejo de Europa ha adoptado cinco m\u00e1ximas que deben inspirar su utilizaci\u00f3n y que se encuentran contempladas en la Carta \u00e9tica europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno50<\/sup>. De esta forma, se destaca el principio de respeto de los derechos fundamentales, el de no discriminaci\u00f3n, el relativo a la calidad y seguridad, el de transparencia51<\/sup> y, por \u00faltimo, el atinente al control del usuario52<\/sup> .<\/p>\n El Consejo Econ\u00f3mico y Social Europeo tampoco es ajeno al avance imparable de la inteligencia artificial, mostr\u00e1ndose preocupado porque los nuevos sistemas no anulen la voluntad y porque se garantice que la decisi\u00f3n final recaiga en todo caso sobre el ser humano53<\/sup>.<\/p>\n Pero, y aunque en primera instancia quer\u00edamos recoger el esfuerzo llevado a cabo por entes internacionales -y particularmente entidades europeas- en torno a la digitalizaci\u00f3n, no podemos dejar de anotar la reflexi\u00f3n del profesor Goerlich, en torno a otro instrumento al que debemos hacer referencia: el Acuerdo Marco europeo sobre digitalizaci\u00f3n, alcanzado por los interlocutores sociales CES, Business Europe, SME United, y CEEP, as\u00ed como por EUROCADRES\/CEC)54<\/sup>. Partiendo de que \u201cla tecnolog\u00eda representa un desaf\u00edo y una amenaza para ambas partes contractuales<\/em>\u201d (espec\u00edficamente trabajador y empresario) no podemos olvidar c\u00f3mo el proceso de digitalizaci\u00f3n y el nivel de implantaci\u00f3n de esta no es homog\u00e9neo en todos los estados -ni siquiera en los europeos-. Esa idiosincrasia de las naciones tambi\u00e9n ha de ser tenida en cuenta a la hora de dise\u00f1ar un marco normativo55<\/sup> y enlaza con la idea anterior de que la futura Ley de Inteligencia Artificial no puede descender a detalles concretos, sino tan solo esbozar un marco com\u00fan.<\/p>\n Un aspecto a destacar que nos parece relevante (acaso de suma obviedad para el lector paciente): toda esta amalgama de normas pone de manifiesto c\u00f3mo el uso consciente, medido y respetuoso de la inteligencia artificial (y todo lo que detr\u00e1s de ella existe) es una preocupaci\u00f3n europea. Los sistemas empleados son universales y los problemas que se plantean tambi\u00e9n.<\/p>\n Aun cuando carecemos, por el momento, de una norma legal que de forma interna aborde el empleo de la inteligencia artificial56<\/sup>, s\u00ed que existe toda una amalgama de instrumentos normativos que pueden -deben- ser tenidos en cuenta cuando acudimos a los algoritmos para desplegar el haz de facultades empresariales que conforman el poder de direcci\u00f3n.<\/p>\n Situados concretamente en el Derecho del Trabajo, y teniendo en cuenta la afirmaci\u00f3n que lleva a Molina Navarrete a afirmar que \u201ctodo lo interesante que est\u00e1 pasando en las relaciones laborales est\u00e1 fuera del Estatuto de los Trabajadores<\/em>\u201d57<\/sup>, no podemos pasar por alto que la norma b\u00e1sica laboral no ha sido ajena a la irrupci\u00f3n de los algoritmos y de ello da cuenta el actual art.64.d)58<\/sup> que recoge el derecho de los representantes de los trabajadores a \u201cSer informado(s) por la empresa de los par\u00e1metros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboraci\u00f3n de perfiles<\/em>\u201d59<\/sup>.<\/p>\n De otro lado, no se observa una preocupaci\u00f3n generalizada por parte de la negociaci\u00f3n colectiva a abordar aspectos relacionados con la implantaci\u00f3n de los algoritmos, habiendo tan solo encontrado seis convenios colectivos en los que se aborda de forma m\u00e1s o menos tangencial esta cuesti\u00f3n60<\/sup>.<\/p>\n Merece la pena destacar, porque denota una preocupaci\u00f3n en torno a su abordaje y por la exhaustividad en su tratamiento, el tratamiento que se realiza por parte de la Agencia Espa\u00f1ola de Protecci\u00f3n de Datos sobre big data<\/em>, a trav\u00e9s de un c\u00f3digo de buenas pr\u00e1cticas que tampoco se olvida de los algoritmos con la atenci\u00f3n focalizada en el ser humano61<\/sup>.<\/p>\n Una \u00faltima reflexi\u00f3n a modo de cierre del presente ep\u00edgrafe. Si intentamos trascender por un momento y situarnos en el plano de la elucubraci\u00f3n te\u00f3rica para acercarnos a una conclusi\u00f3n que nos permita valorar en qu\u00e9 medida afectar\u00e1 al mundo del trabajo la automatizaci\u00f3n intensificada, se observa c\u00f3mo no es posible entablar un debate totalmente desprovisto de consideraciones \u00e9ticas o morales, que nos influir\u00e1n a adoptar conclusiones pesimistas62<\/sup> o, justamente las contrarias63<\/sup>. De cualquier forma, tambi\u00e9n se se\u00f1ala que todas las ocupaciones laborales no resultar\u00e1n afectadas en igual medida, existiendo determinadas profesiones m\u00e1s susceptibles que otras en las que los humanos podemos ser reemplazados con mayor facilidad64<\/sup>.<\/p>\n Dado que hasta la fecha carecemos de postulados legales directos que incidan en la proscripci\u00f3n del derecho a la no discriminaci\u00f3n cuando se emplean los algoritmos, se hace necesario rescatar la normativa que con car\u00e1cter general contempla el derecho a la no discriminaci\u00f3n para tratar de casar esta con el empleo de los distintos mecanismos algor\u00edtmicos, especialmente en las relaciones laborales.<\/p>\n Nada originales somos cuando destacamos, en lo que hace a nuestro arsenal normativo, al art.14 CE como plasmaci\u00f3n de la dignidad humana. Recordar tambi\u00e9n que esa proclamaci\u00f3n de igualdad se desprende del art.35 CE.<\/p>\n Otros textos que merecen ser tenidos en consideraci\u00f3n vienen dados por la Ley 62\/2003, de 30 de diciembre, de medidas fiscales, administrativas y del orden social65<\/sup> y la Ley Org\u00e1nica 3\/2007 para la igualdad efectiva de mujeres y hombres 66<\/sup> y referencias a los algoritmos, y la necesidad de que estos no sean discriminatorios, tambi\u00e9n nos las encontramos en textos como el Real Decreto 1069\/2021, de 4 de diciembre67<\/sup>.<\/p>\n En la dimensi\u00f3n legal, y apegados al terreno laboral, acudimos a los art\u00edculos 4.2.c) y, por supuesto, el art. 17.1, ambos del Estatuto de los Trabajadores; la propia Ley de Empleo68<\/sup> (aun con las acertadas cr\u00edticas por parte de la doctrina iuslaboralista) y la Ley de Infracci\u00f3n y Sanciones del Orden Social69<\/sup> que representa la reacci\u00f3n normativa a los comportamientos transgresores.<\/p>\n Por supuesto, la Uni\u00f3n Europea no ha permanecido ajena al problema que la desigualdad representa. Para lograr el objetivo de proscripci\u00f3n de la discriminaci\u00f3n, existen directivas que espec\u00edficamente promueven la igualdad racial (Directiva 2000\/43\/CE)70<\/sup>, la igualdad de trato en el empleo (Directiva 2000\/78\/CE), la de hombres y mujeres (2006\/54\/CE)71<\/sup>, igualdad de trato entre hombres y mujeres en el acceso a bienes y servicios (2004\/113\/CE), gravitando sobre la base de la distinci\u00f3n entre la forma de discriminaci\u00f3n directa o indirecta72<\/sup>.<\/p>\n Temprana, contundente y coherente en las distintas Directivas antes enunciadas se nos definen las dos formas de discriminaci\u00f3n: directa e indirecta. De esta manera, se apreciar\u00e1 discriminaci\u00f3n indirecta cuando una disposici\u00f3n, criterio o pr\u00e1ctica aparentemente neutros pueda ocasionar una desventaja particular a personas con una religi\u00f3n o convicci\u00f3n, discapacidad, edad, orientaci\u00f3n sexual, origen racial o \u00e9tnico concreto respecto de otras personas, sin que exista una justificaci\u00f3n objetiva, pues no hay una finalidad leg\u00edtima. Todo ello, a salvo de que los medios para la consecuci\u00f3n de esta finalidad sean adecuados y necesarios73<\/sup>, para lo cual resulta de utilidad comprobar si existen otros caminos viables que incidan en menor medida en la m\u00e1xima de la igualdad de trato.<\/p>\n Por el contrario, en la discriminaci\u00f3n directa una persona es tratada desfavorablemente en atenci\u00f3n a su sexo, g\u00e9nero, edad, raza, etnia, religi\u00f3n o creencia, salud, discapacidad u orientaci\u00f3n sexual.<\/p>\n La revoluci\u00f3n tecnol\u00f3gica, la importancia de big data<\/em>, de los algoritmos, de la inteligencia artificial tra\u00edda al mundo del trabajo74<\/sup> nos sorprende a los que venimos de otra \u00e9poca en la que las ideas antes referidas se pod\u00edan leer o ver en novelas y pel\u00edculas de ciencia ficci\u00f3n. No obstante, hagamos nuestra la pregunta de Molina Navarrete: realmente este nuevo mundo laboral \u00bfes tan diferente del anterior? Concretamente, \u00bfel empresario se mueve en la actualidad impulsado por otros intereses? Este autor compara estas nuevas t\u00e9cnicas y no puede m\u00e1s que concluir que el objetivo al que se dirigen estas no es m\u00e1s que lograr la rentabilidad de los recursos humanos, a trav\u00e9s -eso s\u00ed- de f\u00f3rmulas m\u00e1s depuradas, para seleccionar a los mejores candidatos, retener a los m\u00e1s cualificados talentos y procurar la salida de aquellos empleados que aportan menor valor a\u00f1adido75<\/sup>.<\/p>\n Ciertamente, nos encontramos ante un nuevo sistema de gesti\u00f3n de recursos humanos que probablemente nos impulse a hablar de un nuevo modelo de relaciones laborales que se ha visto, de otro lado, propulsado por la crisis sanitaria desencadena por la COVID-1976<\/sup> y que -aparte de las manifestaciones trascendentales que hemos tratado de indicar en el p\u00e1rrafo anterior- tambi\u00e9n tiene su proyecci\u00f3n en aspectos tales como la asignaci\u00f3n a puestos de trabajo77<\/sup>, planteando nuevos problemas que merecen reflexiones detenidas para tratar de alcanzar las mejores soluciones dentro de las alternativas posibles que es, de otro lado, lo que pretenden los propios algoritmos.<\/p>\n El problema no estriba en el uso de nuevas t\u00e9cnicas -en concreto de los algoritmos- para ser m\u00e1s eficientes en el plano de la gesti\u00f3n de los recursos humanos, sino en el riesgo que tenemos como humanos de pervertir estos sistemas algor\u00edtmicos, de tal forma que aparezcan los temidos sesgos o, por seguir en esta ocasi\u00f3n a nuestra RAE, \u201cerrores sistem\u00e1ticos en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras<\/em>\u201d. La aparici\u00f3n de estos sesgos, con el sentido antes indicado, se incrementa cuanto m\u00e1s sean los datos que maneja el algoritmo y las soluciones posibles tambi\u00e9n se multiplican en atenci\u00f3n a la cantidad de informaci\u00f3n que se suministra.<\/p>\n La aplicaci\u00f3n de los algoritmos a las relaciones laborales es una realidad y la contemplaci\u00f3n de estos debe realizarse -a nuestro juicio- teniendo en cuenta que hemos de desechar la idea de que las m\u00e1quinas no discriminan78<\/sup>.<\/p>\n T\u00e9ngase en cuenta que aunque nuestra mirada se proyecta hacia el mundo del trabajo, los algoritmos tejen su tela, expandi\u00e9ndose al sector p\u00fablico a fin de examinar conductas, predecir tambi\u00e9n perfiles que son m\u00e1s susceptibles de cometer fraudes y, tambi\u00e9n para ofrecer retratos robots susceptibles de ser los candidatos ideales para la obtenci\u00f3n de determinadas prestaciones p\u00fablicas79<\/sup>.<\/p>\n En cualquier caso, uno de los derechos que puede resultar seriamente comprometido es el de no discriminaci\u00f3n. Tan es as\u00ed que incluso se ha introducido una expresi\u00f3n espec\u00edfica cuando este derecho lo conculca un algoritmo: \u201cdiscriminaci\u00f3n algor\u00edtmica<\/em>\u201d80<\/sup> que es \u201cla que se produce cuando un individuo o colectivo recibe un tratamiento arbitrario como consecuencia de la toma de decisiones automatizadas<\/em>\u201d81<\/sup> y \u201cEllo ocurre porque el aire que respiran los algoritmos, los datos, puede encontrarse viciado por lo que las decisiones automatizadas resultantes se encontrar\u00e1n, igualmente, corrompidas<\/em>\u201d82<\/sup>.<\/p>\n T\u00e9ngase presente que aunque nos centremos en el \u00e1mbito laboral, la conculcaci\u00f3n al derecho a la igualdad puede producirse en diferentes \u00f3rdenes jur\u00eddicos83<\/sup>.<\/p>\n Una de las funciones que tradicionalmente se viene atribuyendo al departamento de recursos humanos es la relativa al reclutamiento 84<\/sup>, la selecci\u00f3n de aquel candidato que se acerca m\u00e1s y mejor a los ideales empresariales. Para llevar a cabo esta misi\u00f3n, en la actualidad, las personas encargadas de ese proceso tienen a su disposici\u00f3n multitud de informaci\u00f3n sobre los pretendientes a trabajador que, desde luego, trasciende a la que estos puedan verter en sus curr\u00edculos. Las mismas consideraciones se pueden exportar a las agencias de colocaci\u00f3n al realizar funciones de intermediaci\u00f3n laboral85<\/sup>.<\/p>\n As\u00ed, el personal encargado de seleccionar a un candidato puede completar la informaci\u00f3n que este le suministra acudiendo a otras fuentes que tambi\u00e9n sirven, directa o indirectamente86<\/sup>, para vender nuestra fuerza laboral y que no siempre se circunscriben a la dimensi\u00f3n netamente profesional pero que pueden resultar relevantes a la hora de escoger a un trabajador87<\/sup>.<\/p>\n En la medida en que la informaci\u00f3n se multiplica exponencialmente y no se halla condensada en un \u00fanico surtidor, el responsable de llevar a cabo el proceso de cobertura de la vacante se puede sentir abrumado, entre otras razones porque los datos sean inmanejables e imposibles de procesar por nuestro cerebro limitado.<\/p>\n La soluci\u00f3n, no obstante, es sencilla. Aprovechemos las ventajas que nos ofrecen los algoritmos para ordenar la informaci\u00f3n, procesarla, desechar aquella que no es interesante a los fines pretendidos y una vez obtenida la que es relevante, contrastarla obteniendo as\u00ed -por v\u00eda de comparaci\u00f3n- al mejor candidato posible de todos los que se han postulado -directa o indirectamente- a ese proceso de selecci\u00f3n.<\/p>\n De esta manera, si el humano define el perfil requerido para un puesto de trabajo (qu\u00e9 cualidades se precisan, qu\u00e9 tipo de aptitudes se requieren), los algoritmos har\u00e1n el resto. Esto es, podr\u00e1, en funci\u00f3n de los par\u00e1metros que le ofrezcamos, decidir cu\u00e1l es el trabajador id\u00f3neo88<\/sup>.<\/p>\n Presentada as\u00ed esta idea puede llegarse a la conclusi\u00f3n inicial de que el proceso de toma de decisiones a trav\u00e9s de algoritmos es el m\u00e1s adecuado. Contempla toda la informaci\u00f3n de todos los candidatos y objetivamente selecciona el \u201cmejor\u201d. No se corren riesgos de que las personas encargadas del proceso puedan verse influidas por prejuicios, ideas preconcebidas o sensaciones que, actuando a modo de intuiciones, desencadenen una decisi\u00f3n con tintes espurios. En definitiva, se cercena el riesgo de la discriminaci\u00f3n desde ya antes del inicio de la relaci\u00f3n laboral. Pero, \u00bfesta inicial aseveraci\u00f3n resiste un an\u00e1lisis m\u00e1s pausado?<\/p>\n \u00bfCarece de sesgos nuestra afirmaci\u00f3n?<\/p>\n Lamentablemente la conclusi\u00f3n es err\u00f3nea89<\/sup> y para fundamentar esta manifestaci\u00f3n -sin perjuicio de que podamos aspirar a que en el futuro los algoritmos nos puedan ofrecer una respuesta ecu\u00e1nime a los problemas que se nos planteen- acudimos nuevamente a nuestra doctrina m\u00e1s especializada que ha puesto de relieve que determinadas plataformas que han hecho descansar sus procesos selectivos en los algoritmos, a la postre, excluyen a determinadas personas de la posibilidad de acceder a la oferta de empleo90<\/sup> en atenci\u00f3n a datos que en s\u00ed mismos no son censurables pero que tienen -una vez se analizan- un impacto discriminatorio que no puede soslayarse ( v.gr., <\/em>las conclusiones que se pueden alcanzar en atenci\u00f3n al lugar en el que se encuentra la residencia del candidato91<\/sup> ). En ocasiones, el sistema algor\u00edtmico se presenta como defectuoso y, al no reconocer una concreta informaci\u00f3n, acaba por expulsar del mercado laboral a determinadas personas92<\/sup> .<\/p>\n No siempre es sencillo detectar el momento en que se produce la lesi\u00f3n al derecho a no ser discriminado. La selecci\u00f3n a trabajador no es instant\u00e1nea, sino que lo habitual es que tras hacerse p\u00fablica la vacante y los requisitos que a priori <\/em>el candidato ha de cumplir, se lleve a cabo -tras la recepci\u00f3n de las candidaturas- la criba entre estas y posteriormente la entrevista de selecci\u00f3n de los finalistas, sin descartarse que previamente se hayan materializado otras t\u00e9cnicas, incluso grupales que sirven a modo de preselecci\u00f3n. Ninguna de estas fases est\u00e1 exenta de valoraciones personales por parte de los reclutadores y, por lo tanto, en ninguna de ellas se puede descartar que determinados pretendientes hayan sido expulsados del proceso por motivos discriminatorios93<\/sup>. Lamentablemente esta situaci\u00f3n se complica m\u00e1s porque este estadio precontractual no ha sido contemplado expresamente por la normativa, ni por la negociaci\u00f3n colectiva, existe escasa intervenci\u00f3n de Inspecci\u00f3n de Trabajo y no hay pronunciamientos judiciales dictados en esta fase94<\/sup>.<\/p>\n Todas estas dificultades se tornan mayores cuando nos hallamos ante procesos para cubrir vacantes en las empresas privadas95<\/sup>.<\/p>\n Pero, centremos, a partir de este momento, nuestra atenci\u00f3n en los procesos de selecci\u00f3n que llevan a cabo las empresas auxili\u00e1ndose de los algoritmos y amparadas por el principio de libertad de empresa. Desde este momento, esto es cuando la entidad acude a sistemas algor\u00edtmicos para afrontar los procesos de selecci\u00f3n96<\/sup>, se encuentra con una nueva obligaci\u00f3n que es la que se se\u00f1ala en el joven art.64.4.d) del Estatuto de los Trabajadores y, as\u00ed, en atenci\u00f3n a lo que en \u00e9l se dispone, se establece una obligaci\u00f3n de informaci\u00f3n a los representantes de los trabajadores.<\/p>\n Una vez se alcanza la decisi\u00f3n de acudir a los sistemas antes indicados para la b\u00fasqueda de candidatos, se abre -siguiendo a Serrano Falc\u00f3n97<\/sup>– la segunda de las fases denominada \u201cb\u00fasqueda de candidatos<\/em>\u201d y, en ese momento, esa b\u00fasqueda se podr\u00e1 realizar a trav\u00e9s de f\u00f3rmulas variopintas que van desde la propia p\u00e1gina web de la entidad, hasta acudir a otros portales de empleo o redes sociales y por supuesto al Servicio P\u00fablico de Empleo98<\/sup>, sin descartar la acci\u00f3n pull <\/em>que permite que sea la propia empresa la que capte posibles candidatos.<\/p>\n Ya desde ese instante ser\u00eda posible que aparecieran los sesgos discriminatorios -desde la concepci\u00f3n y configuraci\u00f3n de las ofertas de empleo99<\/sup>– pues \u201cLa tecnolog\u00eda parece capaz de inferir ciertas caracter\u00edsticas personales basadas en otros datos<\/em>\u201d100<\/sup> y aunque esto parece m\u00e1s sofisticado, lo cierto es que la aparici\u00f3n de los sesgos puede proceder de la propia concepci\u00f3n del algoritmo, por cuanto que este se construya a base de par\u00e1metros que ya, en s\u00ed mismos considerados, son discriminatorios en la medida en que repliquen modelos anteriores que est\u00e1n viciados de este mismo problema101<\/sup>.<\/p>\n Tanto una como otra f\u00f3rmula de aparici\u00f3n del sesgo es facilitada por programas o herramientas que se pueden emplear para rentabilizar los recursos cuando se pone en marcha un proceso de selecci\u00f3n102<\/sup> y que, incluso, pueden llegar a analizar las emociones de los candidatos a trav\u00e9s de sus expresiones faciales103<\/sup>, as\u00ed como las \u201ccaracter\u00edsticas f\u00edsicas y psicol\u00f3gicas tales como el origen \u00e9tnico, emociones y bienestar<\/em>\u201d104<\/sup>; de otro lado, el candidato corre el riesgo de quedar fuera de los procesos por cuestiones que s\u00ed podr\u00eda salvar la presencia humana, tales como el tono de voz105<\/sup> o incluso no emplear la palabra exacta que est\u00e1 buscando ese sistema algor\u00edtmico.<\/p>\n Y, en toda esta suerte algor\u00edtmica, nos encontramos con otros obst\u00e1culos que son insalvables. Detectados los sesgos -y, como se puede intuir esta detecci\u00f3n no es ni mucho menos obvia- no siempre es posible su correcci\u00f3n humana106<\/sup>.<\/p>\n Si tratamos de descender algo m\u00e1s, Eguiluz Casta\u00f1eira, J107<\/sup> recogiendo los trabajos expuestos por Barocas y Selbst, junto con Zuiderveen, se\u00f1ala que la discriminaci\u00f3n con relaci\u00f3n a las \u201cdecisiones automatizadas<\/em>\u201d pueden provenir de \u201ca) la <\/em>\u00abvariable objetivo\u00bb y la definici\u00f3n de las \u00abetiquetas de clase\u00bb\u201d. <\/em>En esta forma, la discriminaci\u00f3n proviene de no tener m\u00e1s que en consideraci\u00f3n los valores que la empresa entienden capacita a un candidato frente a otro, sin tener en consideraci\u00f3n otros factores que pesan sobre determinados colectivos y que les dificultan la consecuci\u00f3n de esas \u201cetiquetas\u201d que dise\u00f1a la empresa108<\/sup>. \u201cb) datos de entrenamiento: ejemplos de etiquetado<\/em>\u201d, refiri\u00e9ndose al aprendizaje del sistema algor\u00edtmico que si se basa en datos que ya de por s\u00ed presentan sesgos discriminatorios, los resultados obtenidos repetir\u00e1n ese patr\u00f3n discriminatorio, para lo cual es bastante ilustrativo el ejemplo que indica sobre el proceso de selecci\u00f3n llevado a cabo por Amazon y c\u00f3mo este incurr\u00eda en discriminaci\u00f3n por raz\u00f3n de g\u00e9nero, toda vez que el sistema, valorando los datos que ten\u00eda introducidos en los que el personal contratado para puestos t\u00e9cnicos era masculino, entend\u00eda que el perfil \u00f3ptimo para cubrir esas vacantes eran candidatos varones. \u201cc) recopilaci\u00f3n de datos de entrenamiento<\/em>\u201d. Se hace alusi\u00f3n a la procedencia de datos. Si existe menos informaci\u00f3n sobre un determinado colectivo (fuera cual fuere este) la informaci\u00f3n que obtenemos del manejo de datos tambi\u00e9n est\u00e1 sesgada y puede excluir a personas que est\u00e1n en menor medida representadas. \u201cd) selecci\u00f3n de caracter\u00edsticas<\/em>\u201d. Toda vez que las caracter\u00edsticas definitorias de una persona -y de un trabajador- pueden ser heterog\u00e9neas y dif\u00edciles de cubrir en su totalidad, habr\u00e1 que elegir entre todas las cualidades y aptitudes (haciendo referencia ahora \u00fanicamente al plano laboral y, acaso, en concreto al momento de la selecci\u00f3n de los candidatos) cu\u00e1les son las m\u00e1s y mejor valoradas. El ejemplo que en esta ocasi\u00f3n se nos dispensa nos habla de discriminaci\u00f3n de los colectivos m\u00e1s vulnerables que no pueden permitirse estudios impartidos por entidades privadas, por lo que si el criterio de selecci\u00f3n fuera este (el de haber cursado la formaci\u00f3n en una instituci\u00f3n que no sea p\u00fablica), tambi\u00e9n se provocar\u00eda discriminaci\u00f3n; \u201cy e) variables de aproximaci\u00f3n (Proxy<\/em>)\u201d o c\u00f3mo un dato aparentemente neutral se convierte en discriminatorio por derivaci\u00f3n. El dato por s\u00ed mismo no es discriminatorio, pero las consecuencias que se anudan del mismo s\u00ed pueden resultarlo. Siendo estas las formas de discriminaci\u00f3n involuntaria, tambi\u00e9n hace referencia a la posibilidad de que la discriminaci\u00f3n sea consciente y querida.<\/p>\n El problema que aqu\u00ed se trata de plantear (que los sistemas algor\u00edtmicos son susceptibles de llevar a cabo decisiones discriminatorias) no es un peligro local ni del que sea ajena la Administraci\u00f3n.<\/p>\n As\u00ed, descendiendo a supuestos reales, vemos c\u00f3mo la decisi\u00f3n del algoritmo del servicio p\u00fablico de empleo austr\u00edaco fue tildada de discriminatoria. All\u00ed se hab\u00eda utilizado un algoritmo que clasificaba a la poblaci\u00f3n desempleada en atenci\u00f3n a la probabilidad que ten\u00eda de encontrar un trabajo. El objetivo de este sistema (denominado PAMAS) era loable, por cuanto aspiraba a realizar un reparto eficiente de los recursos. Los problemas, no obstante, surgieron cuando, en esa clasificaci\u00f3n de las personas, se descontaban puntos a las personas que se hallaban en situaciones concretas (por ejemplo, eran mujeres o extranjeros no nacionales de pa\u00edses de la Uni\u00f3n Europea), lo que supon\u00eda la catalogaci\u00f3n de la persona como sujeto con baja probabilidad de obtener un empleo109<\/sup> y la consecuencia de tal encasillamiento era que los servicios p\u00fablicos destinaran sus esfuerzos a otro grupo de personas, a las que se les catalogaba con una probabilidad media para encontrar una oportunidad laboral.<\/p>\n Quiz\u00e1s la experiencia anterior pueda ser de utilidad para un modelo como el nuestro que pretende crear (Estrategia Espa\u00f1a 2050110<\/sup>) una plataforma para la b\u00fasqueda de empleo nacional (con vistas a una proyecci\u00f3n futura de expandirse a los empleos de la UE) en donde confluyan demandantes y oferentes de colocaci\u00f3n, sin distingos en funci\u00f3n de su naturaleza p\u00fablica o privada.<\/p>\n Con las reflexiones anteriores no pretendemos postular a favor de cercenar el derecho -tambi\u00e9n constitucionalmente consagrado- de libertad de empresa, sino que acaso se ha de meditar sobre la conveniencia, puesta de manifiesto por nuestra doctrina cient\u00edfica, de introducir mecanismos e instrumentos que velen por el cumplimiento de los derechos que toda persona tiene a ser tratada en condiciones de igualdad en un proceso de selecci\u00f3n111<\/sup>.<\/p>\n Desde nuestro punto de vista, los peligros son -desde el punto de vista cualitativo- los mismos con y sin algoritmos. Esto es, en los procesos de selecci\u00f3n que pudi\u00e9ramos calificar como tradicionales tambi\u00e9n se descubren datos personales que informan sobre caracter\u00edsticas ajenas a la dimensi\u00f3n laboral y que tambi\u00e9n son susceptibles de ocasionar un trato discriminatorio por parte del humano-seleccionador. Los curr\u00edculos a la antigua usanza no se limitan a ofrecer datos netamente profesionales; las entrevistas a los candidatos no se ci\u00f1en \u00fanicamente a esta dimensi\u00f3n o esfera no personal.<\/p>\n De hecho, los algoritmos funcionan a base de datos previos. Si los que se introducen a los fines de elegir al candidato m\u00e1s apto de todos cuantos se presenten se hacen en atenci\u00f3n a una experiencia previa y esta era la que ten\u00edamos antes de que se extendieran los modelos automatizados, por lo que los datos incluidos pertenecen a esa era m\u00e1s anal\u00f3gica, y son estos los que son susceptibles de ocasionar lesiones a los derechos, y particularmente al derecho a no ser discriminado.<\/p>\n El problema que, a nuestros ojos, aqu\u00ed se plantea con los nuevos medios son los en absoluto menores relativos al reconocimiento de la discriminaci\u00f3n. La dificultad que entra\u00f1a (por su opacidad) conocer cu\u00e1ndo se ha producido una decisi\u00f3n sesgada112<\/sup>.<\/p>\n As\u00ed pues, m\u00e1s all\u00e1 de que no exista un derecho digital a ser tratado en condiciones de igualdad a la hora de acceder al empleo, el problema estriba -a nuestro juicio- que carecemos de un cuerpo normativo que con independencia de cu\u00e1l sea el medio empleado para seleccionar a candidatos, garantice el derecho de toda persona a ser tratado en condiciones de igualdad a la hora de acceder al empleo. Por supuesto, no podemos desconocer las potencialidades de las \u201cm\u00e1quinas\u201d y c\u00f3mo estas son capaces hasta, incluso, de interpretar nuestras emociones, siendo estos datos especialmente sensibles o si se quiere -para emplear la dicci\u00f3n de la Ley de Inteligencia Artificial (Propuesta de Reglamento)- \u201csistemas de IA de alto riesgo<\/em>\u201d y que merecen por tanto el cuidado m\u00e1s sutil de todos, pues su tratamiento ya no es que afecte al derecho a la no discriminaci\u00f3n sino a la propia dignidad humana.<\/p>\n Otra de las afectaciones apreciadas por nuestra doctrina iuslaboralista en atenci\u00f3n a lo que supone la irrupci\u00f3n de los algoritmos es sobre el derecho a mentir. Ciertamente es esta una opci\u00f3n que puede ejercitar libremente un candidato a un puesto de trabajo, cuando en el proceso de selecci\u00f3n los reclutadores interfieren, a trav\u00e9s de sus preguntas, en la esfera m\u00e1s \u00edntima y privada del sujeto. Estas posibilidades que tiene el pretendiente se minimizan en los supuestos en que los procesos de selecci\u00f3n se realicen a trav\u00e9s de algoritmos, pues estos son capaces de detectar la \u201cmentira\u201d, combinando distintos datos que, aun cuando aut\u00f3nomos, dan como resultado afirmaciones o negaciones sobre \u00e1mbitos particulares del individuo. En estos casos, las contestaciones a las preguntas directas que tratan de indagar en la esfera privada carecen de relevancia y se obtiene la respuesta real de la combinaci\u00f3n de otras contestaciones que pueden incluso presentarse como as\u00e9pticas, si se consideran de forma independiente pero que, en su conjunto, ofrecen la idea que sobre el individuo se quiere obtener.<\/p>\n Y siendo ello as\u00ed, y aun cuando los algoritmos se empleen en la fase m\u00e1s inicial del proceso de selecci\u00f3n para descartar el torrente de candidatos y quedarse \u00fanicamente con unos preelegidos, el fantasma de la discriminaci\u00f3n sobrevuela sobre cada uno de los descartes, sin que se consiga que la intervenci\u00f3n humana al final del proceso para decidir qui\u00e9n es el afortunado trabajador pueda subsanar el da\u00f1o anteriormente producido. Aqu\u00ed, la garant\u00eda de intervenci\u00f3n humana no consigue enmendar los da\u00f1os anteriores que el dise\u00f1ador ha propiciado.<\/p>\n En definitiva, y a modo de cierre, especial cuidado con los sistemas de inteligencia artificial declarados de alto riesgo (Anexo III del Reglamento europeo de inteligencia artificial) no solo estrictamente laborales sino tambi\u00e9n aquellos otros que, teniendo en consideraci\u00f3n al ser humano en su faceta m\u00e1s personal, pueden tambi\u00e9n proyectarse en el campo de las relaciones laborales113<\/sup>.<\/p>\n Ciertamente, el empleo de los algoritmos como instrumento para facilitar el desenvolvimiento de las relaciones laborales surgi\u00f3 focalizado en la fase previa a la contrataci\u00f3n laboral, no obstante, en la actualidad veremos que se han expandido a todos los momentos del devenir contractual 114<\/sup>. As\u00ed, los algoritmos se muestran como herramientas valiosas para vigilar y controlar al trabajador115<\/sup>o evaluar el rendimiento (con las consecuencias que ello entra\u00f1a) y, por supuesto, para desplegar las facultades disciplinarias empresariales.<\/p>\n Pero tambi\u00e9n cada una de estas aplicaciones puede comprometer el derecho a no ser discriminado. Descendamos, por ejemplo, a la vigilancia y control del trabajador116<\/sup>, con mayor o menor intensidad -en relaci\u00f3n a la funci\u00f3n concreta asumida por el empleado- se puede reconocer cu\u00e1nto tiempo tarda en desempe\u00f1ar una determinada tarea la persona y comparar este con el lapso que objetivamente se precisa para concluirla.<\/p>\n El problema surge cuando a pesar de que se pueda delimitar objetivamente el tiempo a emplear, la persona al llevar a cabo una actividad concreta se ve influida por otras circunstancias que tienen incidencia directa en la medici\u00f3n del tiempo. El algoritmo desconoce cu\u00e1les son los l\u00edmites de nuestras capacidades -en funci\u00f3n de factores como puedan ser los relativos a la salud o condici\u00f3n f\u00edsica, salud o incluso experiencia previa- por lo que las decisiones alcanzadas por no haber llegado al rendimiento m\u00e1ximo, sin tener en consideraci\u00f3n esas otras circunstancias que nos humanizan, bien pueden resultar discriminatorias. A\u00fan m\u00e1s, si el algoritmo es capaz de comparar los rendimientos entre diferentes trabajadores que ejercen la misma tarea (aun cuando no sea el mismo puesto de trabajo) tambi\u00e9n se podr\u00e1n provocar situaciones discriminatorias. La homogeneidad en el tratamiento de los datos, desconociendo las circunstancias personales y particulares de cada trabajador no le hace precisamente un favor al principio de igualdad. Por \u00faltimo, la persona afectada por una decisi\u00f3n que se ha alcanzado por una \u201cm\u00e1quina\u201d se presenta como neutra, carente de subjetividad, lo que hace despertar en el individuo al que le afecta un sentimiento de culpabilidad y aceptaci\u00f3n.<\/p>\n Otro aspecto -en absoluto menor- viene constituido por el control de la jornada117<\/sup>. El registro de jornada a trav\u00e9s de las posibilidades que nos dispensan los sistemas de control remoto tambi\u00e9n puede afectar al presente derecho118<\/sup>.<\/p>\n Una muestra la encontramos en la Sentencia de la Audiencia Nacional de 10 de mayo de 2021 (AS 2021\/1257) en la que se observa que la falta de tratamiento espec\u00edfico de las pausas fisiol\u00f3gicas provoca discriminaci\u00f3n indirecta por raz\u00f3n de la edad119<\/sup>.<\/p>\n Pero es que, si el algoritmo adem\u00e1s no est\u00e1 dise\u00f1ado para diferenciar, por ejemplo, entre las causas que han motivado las ausencias del trabajador y se dispensa un tratamiento uniforme a las mismas, tambi\u00e9n aqu\u00ed de forma flagrante se comete discriminaci\u00f3n. Esta es -aun simplificadamente expuesta por nuestra parte- la situaci\u00f3n que el 31 de diciembre de 2020 del Tribunale Ordinario di Bologna tuvo que resolver, apreciando finalmente la discriminaci\u00f3n denunciada120<\/sup>.<\/p>\n Por supuesto, extremadamente sensibles hemos de ser en el an\u00e1lisis de los diferentes enseres que los trabajadores portan y que sirven para controlar tanto su salud como la propia actividad laboral121<\/sup>.<\/p>\n Otro de los aspectos susceptibles de ser invadidos por los algoritmos -como antes anunci\u00e1bamos- es el relativo a la evaluaci\u00f3n del desempe\u00f1o. La intensificaci\u00f3n en el uso de la tecnolog\u00eda consigue que, a la postre, el trabajador se encuentre m\u00e1s controlado122<\/sup> y, por ende, que se incremente la intensidad del elemento de dependencia o subordinaci\u00f3n jur\u00eddica. Esta circunstancia entra\u00f1a que finalmente si el rendimiento del trabajador -calculado objetivamente y sin tener en consideraci\u00f3n otros factores que podr\u00edan explicar la actitud del empleado- ha disminuido por debajo de lo que se consideran como topes insalvables para la m\u00e1quina, la decisi\u00f3n del empleador sobre la extinci\u00f3n del trabajador afectado se hace realidad123<\/sup>.<\/p>\n Pero sin llegar a los extremos de cercenar el v\u00ednculo, lo cierto es que los algoritmos tambi\u00e9n pueden resultar \u00fatiles para la determinaci\u00f3n del salario, por lo que deberemos ser especialmente escrupulosos con el respeto de los derechos y, espec\u00edficamente, con la m\u00e1xima de la igualdad de remuneraci\u00f3n por trabajo de igual valor1.\u00a0 INTRODUCCI\u00d3N<\/h4>\n
2.\u00a0 UNA APROXIMACI\u00d3N CONCEPTUAL<\/h4>\n
2.1 Concepto de big data<\/em><\/strong><\/h4>\n
2.2.\u00a0 Concepto de algoritmo<\/h4>\n
2.3.\u00a0 Concepto de inteligencia artificial<\/h4>\n
3.\u00a0 EUROPA ANTE LOS ALGORITMOS<\/h4>\n
4.\u00a0 EL DERECHO DEL TRABAJO ESPA\u00d1OL ANTE LOS ALGORITMOS<\/h4>\n
5. UNA SUCINTA REFERENCIA A LA NORMATIVA ANTIDISCRIMINATORIA<\/h4>\n
6.\u00a0 ALGORITMOS, BIG DATA <\/em>E INTELIGENCIA ARTIFICIAL ANTE LAS RELACIONES LABORALES<\/h4>\n
7.\u00a0 PROCESOS DE SELECCI\u00d3N, ALGORITMOS Y DISCRIMINACI\u00d3N<\/h4>\n
8.\u00a0 RELACI\u00d3N LABORAL, ALGORITMOS Y DISCRIMINACI\u00d3N<\/h4>\n