La algoritmia o Inteligencia Artificial (IA) "va a tener un profundo y duradero impacto en las relaciones laborales. No solo por el rol que pueda desarrollar (muchos expertos lo dividen en dos grandes categorías: el de mando/jefe o el de colaborador ), sino porque estará presente en todos los apartados y secuencias que comprenden una relación de trabajo", advierte el reciente informe de Recomendaciones para la Negociación Colectiva de la IA del Servicio de Estudios de UGT.

El trabajo, dirigido a los delegados de personal, incluye pautas, contexto y apuntes normativos para abordar "el derecho a la información sobre los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, acceso y mantenimiento del empleo". Su inclusión en los convenios la pactaron sindicatos y patronales en el último ANC (Acuerdo de Negociación Colectiva), en una aportación pionera en Europa.

¿Tanta es la penetración de la IA o programación algorítmica como para que haya que tenerla en cuenta en los convenios? La percepción varía por sectores y por empresas, aunque los datos que ofrece el informe y los del INE (Instituto Nacional de Estadística) apuntan más a una generalización de su uso que a una presencia anecdótica o residual.

La agencia comunitaria Eurofound (Fundación Europea para la Mejora de las Condiciones de Vida y de Trabajo) estima que "uno de cada tres trabajadores en España están sujetos a al menos una forma de gestión algorítmica". Un escenario que incluye la asignación de los turnos "a un 19% de las personas trabajadoras" y la de las tareas a otro 16%, lo que equivale a cuatro y a 3,3 millones de ocupados y, en la estimación global, a siete.

El grado de implicación de los algoritmos aumenta

Paralelamente, destaca el informe, a uno de cada nueve trabajadores (11%) los algoritmos les "miden el desempeño, creando rankings". A partir de estos, esas aplicaciones pueden en la mayoría de los casos (10%) "cancelar la carga de trabajo o, directamente, cancelar su trabajo".

El grado de implantación de esas aplicaciones en el mundo laboral aumenta conforme crece el tamaño de la compañía, ya que según el INE alcanza al 5,75% de las microempresas, al 6,6% de las pequeñas empresas, al 19,79% de las medianas y al 40,64% de las grandes.

Estos dos últimos grupos concentran, según los datos del Ministerio de Trabajo, prácticamente el 60% del empleo asalariado, lo que apunta en la dirección en la que lo hace Eurofounds.

Los registros del INE apuntan a la organización de los procesos de producción y el análisis de datos como los ámbitos de mayor penetración de la algoritmia en la empresa española, con niveles entorno al 30% en adelante entre las compañías que los aplican. Mientras, en los procesos relacionados con el marketing y con la gestión económica se queda en el escaño anterior, entre el 20% y el 25%.

Por sectores, se aplica en una de cada tres empresas de información y comunicaciones y de nuevas tecnologías. Supera el 10% en ramos como la banca, la hostelería, la energía y el agua y no anda lejos de esa cota en el sector inmobiliario.

Villas: "Todas las decisiones deben ser explicables"

"Nos está sobrepasando la velocidad con la que se están implantando modelos algorítmicos y de robotización" en el ámbito laboral, señala Patricia Ruiz, secretaria confederal de UGT. Insiste en la necesidad de regular en los convenios este flanco de las relaciones laborales.

"Hoy la IA puede seleccionar y contratar, organizar nuestro flujo de trabajo, decidir si promocionamos, calcular nuestro desempeño (y la retribución aneja), vigila y controla qué hacemos mientras estamos en nuestro puesto" y hasta "puede aplicar el régimen disciplinario o incluso resolver la extinción de nuestro contrato", apunta el informe.

Además, sus autores concluyen que "se trata de decisiones sobre las que no existe ni control ni transparencia, que amenazan derechos fundamentales consolidados que datan de décadas y a los que podemos renunciar en nombre de la innovación y de una inexistente infalibilidad".

¿Entonces, en qué consiste la IA? "Lo que la diferencia de otras tecnologías es que aprende de los datos y es capaz de tomar decisiones por nosotros. Ahora bien, ¿cuán buenas pueden ser esas decisiones? Dependerá de lo buenos que sean los datos y de las variables para interpretarlos", explica Mónica Villas, experta en tecnología y autora, junto con Javier Camacho, de Manual de ética aplicada en inteligencia artificial.

Se trata de uno de los primeros trabajos sobre la algoritmia con esa perspectiva editados en Europa, que propone cuatro ejes fundamentales: responsabilidad, privacidad, equidad y explicabilidad.

Las lagunas legales, las dudas sobre la privacidad y la protección de los datos que recogen y tratan esas aplicaciones y los condicionantes éticos son, tras los costes y la inviabilidad material de su uso, los principales motivos por los que las empresas que llegan a planteárselo acaban descartando la utilización de la IA en sus actividades.

Eso ocurre ante la existencia de algunos antecedentes de sesgos discriminatorios y erróneos en la aplicación de la IA. Caso de la selección de personal de Amazon que primaba la contratación de hombres frente a la de mujeres, la de Apple que penalizaba a los mayores de 40 años o los 150 despidos simultáneos de la empresa rusa de videojuegos Xsolla.

"Al final tiene que haber una persona que supervise las decisiones, tiene que haber un factor humano o HIL" (Human In the Loop, humano en el bucle), señala Villas. Recuerda que "el algoritmo está vivo, le entran datos nuevos todos los días", y eso puede dar lugar a la aparición de sesgos en función de los datos que se tratan y de las variables que se le piden introducir al científico de datos para diseñar el tratamiento.

"La persona que diseña el algoritmo puede introducir un sesgo, porque los sesgos están en la propia sociedad, y es imposible revisar todas las decisiones todos los días", anota la experta. No obstante, recomienda "revisar con frecuencia la aplicación. Eso es importante, porque a veces es muy difícil detectar de dónde viene el sesgo, a qué se debe".

En cualquier caso, resulta más improbable que probable que un trabajador o un sindicalista medios puedan llegar a comprender el funcionamiento interno de un algoritmo, algo que en la práctica constituye uno de los principales focos de desconfianza hacia la aplicación de este tipo de programaciones en el ámbito laboral.

Ahí entra la explicabilidad, uno de los cuatro ejes básicos que propone Villas en su manual sobre el enfoque ético de la IA. Este consiste en que "las decisiones deben ser explicables. Es fundamental entender, saber por qué se toma cada decisión. Y debe existir la posibilidad de explicar a qué responden".

Otro de los puntos de preocupación sobre la extensión de la IA en el ámbito sindical se centra en la modificación de los algoritmos cuando ya se encuentran en aplicación, a la que también debería ser extensible esa explicabilidad y sobre cuya responsabilidad da alguna pista el INE: casi el 60% de las empresas que utilizan algoritmia dispone de personal para cambiarlos mientras algo menos del 40% emplea programas cerrados.

Otra cosa es el nivel y el contenido de esas adaptaciones, ya que, según indica el gigante informático IBM en su Global AI Adoption Index 2022, "un 74% de las empresas que usan IA no reducen el sesgo no deseado", un 60% "no desarrollan políticas éticas de IA" y "hasta un 52% no salvaguardan la privacidad de los datos" que recogen y tratan sus aplicaciones algorítmicas.

La negociación colectiva comienza a incorporar la IA

En este escenario, los representantes de los trabajadores comienzan a acordar con las empresas incipientes formatos de regulación para la aplicación de la IA en sus procesos de producción.

Así, en El Norte de Castilla es preceptivo informar al comité de empresa antes de introducir cualquier proyecto de nuevas tecnologías "que pueda modificar las condiciones de trabajo de los distintos profesionales" y cuando esto ocurra, la dirección se compromete a "no despedir a ningún trabajador fijo ni a reducir unilateralmente su jornada" y a ofrecer al trabajador afectado "un curso de formación por el tiempo indispensable para su adaptación".

El convenio estatal de perfumería prevé que quienes ocupan puestos de trabajo cuyas condiciones puedan verse modificadas por la introducción de formatos de IA reciban "la formación necesaria para el desarrollo de sus funciones, bien directamente de la empresa o bien a través de planes de formación concertados".

Los acuerdos de negociación colectiva de la banca y de las cajas rurales obligan a las empresas a explicar a los representantes de la plantilla "los datos que nutren los algoritmos, la lógica de funcionamiento y la evaluación de los resultados" cuando tomen "decisiones en materia de recursos humanos y relaciones laborales" basadas "exclusivamente en modelos digitales sin intervención humana".

Por último, el convenio de Alimentación de A Coruña contempla facilitar periódicamente información a los delegados de personal acerca de "los cambios organizativos o productivos derivados de la digitalización o la innovación aplicada a sus procesos". También de "la afectación a los cuadros de personal" en "contrataciones y despidos por causas tecnológica", organización del trabajo, formación continua, prevención de riesgos, igualdad y subcontratación.