La Inteligencia Artificial se hace la tonta

Esta semana leí una oferta de trabajo en LinkedIn como tutor de Inteligencia Artificial (IA). La oferta pertenecía a una empresa llamada Toloka AI que endulzaba su propuesta indicando que “en lugar de pensar que la IA te reemplazará, aquí puedes ayudar a dar forma al futuro de la IA”. Entre sus clientes, según indica la propia oferta, se encuentran compañías como Samsung, AliExpress, Bestplace, Handl, JetBrains, Leroy Merlin, Naver Labs, Replika o Trivago. Ahondar en esta plataforma del denominado crowdsourcing no sólo revela una nueva forma de explotación, sino cómo la IA se hace la tonta.

Uno de los principales argumentos de venta de la IA y la automatización que habilita, ya sea en el ámbito empresarial como en el doméstico, es el ahorro de tiempo que proporciona, así como la eliminación de las tareas más tediosas y repetitivas. Sin embargo, para que esto sea posible, otro tipo de tareas mecánicas y reiterativas han de sucederse en el principio de la cadena de la IA.

Como ya he explicado en este espacio en muchas ocasiones, la precisión y efectividad de la IA depende de la calidad de las ingentes cantidades de datos con los que se ha entrenado el modelo de aprendizaje automático. La cantidad, calidad y diversidad de esos datos son fundamentales para evitar futuros sesgos –también depende la programación del propio algoritmo-. En ese proceso, el etiquetado previo de los datos y su posterior verificación es clave… y han de realizarlo personas.

La variedad de tareas es muy amplia, desde identificar simples objetos en fotografías como bicicletas o pasos de peatones, a analizar contenido de texto más complejo. En el primero de los casos, seguramente les habrá venido a la mente los típicos captchas que han de cumplimentar a veces para poder hacer uso de algunas páginas webs, identificando bocas de incendios, puentes… Pues sí, cada vez que han cumplimentado un captcha, han contribuido a entrenar un modelo de IA.

En el etiquetado y verificación de estos datos con los que se entrenan los modelos de IA es donde entran en juego compañías como Toloka AI, desarrollada por la empresa rusa Yandex, conocida por su motor de búsqueda. Los tolokers, como se conoce a sus empleados, entran en la categoría de microjobs (microtrabajos) en los que para poder ganar unos pocos dólares se han de invertir muchas horas categorizando contenido de la más diversa naturaleza; otras, en cambio, hay que subir fotografías o vídeos que demanda la aplicación, lo que puede entrar en conflicto con la legislación de protección de datos personales vigente. Cuanto más complejidad, mejor pagado está el trabajo, pero todo es micro aquí, es decir, un microjob que te oferta microtasks (microtareas) por las que te microremunera, con pagos que no suelen superar los 2 dólares a la hora. Un ejemplo real de Toloka AI es el pago de 0,30 dólares por subir a la plataforma cuatro selfies (autorretratos) y cuatro vídeos costos.

La consultora Grand View Research estima que el mercado global de recopilación y etiquetado de datos superará los 17.000 millones de dólares para 2030, creciendo a una tasa interanual de casi el 29%. Toloka AI es una de tantas plataformas, existen muchas otras como Appen, Clickworker, Teemwork.AI, OneForma… Este tipo de plataformas comenzaron a lucrarse en países de Asia como Pakistán, por ejemplo, donde el salario más habitual es ridículo y pagar 1 o 2 dólares a la hora supone una mejora sustancial. Algunos países africanos, como Kenia, también ha sido una buena cantera de trabajadores y trabajadoras.

En general, todos ellos países del Sur Global en vías de desarrollo o con niveles de vida bajos, pero desde hace tiempo estas empresas han comenzado a pescar también en país como España. Como en el Sur Global, el perfil del trabajador viene conformado por personas en riesgo de exclusión, pero también se suman jóvenes, por lo general, enganchados al móvil, que ven en la categorización de datos a través de una app (aplicación móvil) una manera fácil de hacerse con un dinero extra para sus gastos, tomándoselo casi como un juego, sin percatarse del nivel de explotación al que están siendo sometidos.

A finales del año pasado, la revista Wired publicó un artículo en el que alertaba sobre cómo menores trabajan para este tipo de compañías. Eludir los controles de edad es tan sencillo como de hecho ya hacen con las páginas web pornográficas y, en cuanto a los detalles para el pago, basta utilizar los de algún familiar o conocido mayor de edad. Tan sencillo como eso. Asimismo y más allá del nivel de explotación, otro de los riesgos de este tipo de plataformas es que, al no contar con una verificación precisa de la mayoría de edad, los menores pueden manejar textos, vídeos o imágenes violentas, sexualizadas o, incluso, de delitos espeluznantes.

Como se apunta ya en el titular de este artículo, la IA se hace la tonta, obviando esta cruda realidad. Según detallaba Wired en su artículo, compañías como Amazon, Microsoft Azure, Salesforce, Google, Nvidia, Boeing y Adobe contratan los servicios de este tipo de empresas. Mientras sus productos de IA se presentan como sofisticados desarrollos tecnológicos, con un tinte incluso futurista, la realidad que hay detrás es una cadena de suministro en la que los primeros eslabones lo conforma una suerte de picapedreros digitales, por lo general, explotados y víctimas de su propia situación de vulnerabilidad.