La IA satisface al racismo

Podría decirse que no hay semana en que los diferentes casos de uso que está teniendo la Inteligencia Artificial (IA) no generen una encendida polémica. Hay debates muy populares, como el recientemente producido con la fiebre de imágenes generadas al estilo Studio Ghibli, que no sólo violan derechos de autor, sino que consumen una cantidad extraordinaria de recursos naturales. Sin embargo, hay otros más ocultos y que, a la postre, más que ser un mal en sí mismos son reflejo de la mezquindad moral inserta en la sociedad. Este es el caso de TP (antes Teleperformance), proveedor de servicios digitales entre los que destacan sus call-centers. 

Sanas.AI es una pequeña start-up especializada en la traducción de acentos en tiempo real con ayuda de la IA. La sofisticación de este software es tal que es capaz de reconocer las palabras de quien habla y, en tiempo real, repetirlas con el acento adecuado pero conservando su voz original. No se trata, pues, de una solución de traducción, sino más bien de clonación de voz, situándose más en la órbita de otras start-ups como Tomato.AI, por ejemplo. Lo asombroso de esta solución es que la compañía se fundó en 2020, cuando la opinión pública era ajena a la vorágine de la IA.

Con sede en Palo Alto, Sanas.AI ha captado la atención de muchos inversores que valoran la calidad y potencial de su software, hasta el punto de que el pasado mes de febrero consiguió recaudar 65 millones de dólares en una ronda de financiación, superando ya con el total la barrera de los 100 millones.

Relacionado con este tema

Nuevo círculo azul en WhatsApp: qué es y para qué sirve la IA de Meta

Público

Originariamente, su software era un gran soporte para quienes han de expresarse en otro idioma pero no lo hacen con la claridad suficiente. De hecho, ya en una entrevista en 2021 para TechCrunch los fundadores de la compañía admitían que se inspiraron en un amigo que trabajaba en un call-center en Nicaragua atendiendo a clientes estadounidenses. Según contaban, a pesar de que su amigo hablaba inglés con fluidez, era víctima constante de insultos y faltas de respeto por parte de quienes decían no entender su acento.

Y aquí es, precisamente, donde entra en juego TP. Aunque tiene presencia en cerca de un centenar de países, presta servicios a 170 y la multinacional francesa es una de tantas que ha apostado por la deslocalización en busca de mano de obra barata para disparar sus márgenes de beneficio. De este modo, se dan situaciones como que las llamadas de clientes de Reino Unido (entre los que están el Servicio Nacional de Salud (NHS), Vodafone o eBay) son atendidas por alguien ubicado en India, donde tiene cerca de 90.000 empleados y empleadas.

Pues bien, TP se sirve del software de Sanas.AI para neutralizar ese acento indio. La compañía lo vende como una medida para aumentar la empatía entre dos personas al teléfono, pero es evidente que de fondo hay mucho más. Ya no es sólo que se persiga aumentar la productividad porque las conversaciones son más fluidas y se reduce el número de solicitudes por parte de los clientes de hablar con un supervisor, es que se normalizan conductas irrespetuosas, incluso, racistas, opacándolas.

Lo que nació como vocación para lograr que las personas se entiendan fácilmente, independientemente de su origen, ha terminado usándose para satisfacer a quienes no soportan la diversidad, ahorrándoles tener que escuchar un acento distinto al suyo.

Por otro lado y a pesar de que en el caso inglés la situación se replicaría de manera idéntica aunque el call-center se encontrara en suelo británico –los ingleses no acostumbran a trabajar en el sector servicios, como en parte sucede en España–, la utilización de Sanas.AI permite mantener a los agentes en India, donde las condiciones de vida y laborales dejan más margen de beneficio a la compañía.

Podrán presentarnos un argumentario cargado de buenas intenciones, como que gracias a este software impulsado por IA se brinda la oportunidad de trabajar a personas que, de otro modo, lo tendrían complicado. Sin embargo, el problema de raíz es ¿por qué lo tendrían complicado? Porque la sociedad está infectada de prejuicios, racismo y xenofobia; el uso de estas tecnologías en aplicaciones de este tipo no resuelve la problemática, más bien la encubre, la parchea.

Habrá quién afirme que alivia el día a día de los y las agentes de un call-center, evitándoles gritos, insultos y otro tipo de abusos por teléfono. A fin de cuentas, estos trabajadores y trabajadoras están ya de por sí sometidas a mucha presión. Y ahí, efectivamente, les tengo que da la razón. En el caso específico de TP, en 2019 un informe de UNI Global Union, una asociación internacional que agrupa a más de 900 sindicatos y representa a más de 20 millones de trabajadores en todo el mundo, destapó abusos laborales, precariedad, amenazas, violaciones de la intimidad, bajos salarios y malas prácticas en sus centros de Colombia que prestaban servicios a multinacionales españolas.

Un año después, en plena pandemia de Covid, el consorcio europeo de periodistas de investigación Investigate Europe, en colaboración con Reporters United, destapó las amenazas, miedo a la vigilancia, el hacinamiento y las inspecciones domiciliarias que se vivían en la filial de TP en Grecia. Entonces, también de la mano de UNI Global Union se destaparon prácticas en otros países como Filipinas, en donde incluso los trabajadores tenían que dormir en el call-center debido al toque de queda, en los pasillos o debajo de sus escritorios. Así las cosas, aquello de usar la IA para "mejorar la empatía" se atraganta.

TP no es una excepción. Las compañías que se dedican a ese negocio se frotan las manos con este tipo de soluciones, más aún en los tiempos que corren, en los que la propia IA ha permitido desarrollar chatbots que, en gran parte, les han arrebatado un pedazo del pastel. ¿Por qué renunciar a seguir deslocalizando puestos de trabajo a latitudes más baratas si la IA permite borrar de un plumazo la molesta diversidad que explotan?