Cathy O'Neil: "No hay ningún modelo mágico que resuelva los problemas que genera el capitalismo"

"No hay ningún modelo mágico que resuelva los problemas que genera el capitalismo". La matemática Cathy O’Neil (Cambridge, 1972) tampoco tiene puestas sus esperanzas en la inteligencia artificial: "No es la solución para todo y mucho menos para el capitalismo", dejó claro la experta en datos, quien este miércoles mantuvo un encuentro online con la también especialista en la materia Angela Shen-Hsieh durante el Foro Telos 2020 de la Fundación Telefónica.

Ambas conversaron sobre los monopolios, los modelos de negocio, las desigualdades y los efectos del uso de datos y algoritmos en la sociedad. "La privacidad es un lujo", sentenció O’Neil. "Primero debemos centrarnos en cubrir las necesidades básicas de las personas y después en la privacidad", respondió la matemática a la arquitecta experta en inteligencia artificial, quien le planteó si los datos anonimizados son mejores que los hipersegmentados.

"Los anuncios políticos personalizados son malos para la democracia. Hemos visto algunos que jugaban con la manipulación emocional o con teorías conspirativas. Yo reclamo que los anuncios políticos se limiten a banners que se muestren de forma aleatoria. Sería mejor para la democracia", comentó O’Neil, quien advirtió de que los activistas de Black Lives Matter "pueden ser representados como [defensores de] una buena causa o como gamberros". Por ello, a su juicio la segmentación no debería ser legal en el ámbito político.

La conversación con la autora de Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia (Capitan Swing) comenzó con la pandemia del coronavirus y el uso de los modelos matemáticos para tomar decisiones y salvar vidas. "No me fío de los datos en absoluto", zanjó O’Neil, favorable al uso de esos modelos para la investigación científica, pero no para realizar mediciones sobre salud pública o para comunicarse con la población.

"Los modelos matemáticos sofisticados acallan a los ciudadanos", detalló O’Neil. "Piensan que, como no son doctores en matemáticas, no tienen derecho a cuestionarlos y, así, se distancian de la solución". Según ella, el fin de la epidemia no depende tanto de un modelo o de las matemáticas, como del comportamiento de las personas, que terminaron alejándose de la "solución" tras escuchar hablar de modelos demasiado. "Fue un fallo".

La doctora en Matemáticas por la Universidad de Harvard aseguró que nunca creyó que una aplicación de rastreo funcionase en Estados Unidos, no solo por una cuestión de privacidad, sino también de clase social. "Hay miles de razones por las que podría no funcionar". Por ejemplo, hay personas que no quieren ser informadas de que han sido resultado contagiadas o expuestas, porque es una "mala noticia".

Pero también por razones sociales y económicas. Los sin papeles serían reacios, según ella, a ofrecer sus datos. Luego habría "una gran parte de la población que vive al día y para la que la cuarentena no es una solución viable", porque "no se puede permitir el lujo de estar en su casa confinada dos semanas", pues necesitan trabajar. De ahí su frase de que "la privacidad es un lujo", pues lo primordial para muchos sería cubrir sus necesidades básicas.

Respecto al monopolio de los datos por parte de Google, Facebook o Amazon, lo consideró una "amenaza inevitable", aunque matizó que las prácticas discriminatorias de las empresas son históricas, van más allá del monopolio y su fin es aumentar los beneficios: "El poder atrae el poder". Y, más que quitárselo, opina que habría que obligarlas a que traten bien a sus empleados y a que sigan las reglas.

"Hay que reducir los daños y olvidarnos de la monopolización", añadió la matemática. "Si no podemos fraccionarlas, hagámoslas aburridas [...] Me gustaría nacionalizar Amazon", dijo irónicamente O’Neil, quien opinó que las rentas más altas están alejadas de la realidad de la calle. Tiburones de las finanzas que primero hicieron negocio con las hipotecas y que, cuando la gente no podía pagarlas, pensaron en cómo hacer dinero con sus viviendas. "Hay un problema de desigualdad arrolladora".

En cuanto a los anuncios personalizados en internet, la matemática reconoció que le gusta la sensación de que "acaten" sus gustos, aunque consciente del objetivo de las empresas: "No lo hacen para que me sienta bien, sino por dinero". Según ella, también hay un mercado para quienes no tienen un duro: "Miden el nivel de desesperación de la gente. ¿Necesitan un crédito? ¿Son ludópatas? Al final del día, todo gira en torno al dinero".

"No creo que el problema se resuelva mientras el modelo de internet se base en los anuncios", apuntó la matemática, por lo que a su juicio habría que cambiar el modelo de negocio en internet o imponer el cumplimiento de unas normas reforzadas. Mientras, nos encontraremos con anuncios a medida que podrían resultar "halagadores", cuando lo único que importa es que los ciudadanos consuman. "No solo es una máquina, sino una máquina despreciable".

Puedes ver la charla aquí:

Ver vídeo