CibersociedadEl filósofo francés Éric Sadin alerta de que la inteligencia artificial amenaza la civilización

Para el filósofo francés Éric Sadin (1972), una de las mentes más influyentes y críticas frente a la era la digitalización y los datos, no estamos hablando lo suficiente de las consecuencias para el ser humano de la colonización del modelo de Silicon Valley: una suerte de liberalismo digital camuflado, que nadie se cuestiona e incluso es impulsado por los propios gobiernos. Vivimos rodeados de objetos conectados y sensores que recogen y convierten en datos hasta el detalle más íntimo. Y con esos datos, unas pocas compañías gigantestas alimentan una inteligencia artificial cada vez más potente, capaz de interpretar, sugerir e incluso tomar decisiones. Nos fiamos ciegamente de las máquinas, pero ni siquiera sabemos cómo funcionan. ¿Queremos realmente que las máquinas tomen decisiones?

Sadin vino a presentar la traducción de su penúltimo libro, La silicolonización del mundo (2016; Caja Negra, 2018), y se centró sobre todo en los temas que aborda en lo último de su prolífica obra, La inteligencia artificial o el reto del siglo. Anatomía del antihumanismo radical (2018).

El filósofo desgranó durante casi dos horas, durante un coloquio con la periodista especializada en tecnología Marta Peirano en el Institut Français de Madrid (en el marco del III Foro de la Cultura de Burgos), su visión crítica y sin concesiones sobre las consecuencias de una tecnologización de la sociedad. "Hemos pasado de la edad del acceso, en la que nuestra relación era a través de las pantallas, a la edad de la cuantificación en apenas 20 años", comentó. Y describe esta situación, en la que los sistemas nos hablan para decirnos "la verdad", como "agobiante".

“La tecnología nos habla para decirnos la verdad”

Criticó con dureza el apoyo social e institucional a la la economía de los datos y platafomas, "que suponen una inteligibilidad de nuestros comportamientos cada vez más extendida" y cuya finalidad es "interpretar nuestros comportamientos, para notificaros y sugerimos de forma aparentemente adecuada a cada persona". "Hablamos de una mercantilización general de la vida, de la conquista de los comportamiento: hay una batalla para controlar nuestras cabezas", expuso.

El pensador confesó que ha llegado a la conclusión de que los desarrollos tecnológicos se determinan exclusivamente el punto de vista económico, ya no existe como campo autónomo: "El mundo de la ciencia, de la técnica, ha desaparecido por completo, sólo existe un mundo tecnoeconómico en el que los investigadores sólo responden a una lógica económica". Y en este contexto, absolutamente utilitarista, “la tecnología nos habla para decirnos la verdad”, afirmó con ironía.

"Habla para orientar nuestros gestos, para orientar nuestra vida, nuestros comportamientos, hasta tal punto que puede afectar a nuestra autonomía de juicio", comentó. E insistió en que esos sistemas —que son opacos, no sabemos nada de ellos pero tienen la capacidad de decidir— "imponen una verdad que tiene consecuencias jurídicas y políticas". 

Inteligencia artificial, sensores, robotización humana

Durante su larga intervención, Sadin alertó de la invasión de los sensores tanto en la vida privada ("hasta los biberones tienen sensores", exclamó) como en los espacios profesionales. "La arquitectura inducida por la invasión masiva de sensores implica un trazabilidad de la vida, y esta realidad captada y reducida a datos, alimenta la inteligencia artificial".

Y, para él, la inteligencia artificial es motivo serio de preocupación. "Por primera vez en la historia, los sistemas pueden entender situaciones, tienen capacidad de retroacción y, lo que es muy inquietante y perturbador, puede tomar decisiones por sí mismos, como el trading de alta velocidad con proyección anticipativa".

"Las personas son cuantificadas, hay una visibilidad en tiempo real de la producción de bienes y servicios, y eso significa una enunciación de órdenes" por parte de sistemas capaces de interpretar esa abundancia de datos. "Los empleados se transforman en robots de carne y hueso, existe una negación de la subjetividad, de la improvisación o del ingenio", denunció. Y alertó de que esta realidad se está extendiendo a otros muchos ámbitos, como las decisiones médicas.

La tecnoeconomía, busca reemplazar a las personas y cuando no se pueda, 'robotizar' al ser humano

Según él, la idea que plantea este liberalismo digital, esta tecnoeconomía, es ir reemplazando a las personas y cuando no se pueda, 'robotizar' al ser humano. "Esto es lo que me interesa porque no se ve", aseguró, y añadió: "Se habla de la complementariedad entre humanos y sistemas, pero eso no es más que un tecnodiscurso: son los humanos los que se tienen que adaptar a esos sistemas y eso es cada vez más imposible".

"Los regímenes liberales apoyan jurídicamente estos desarrollos para impulsar la tecnología de los datos y de las plataformas, hay una sumisión", denunció. "No parece existir un debate sobre la desaparición de la autonomía del juicio humano en favor de la velocidad de la tecnología". 

Mientras, en la otra punta de Madrid, se celebra esta semana la South Summit, en donde emprendedores y políticos alaban las virtudes de la economía de los datos; España cuenta incluso con una Secretaría de Estado dedicada al tema. Y en Ifema tiene lugar IROS 2028, el congreso mundial de robótica inaugurado por Felipe IV.

"Desconfío de los políticos y legisladores que apoyan este entorno: hay que animar el contraexamen porque hay demasiados 'expertos'; hay que escuchar a quienes sufren esos sistemas", propuso. "Oigamos la realidad sobre el terreno y no tanto el dogma de la transformación digital".

Hacia un "anti humanismo radical"

Sadin apuntó a que el aparentemente imparable desarrollo de la inteligencia artificial nos está conduciendo a un "anti humanismo radical" basado en un utilitarismo extremo, guiados por la lógica de las máquinas, que no humana. "Estos sistemas que nos indican la verdad borran características intrínsecas del ser humano: crítica, juicio, etc., todo en una sola generación y sin evaluación de los impactos en la civilización, sin crítica". "Estamos en una ceguera general", lamentó.

Los sistemas borran características intrínsecas del ser humano y no evaluamos este impacto en la civilización

Más allá de las preocupaciones que invaden el debate público —los fallos en redes sociales, los escándalos de Facebook, la vigilancia del 'gran hermano digital', la protección de los datos personales...— , Sadin mostró su preocupación por el hecho de que nadie habla de las implicaciones éticas que están por encima de todo ello.

"Lamento que en nuestra época, lo único que nos preocupa es la libertad individual, pero la libertad común, la simetría de poderes, la libertad de juicio, son cuestiones colectivas que a nadie parece preocupar; hay una reducción sistemática al individuo", afirmó, y añadió: "Me molesta tanto individualismo, parece que sólo nos importa nuestra pequeña parcela de libertad; la protección de datos me parece una obsesión que tiene que ver con la libertad individual, mezquina, egoísta, y cuanto más defendamos esa libertad, mejor le irá a la tecnoeconomía".

Eso sí, no negó que los avances tecnológicos tienen su cara positiva. Pero zanjó, con cierta sorna, que "ya hay mucha gente que defiende las ventajas, tantas que saturan el debate público". "No me necesitan para eso", concluyó.