Los sistemas de Inteligencia Artificial más avanzados, como los fundacionales, no sólo pueden suponer un enorme riesgo para los ciudadanos si no se regulan mínimamente, sino que plantean un problema nunca resuelto del todo en el mundo digital: su compatibilidad con la protección de los derechos de propiedad intelectual de los creadores. Porque sin contenidos no puede existir la IA.

El impacto de los sistemas de inteligencia artificial en la sociedad es ya innegable y su desarrollo avanza a mucha velocidad. Tal es así que la UE ya cuenta con un reglamento propio de aplicación directa en todos sus países miembros, cuya tramitación ha tardado más de cuatro años y, por ello, se ha quedado algo 'corto'; el panorama ahora es muy distinto al que había entonces.

Los esfuerzos políticos parecen centrados en proteger a los ciudadanos de los posibles malos usos de estas poderosas herramientas. No obstante, surge de nuevo el espinoso asunto de la propiedad intelectual -la tradicional 'hermana fea' del mundo digital- tanto de los contenidos que alimentan de forma masiva estos sistemas como los resultados que 'producen'.

Para aclarar la postura de España en este asunto (que, en la práctica, no conoce fronteras), Público pudo charlar con Carmen Páez, subsecretaria del Ministerio de Cultura, justo después de la presentación del evento Podcast Days 2024, donde participó en un breve debate.

Precisamente, la producción audiovisual (como son los podcast, una manera de producir y distribuir contenidos de audio en internet) ya está notando el impacto de las IA generativas, que son muy útiles para acortar procesos y ahorrar tiempo y gastos, pero cuyos autores también han de recibir protección.

¿Está abordando ya el Ministerio de Cultura los problemas concretos de propiedad intelectual de los contenidos que plantean las Inteligencias Artificiales Fundacionales, como las generativas? Es decir, los problemas que pueden plantear la velocidad de los desarrollos, por ejemplo, o bien la extracción masiva de contenidos para entrenar los motores que las generan, o incluso los contenidos generados no sólo de texto sino de audio, vídeo...

Al final, la IA es uno de los grandes desafíos que tenemos. El Reglamento sobre Inteligencia Artificial, aprobado en junio, es de carácter genérico y trasversal, no está enfocado sólo en las IA Generativas...

Sí, hemos visto que parece que se enfoca sobre todo en sus usos y fines.

Exacto. El propio ministro español de Cultura contribuyó a que se incluyera toda la parte de la transparencia en el entrenamiento de los modelos fundacionales, porque para proteger los derechos de propiedad intelectual el punto de partida básico y necesario es acceder a los procesos gracias a esa transparencia.

Lo que pasa es que los motores no son transparentes, su desarrollo es complicadísimo y Europa está muy atrasada: todos son de fuera.

El reglamento lo que dice es que cualquier modelo que vaya a poder distribuirse dentro de la UE tiene que cumplir con los estándares que dicta esta norma. Durante la progresiva aplicación del reglamento, que se producirá paulatinamente (hasta el año 2027), nosotros vamos a incidir mucho en la transparencia.

El propio Ministerio trabaja como una organización que puede aprovechar las ventajas de la IA en ciertos procesos que pueden ser automatizados, como el análisis para resolver subvenciones...

Ese tipo de uso, en realidad, es simplemente fruto de una capa por debajo de la cual están los motores de IA generativa.

Nosotros trabajamos en la protección de la propiedad intelectual. Hay que tener en cuenta que se acaba de constituir la nueva Comisión Europea, y la regulación genérica tiene que ser a nivel europeo; es evidente que no se pueden llevar a cabo regulaciones fronterizas, por lo que estamos en un momento 'limitante'.

¿Cuál es la postura de Cultura en el asunto específico de la propiedad intelectual y la inteligencia artificial fundacionales, como las generativas?

Nuestro objetivo es tramitar, dentro del marco jurídico dado, un sistema que garantice la protección de los derechos de autor. Es decir, que si se usan obras protegidas por derechos de propiedad intelectual tiene que disponer de la autorización del autor y ha de remunerarse.

¿Cómo se pueden garantizar los derechos de propiedad intelectual económicos y morales si su uso es tan masivo y rápido?

El primer paso es la autorización para salvaguardar los derechos morales del autor, para lo cual es fundamental que se garanticen los procesos de opt-out (Literalmente, "optar por salir", la posibilidad de preservar tus propios contenidos de rastreos y o sus por parte de terceros).

O sea, que la participación (en el entrenamiento de un motor de IA generativa) sea a petición, o bien que se puedan utilizar las excepciones en los límites que existen ya a la minería de datos, algo que podría llegar a aplicarse.

En todo caso, aunque se proponga que ese sea el marco jurídico, serán al final los tribunales quienes decidan si se van a aplicar o no los límites mencionados

Sobre todo, desde Cultura defendemos, y así lo dice la normativa, que tiene que haber un derecho al opt-out, es decir, que los titulares de los contenidos puedan negarse a que se use su obra para esos fines.

El problema es que cada vez es más complejo saber si se han usado determinados contenidos, ya no sólo escritos sino sonoros o audiovisuales, y a semejante escala como la que estamos viendo.

Por ello nosotros insistimos en la necesidad de que haya transparencia, de modo que sea obligatorio para las entidades que desarrollan estos motores comunicar con qué han entrenado ese modelo generativo.

En el caso de la voz, además, nos movemos hacia el marco de los derechos de imagen (honor, intimidad...). Y cuando hablamos de intérpretes la norma es más compleja.

Sí que creemos que con el marco jurídico actual tenemos herramientas para proteger a los creadores. Pero naturalmente habrá que ir mejorándolo y adaptándolo en el tiempo.