La Fiscalía de Barcelona investiga a dos menores que generaban pornografía infantil con la IA

La Fiscalía de Barcelona investiga dos casos de creación de fotografías sexuales de menores manipuladas con inteligencia artificial (IA) para su posterior difusión a través de redes sociales.

Según fuentes del Ministerio Público, ambas denuncias están siendo investigadas por la Fiscalía de Menores de Barcelona, ya que las víctimas de la manipulación tienen menos de 18 años y se sospecha que los autores son también menores de edad.

En los dos casos abiertos, los acusados utilizaron la IA para transformar fotografías reales de las víctimas hasta convertirlas en imágenes sexuales. Después las difundieron por redes sociales.

Uno de los dos responsables es un chico de 17 años de Súria (Barcelona), que fue detenido en octubre mientras se encontraba en su casa. La Policía había encontrado en Internet más de 300 anuncios a través de los que, además de vender pornografía infantil, se ofrecía a transformar cualquier foto de un menor en imagen pornográfica, según ha informado Cadena Ser. 

Los investigadores descubrieron que el acusado cometía ese delito desde que tenía 14 años y que sacaba fotos a través de su ventana a niños y niñas en bañador para, después, modificarlas con la IA y venderlas, según ha indicado el mismo medio. Acerca del otro caso, no se han conocido más detalles.

Otros casos

La Fiscalía ha advertido de la dificultad de identificar a los autores de este tipo de delitos, porque de manera habitual las compañías responsables de las redes sociales en las que se difunden las imágenes tienen sede en el extranjero, lo cual obliga a llevar a cabo comisiones rogatorias a través de los juzgados u otros mecanismos de cooperación.

En Almendralejo, un pequeño pueblo de la provincia de Badajoz, 26 menores están siendo investigados por modificar fotografías de, al menos, 21 niñas. Los hechos ocurrieron en septiembre y enseguida alcanzaron un gran eco mediático por su gravedad, que se manifiesta en los hasta ocho años de estancia en centros de menores para algunos de los acusados. Otros de los acusados (cinco de ellos son menores de 14 años) tendrán que enfrentarse a trabajos en beneficio de la comunidad, seguimiento de cursos o terapias ocupacionales.

Además, un estudio del Stanford Internet Observatory ha concluido recientemente que la base de datos LAION-5B, utilizada para perfeccionar distintos modelos de inteligencia artificial, contenía imágenes de abuso sexual infantil.

Los responsables de esta base de datos la han retirado de forma temporal hasta poder asegurar que los contenidos serán "seguros antes de volver a publicarlos".