La víctima es artificial, pero el crimen es real: 25 detenidos en una operación internacional contra la pornografía infantil creada con IA

La organización funcionaba, según la policía, de la siguiente manera: un ciudadano danés generaba pornografía infantil por medio de herramientas de inteligencia artificial (IA) y después la ofrecía a través de una plataforma online. Usuarios de todo el mundo, después de hacer un pago simbólico, obtenían una contraseña que les daba acceso a las imágenes de abusos a niños. La detención del administrador de esa plataforma el pasado mes de noviembre fue el punto de partida de una operación internacional liderada por la policía danesa, en la que han participado otros 18 países (incluido España), que les ha conducido a la detención de 25 personas —la mayoría, durante una intervención simultánea llevada a cabo el pasado miércoles— como sospechosos de formar parte de un grupo delictivo dedicado “a la distribución de imágenes de menores generadas íntegramente por IA”. También hay otras 273 personas identificadas como sospechosas en la Operación Cumberland, que sigue abierta, por lo que puede haber más detenciones en las próximas semanas. Así lo ha explicado en un comunicado difundido hoy la Agencia de la Unión Europea para la Cooperación Policial (Europol), que ha respaldado la investigación junto con el Grupo Operativo Conjunto de Acción contra la Ciberdelincuencia (J-CAT, en sus siglas en inglés).

Es la primera vez que Europol participa en una operación con material completamente generado por IA. En la misma nota, la agencia policial subraya que la lucha contra la difusión online de “explotación sexual infantil” es “una de las principales prioridades de las fuerzas del orden”, y que esto incluye los casos en los que, como este, “el contenido es totalmente artificial y no aparece ninguna víctima real”, pues contribuye igualmente “a la cosificación y sexualización de los niños”. Así lo consideran desde Europol, pero lo cierto es que la falta de legislación en muchos países que contemple claramente estos crímenes como tales dificulta, como han podido comprobar durante esta operación, perseguir a los creadores y consumidores de este tipo de contenidos.

La UE está ultimando los trámites, de hecho, para la actualización de una normativa de protección de menores para que se considere abuso sexual infantil cualquier fotografía y vídeo pornográfico de menores generados con IA. Esto convertirá su fabricación, posesión y distribución, de forma inexcusable, en delito dentro de la Unión. Aunque algunos países ya han ido actualizando sus legislaciones o permiten vías indirectas de actuación judicial, la Comisión pretende con esta actualización eliminar cualquier ambigüedad o agujero por el que puedan colarse este tipo de pornografía. Por ejemplo, el Código Penal español ya incluye la “pornografía virtual o técnica infantil”, pero deja fuera “los materiales que por su tosquedad revelen su condición de montaje”.

“El error que comete mucha gente es creer que, como no hay una ley que hable de inteligencia artificial, hay un vacío legal”, sostiene Borja Adsuara, especializado en derecho digital, privacidad y protección de datos. Y argumenta que en España, desde 2015, ya está penalizado como un delito de “pornografía infantil” cualquier imagen realista, sea verdadera o falsa, que represente a un menor con una intención sexual. “Lo importante es el delito que hay detrás”, argumenta. Y refiriéndose al caso, agrega: “No hay una víctima concreta, pero sí una genérica, que es la infancia”.

Las generadas por IA representan ya un “porcentaje considerable” de las imágenes de abuso sexual de menores detectadas por las autoridades, y las herramientas que permiten crearlas —los criminales las están utilizando también para hacer sextorsiones— son cada vez de más fácil acceso y más sofisticadas, de manera que los materiales que producen resultan cada vez más auténticos.

“Estas imágenes generadas artificialmente son tan fáciles de crear que pueden ser producidas por individuos con intenciones delictivas, incluso sin grandes conocimientos técnicos. Esto contribuye a la creciente prevalencia de material de abusos sexuales a menores y, a medida que aumenta el volumen, resulta cada vez más difícil para los investigadores identificar a los delincuentes o a las víctimas. Las fuerzas del orden tendrán que desarrollar nuevos métodos y herramientas de investigación para hacer frente a estos nuevos retos”, dice a través de la nota Catherine De Bolle, directora de la Europol.

Este organismo tiene previsto lanzar en los próximos días una campaña online para concienciar sobre las consecuencias de utilizar la IA para fines ilegales y buscar a los delincuentes allí donde son más activos: en la Red. Para llegar hasta ellos, lanzarán mensajes, entre otros, a través de las redes sociales, termina la nota. Europol también mantiene abierta desde 2017 una página web que permite a cualquier ciudadano dar pistas sobre objetos que aparecen en este tipo de materiales —desde una manta o una camiseta hasta un póster— para llegar hasta los criminales. Hasta el momento, la iniciativa Stop Child Abuse – Trace An Object ha recibido unas 28.000 pistas que han permitido rescatar a 30 niños y arrestar a seis agresores, dice la nota de la agencia europea.

En España, la creciente preocupación por los deepfake —imágenes falsas hiperrealistas— pornográficos emergió con fuerza en septiembre de 2023, cuando decenas de menores de Almendralejo (Extremadura) se toparon con imágenes suyas en la Red creadas con IA que las mostraban desnudas. Y todavía más, cuando poco después la policía identificó a los autores, se trataba de 10 muchachos adolescentes —algunos menores de 14 años y, por tanto, inimputables penalmente—, que manejaban una sencilla aplicación que les permitía crear los desnudos a partir de imágenes reales de las chicas. La mayoría de ellos formaba parte del chat en el que se distribuyeron esas fotos. En casos como estos, sin embargo, Adsuara explica que lo que hay es un delito contra la intimidad, y no de pornografía infantil. “En la pornografía infantil se da por supuesto que hay un abuso de un mayor de edad sobre un menor de edad”, dice.

Conforme a los criterios de

Conocé más

Botón azul. Por qué conviene desactivar Meta IA de WhatsApp

Veo 2. Así es el impactante nuevo generador de videos con IA de Google

Según la IA. Las películas que no te podés perder en tu vida