cómo la IA transforma la violencia sexual

La inteligencia artificial no está creando una nueva realidad paralela, sino transformando y amplificando dinámicas ya existentes. Esta fue una de las ideas centrales defendidas por el sociólogo y profesor universitario Lluís Ballester durante la conferencia “IA y violencia sexual: deepfake sexual y nuevas modalidades de pornografía” en unas jornadas organizadas por Emakunde en Bilbo.

Ballester quiso desmontar la idea de entender las tecnologías digitales como simples herramientas. A su juicio, las plataformas digitales han pasado a convertirse en auténticos espacios de socialización y de construcción de identidades con una capacidad de influencia superior a la de muchos otros ámbitos tradicionales, especialmente entre adolescentes y jóvenes. Para ilustrarlo, recordó datos recientes de Unicef, según los cuales niños y adolescentes pasan entre cinco y seis horas diarias frente a una pantalla. En consecuencia, las formas de relacionarse, aprender, consumir información o construir la sexualidad se desarrollan cada vez más dentro de estos ecosistemas digitales.

Centrándose en el tema de la charla, el sociólogo destacó el papel de la pornografía en la construcción de las relaciones afectivas y sexuales de las nuevas generaciones. «Para la gente joven, la realidad de la sexualidad será lo que está diciendo ya la pornografía», afirmó. Una pornografía que, según recordó, incorpora de forma habitual violencia física, verbal y simbólica contra las mujeres.

EL AUGE DE LOS DEEPFAKES

En este contexto, la inteligencia artificial aparece como un factor multiplicador. No sustituye a la pornografía tradicional, sino que amplía enormemente sus posibilidades de producción, distribución y consumo.

Así, la parte central de la intervención estuvo dedicada a analizar el fenómeno de los deepfakes sexuales, es decir, la creación mediante inteligencia artificial de imágenes o vídeos pornográficos utilizando el rostro o la apariencia de personas reales.

Ballester recordó que cuando comenzó a hablar públicamente de esta cuestión, en torno a 2021, el problema era percibido como una amenaza lejana. Pero en solo unos años la situación ha cambiado radicalmente. Según apuntó, Facebook informó de más de 73 millones de contenidos relacionados con desnudez infantil, abuso sexual o explotación sexual en apenas nueve meses, una cifra que muestra hasta qué punto estas prácticas forman ya parte del ecosistema digital. Además, en los últimos años han salido a la luz casos ocurridos en centros educativos del Estado español en los que estudiantes utilizaron inteligencia artificial para generar imágenes sexuales de compañeras de clase.

Según explicó, las nuevas herramientas permiten generar material sexual explícito a partir de fotografías obtenidas en redes sociales o de cualquier imagen accesible en internet. Ya no es necesario disponer de vídeos íntimos reales. «Basta que existas en el mundo digital para que se pueda generar de manera sintética una imagen», advirtió.

Esta transformación obliga, en su opinión, a revisar muchos de los mensajes preventivos utilizados hasta ahora. Durante años se insistió en que el principal riesgo era compartir imágenes íntimas. Hoy, afirmó, esa estrategia resulta claramente insuficiente.

Ballester también quiso desmontar algunos de los argumentos que suelen utilizarse para restar gravedad a los deepfakes sexuales. Uno de ellos consiste en considerar que, al tratarse de imágenes falsas, no existe una víctima real. También cuestionó la idea de que estas prácticas constituyan simplemente una forma de entretenimiento o una extensión inocua de la cultura pornográfica. Uno de los aspectos que más le preocupa es la falta de conciencia sobre el daño causado.

La inteligencia artificial introduce, además, nuevos obstáculos para la investigación policial y judicial. Ballester advirtió de que las tecnologías actuales permiten eliminar metadatos, modificar imágenes y dificultar enormemente la identificación del origen de los contenidos. «Cada vez es más difícil el rastreo», señaló.

Uno de los cambios conceptuales que Ballester defendió durante la conferencia fue la necesidad de abandonar enfoques centrados exclusivamente en la figura del agresor individual para analizar estas prácticas desde la lógica de la explotación sexual.

MERCADO GLOBAL

El investigador insistió en que internet no puede entenderse únicamente como un espacio de interacción social. También es un mercado global, con determinada gente controlándolo, en el que la circulación de imágenes, datos y contenidos sexuales genera beneficios económicos constantes. «Cuando distribuimos en entornos digitales, alguien se beneficia. Hay una industria que está generando una nueva demanda porque está generando también nuevas oportunidades de consumo que no existían hasta el momento», dijo.

Ballester fue más allá al cuestionar también el papel de las audiencias. «El público, la gente que consume, también forma parte de la explotación sexual», aseguró. Según explicó, el consumo de este tipo de contenidos no es una acción neutral, sino un elemento que contribuye a mantener el mercado y a generar nuevas demandas de producción y distribución.

Por ello defendió el uso creciente de conceptos como «abuso sexual basado en imágenes» o «explotación sexual basada en imágenes», categorías que permiten incorporar la existencia de intermediarios, plataformas, audiencias y estructuras empresariales que obtienen beneficios de la difusión de estos materiales.

CINCO CLAVES PARA ACTUAR

Frente a este escenario, Ballester defendió una estrategia integral basada en lo que denominó las «cinco P»: prevención, protección, participación, persecución y reconstrucción.

Tal y como detalló, la prevención pasa por reforzar la educación afectivo-sexual y digital. La protección exige mejorar los recursos de salud mental y apoyo a la infancia y adolescencia. La participación implica escuchar a niños, niñas y adolescentes en la investigación y el diseño de políticas públicas. La persecución requiere adaptar los marcos legales y mejorar la respuesta institucional frente a estas formas de violencia. Y la reconstrucción supone recuperar modelos de relación basados en la igualdad, el respeto y la autonomía.

«El reto fundamental es reconstruir las relaciones interpersonales en una sociedad en la que hemos perdido el control y el sentido de lo que eran las relaciones en igualdad, en libertad y saludables», concluyó Ballester.

Su intervención dejó una idea clara: los deepfakes sexuales y las nuevas formas de pornografía generadas mediante inteligencia artificial ya no pertenecen al terreno de las amenazas futuras. Son una realidad presente que está transformando los mecanismos de la violencia sexual y que exige respuestas educativas, sociales, jurídicas y culturales a la altura del desafío.