La violencia que entrenamos

Esta semana, un grupo de alumnos usó inteligencia artificial para generar desnudos de sus compañeras y los hizo circular en catálogos. En tiempos de posverdad, esas imágenes ya son reales. Existen porque alguien decidió fabricarlas y ponerlas a la venta y, sobre todo, por obra de los “prompts” históricos que las volvieron posibles, esas órdenes heredadas sobre cuánto parece valer una mujer y qué creemos tener permitido los varones. Las escribimos nosotros, generación tras generación, con cada chiste festejado, cada silencio cómplice y cada imagen consumida sin preguntar de dónde salía. La IA sólo obedece órdenes que siguen siendo nuestras.

Cualquier varón puede comprobar en su propio feed cuán vigentes siguen estos mandatos. El algoritmo nos ofrece cuerpos de mujeres como parte del paisaje porque aprendió que eso retiene nuestra atención. Un estudio de University College London y la Universidad de Kent lo midió en TikTok con cuentas que simulaban ser de varones, y en solo cinco días el contenido misógino recomendado pasó del 13% al 56%. Ningún algoritmo es neutral; aprende de una violencia histórica y nos la devuelve multiplicada.

Esas órdenes a la IA las escribimos nosotros, generación tras generación, con cada chiste festejado, cada silencio cómplice y cada imagen consumida sin preguntar de dónde salía.

Faro Digital, una organización dedicada a la ciudadanía digital de niños y adolescentes, conoció su primer caso en un aula hace dos años, y desde entonces los episodios se multiplicaron. “Durante mucho tiempo, las recomendaciones estuvieron dirigidas a las potenciales víctimas. Qué fotos no sacarse, qué no compartir, cómo protegerse. Y hoy necesitamos preguntarnos también qué estamos enseñando a quienes producen, solicitan, compran, comparten o celebran estas imágenes”, sostiene Milagros Schroder, su coordinadora de Educación.

A esa mirada se suma la de Micaela Sánchez Malcolm, exsecretaria de Innovación Pública de la Nación, docente de Ciencias de la Comunicación en la UBA y presidenta de Géneras, una organización que busca cerrar la brecha de género en tecnología. Según expresa, las mujeres siempre fueron puntuadas y catalogadas en una evaluación permanente. “Yo creo que el salto cualitativo y cuantitativo tiene que ver con la posibilidad de generar masivamente estas imágenes, estos videos sintéticos, que son además hiperrealistas, y con la posibilidad de circularlos”, advierte. Por eso señala que las empresas de IA podrían impedir por diseño que sus herramientas sexualicen fotos reales, más aún cuando se trata de menores. Que no lo hagan también es una decisión.

Hace falta seguir construyendo nuevas narrativas sobre nuestro rol, que nos permitan discutir entre nosotros e impidan que se les entregue a las futuras generaciones, amplificada, la misma desigualdad que venimos arrastrando. Reescribir esas órdenes es nuestra obligación y nuestra responsabilidad.

*Comunicador y estratega creativo. Escribe sobre nuevas narrativas democráticas y tecnología social.