Han pasado unas semanas desde que aquellos alumnos de Almendralejo usaron la inteligencia artificial para modificar fotos de sus compañeras. Un periodo en el que no hemos perdido de vista qué medidas se iban a tomar al respecto.
El proceso de movilización mediática y judicial tenía en el punto de mira a los chavales por crear y difundir pornografía infantil.
Pero de lado ha quedado un tema que preocupa más abordar por su complejidad, ¿qué pasa con las consecuencias en la inteligencia artificial?
PEXELS
(¿Cómo que aún no me sigues en Instagram? Pues venga…)
La tentación (y posibilidad) de desnudar a cualquier mujer del mundo está ahí y es tan fácil como subir una foto de su cara.
Así que la pregunta que incomoda, que realmente no se quiere poner sobre la mesa, es por qué si la inteligencia artificial ejecuta según lo que se pide de ella, no hay una forma de evitar que esto pueda repetirse, de ‘bloquear’ el uso de quitar la ropa a quien sea.
No debería ser tan complicado teniendo en cuenta que ya existen algoritmos que detectan si aparece un pezón en redes sociales y rápidamente se encargan de borrarlo, para proteger a un posible público sensible, pero ¿por qué no protege cuando convierte una imagen desnuda de una vestida?
La mayoría ni entendemos cómo funciona la IAs ni la controlamos, tenemos sentimientos encontrados de si van a mejorar el mundo o a dejarlo más tocado, pero lo que sí hemos visto es que pueden hacer mucho daño.
Sacándole el tema a una amiga que trabaja en ciberseguridad le dije que me parecía impensable que no existiera forma de ponerle algún tipo de código a las inteligencias artificiales para evitar que esto se repitiera en un futuro.
Podemos ver las ventajas de tener un sistema que nos ayude a hacer listas, preparar presentaciones, crear contenidos y hasta sacar ideas para el cumpleaños de tus seres queridos, ¿de verdad cambiaría tanto la cosa si cuando subes una foto al programa que sea y buscas el retoque ‘mágico’ de la desnudez el sistema detecte que es una persona y lo evite?
Su respuesta fue que todo es programable, así que me queda claro que, si no se hace, es porque no interesa. Y a nadie nos pilla por sorpresa.
Porque aunque las damnificadas empiecen a ser cada vez más (Rosalía y Laura Escanes también lo vivieron anteriormente y ya hay otro caso en Alcalá de Henares), la sensación con la que me quedo, viendo que no es algo que ni se plantee, es que da igual.
Puede que haya cambiado la forma de conseguir el material, pero el revenge porn contra las mujeres es el mismo que ya conocíamos. El acoso a las de siempre por parte de los de siempre.
Te compro el discurso de que las IAs por sí mismas no son malas, pero no el de que van a hacernos «mejores personas», como dijo una experta.
Malo es el uso que se les da. Y si los humanos que hacen uso de estos sistemas viene de una sociedad donde las formas de violencia hacia nosotras son algo normal, lo mismo van a hacer estos programas perpetuándolas.
Nadie va a hacer por cambiarlo de la misma manera que los esfuerzos por prevenir o disminuir la violencia fuera de la pantalla van también al ralentí.
Pero si alguien descubriera la forma de usar la inteligencia artificial para transferir dinero de las grandes fortunas del mundo a la cuenta bancaria propia, este código o programación de la que os hablo iba a empezar a funcionar en menos de lo que tardas en hacer un click.
Mara Mariño