Pese al temor a su explotación como herramienta de desinformación política, esta tecnología se sigue utilizando predominantemente para atacar y humillar a mujeres
Desde desnudos hiperrealistas hasta escenas de pornografía. El 96% de todos los deepfakes que circulan por Internet son sexuales y prácticamente todos están protagonizados por mujeres, según ha detectado un informe de Deeptrace Labs. Generalmente son figuras públicas -actrices, modelos, cantantes, periodistas, políticas o activistas-, cuya imagen es utilizada sin su consentimiento.
Pero las celebridades no son las únicas damnificadas. Henry Ajder, un investigador de Deeptrace que trabajó en el informe, explica que existen foros de deepfake donde los usuarios piden falsificaciones pornográficas de mujeres que conocen, en muchos casos de sus exparejas. Las intenciones detrás de estos fraudes pueden ser varias, pero en muchos casos tienen que ver con la voluntad de hostigar y desacreditar a las mujeres.
“Es aterrador, vergonzoso, degradante y silenciador. Los vídeos sexuales creados con deepfake le dicen a las personas que sus cuerpos no son suyos, y pueden empeorar nuestra experiencia online, dificultar mantener o encontrar un trabajo o simplemente hacernos sentir inseguros”, explica la profesora y autora citada en el estudio, Danielle Citron.
— Vídeo relacionado —
Según el informe, existe todo un ecosistema formado por páginas y foros donde los usuarios comparten esta clase de falsificaciones. Hasta ahora, estos sitios web han recibido 134 millones de visitas en total, el 61% masculinas, lo que demuestra el gran alcance que tienen esta clase de recreaciones, que además se han duplicado en cuestión de un año, pasando de 7.964 en 2018 a 14.678 en la actualidad.
A pesar de que los deepfakes pueden ser bochornosos para las mujeres que forzosamente los protagonizan, el mayor problema ético que generan aparece cuando resulta difícil discernir la realidad de la ficción. Esto ocurre cuando estas falsificaciones se alojan en páginas para adultos sin ningún tipo de especificación de que, en realidad, las imágenes que contienen son falsas. Según el informe, hasta 802 de estos vídeos se colgaron con la intención de engañar a los usuarios.
De este modo, muchas mujeres ni siquiera saben que existen imágenes pornográficas alteradas con sus caras en Internet. “No hay forma de controlarlo, así que ahora se trata de implementar medidas efectivas para prevenir el mal uso de esta tecnología”, explicó la profesora de inteligencia artificial Haerin Shin a Dazed.
Pero de momento todavía no existe una forma de detectar y bloquear esta clase de vídeos. Esto significa que, como potenciales usuarios, deberíamos cambiar nuestra mentalidad digital. “Debemos prepararnos para ver muchas más falsificaciones, porque no todas serán amigables. Tenemos que ser espectadores escépticos y desarrollar una alfabetización mediática que lidiará con esta última generación de manipulación”, explica el director de Witness, Sam Gregory, a Wired,
¿Estamos a punto de presenciar el fin de la verdad en Internet?