Encuentran el que sería el origen de las 'deepfake' de Taylor Swifft hechas con IA

Las imágenes manipuladas de la cantante Taylor Swift que inundaron las redes sociales a finales de enero, haciéndose pasar por situaciones comprometedoras y aparentemente reales, fueron rastreadas hasta un reto lanzado en el foro 4Chan.

(Leer más: Lo que se sabe del álbum que Taylor Swift anunció por sorpresa en los Grammy). 

Este foro, conocido por su anonimato y controversial contenido, planteó el desafío de superar las barreras de seguridad impuestas por las herramientas de inteligencia artificial generativa, las mismas que están diseñadas para evitar la creación de contenido perjudicial.

Las 'deepfakes', como se les conoce a estas creaciones digitales, suplantaron la imagen de la artista sin su conocimiento ni consentimiento, lo que desató una ola de indignación en las redes sociales y generó una serie de medidas para eliminar y prevenir la proliferación de este material falso.

Inicialmente, la difusión masiva de estas imágenes se rastreó hasta un grupo en la plataforma de mensajería Telegram, donde los compartían fotos de mujeres retocadas, utilizando herramientas de IA generativa como Microsoft Designer.

(Seguir leyendo: Tracy Chapman, Karol G, Taylor Swift y unos Grammy inolvidables). 

Sin embargo, según la compañía de análisis de redes sociales Graphika, el origen de este escandaloso episodio se encuentra en el foro anónimo 4Chan, específicamente en un desafío en línea que incentivaba a los participantes a eludir las medidas de seguridad de herramientas populares como Microsoft Designer y DALL-E de OpenAI.

El propósito era utilizar estas herramientas para crear imágenes de desnudos protagonizados por mujeres famosas, incluyendo artistas y figuras políticas.

Las imágenes de Taylor Swift, generadas como parte de este desafío, encontraron su camino hacia la plataforma de Telegram y posteriormente se propagaron en la red social X (anteriormente conocida como Twitter), en la que se distribuyeron de manera masiva.

(Le puede interesar: Taylor Swift rompe récords en los Premios Grammy: volvió a ganar el Álbum del año). 

A pesar de los esfuerzos de X y otras redes sociales para eliminar las imágenes falsas de la cantante y restringir las búsquedas relacionadas, estas se volvieron tendencia durante varias horas.

Una de las publicaciones alcanzó un asombroso número de 45 millones de visualizaciones, 24,000 republicaciones y recibió cientos de miles de 'Me Gusta' y marcadores, según informaron desde ‘The Verge’.

La analista sénior de Graphika, Cristina López G., destacó la naturaleza gamificada de esta actividad maliciosa, explicando que estas imágenes se originaron en una comunidad de personas motivadas por el "desafío" de burlar las salvaguardas de los productos de IA generativa. Es fundamental comprender esta dinámica para evitar futuros abusos en su origen, subrayó López G. en declaraciones a ‘Bloomberg’.

(Puede ver: Todos los ganadores de la ceremonia número 66 de los premios Grammy: Karol G, SZA y más).

Este incidente pone de manifiesto la urgente necesidad de abordar la creciente amenaza de los 'deepfakes' y de fortalecer las medidas de seguridad en línea para proteger la integridad de las figuras públicas y prevenir la propagación de contenido falsificado en las redes sociales.

- Premios Grammy 2024: vea el desfile de famosos en alfombra roja, outfits, Karol G y más

- ¡La inteligencia artificial se tomará los Premios Grammy 2024! Así funcionará

- ¿Taylor Swift podrá ir al Super Bowl? Embajada de Japón da una inesperada respuesta