Los legisladores de Estados Unidos están uniendo fuerzas para exigir la urgente necesidad de una legislación que criminalice la producción de imágenes deepfake, motivados por la amplia circulación de fotos explícitas falsas de Taylor Swift.

Estas imágenes fabricadas se difundieron en varias plataformas de redes sociales, incluidas X y Telegram, lo que provocó una llamada a la acción inmediata.

El representante estadounidense Joe Morelle expresó en X su rotundo rechazo a la difusión de estas imágenes, calificándolas de repugnantes. Destacó la Ley para Prevenir Deepfakes de Imágenes Íntimas, una iniciativa legislativa que él mismo propuso para establecer los deepfakes no consentidos como un delito federal, subrayando la urgencia de abordar este problema.

Los deepfakes utilizan inteligencia artificial (IA) para manipular videos y alterar la apariencia de las personas.

Actualmente, no existen leyes federales que aborden específicamente la creación o distribución de imágenes deepfake, pero algunos legisladores están tomando medidas proactivas para enfrentar este problema de manera directa.

La representante Yvette Clarke, también en X, señaló que el incidente con Taylor Swift no es un caso aislado. Enfatizó que las mujeres han estado sufriendo las consecuencias de esta tecnología durante años, subrayando lo accesible y asequible que se ha vuelto la creación de deepfakes con los avances en IA.

En una nota positiva, X afirmó en un comunicado de prensa que está eliminando activamente las imágenes fraudulentas y tomando medidas adecuadas contra las cuentas responsables de su difusión.

La plataforma aseguró al público que está monitoreando de cerca la situación, lista para abordar rápidamente cualquier violación adicional y garantizar la eliminación de dicho contenido.

En un desarrollo paralelo, el Reino Unido hizo ilegal la distribución de pornografía deepfake como parte de su Ley de Seguridad en Línea en 2023.

Un informe sobre el Estado de los Deepfakes del mismo año reveló que la mayoría de los deepfakes publicados en línea involucran pornografía, con casi el 99% de las víctimas siendo mujeres.

Las preocupaciones globales en torno al contenido generado por IA han aumentado, con el Foro Económico Mundial destacando las consecuencias adversas en su 19° Informe de Riesgos Globales.

Este informe subraya los impactos negativos, tanto intencionados como no intencionados, de los avances en IA, incluida la IA generativa, en individuos, empresas, ecosistemas y economías.

Incluso la principal agencia de inteligencia nacional de Canadá, el Servicio Canadiense de Inteligencia de Seguridad, ha expresado su alarma ante las campañas de desinformación que utilizan deepfakes generados por IA en Internet.

En un ámbito más amplio, las Naciones Unidas, en un informe con fecha del 12 de junio, reconocieron los medios generados por IA como una amenaza significativa y urgente para la integridad de la información, especialmente en las redes sociales.

La ONU destacó que el riesgo de desinformación en línea ha aumentado debido a los rápidos avances tecnológicos, en particular en la IA generativa, con especial enfoque en la preocupante proliferación de deepfakes.