El avance de la inteligencia artificial ha abierto un mundo de posibilidades, pero también un terreno sombrío que deja a miles de personas expuestas. Lo que comenzó como un entretenimiento digital se ha convertido en una herramienta capaz de producir imágenes explícitas sin consentimiento, con consecuencias legales, sociales y emocionales que apenas empiezan a discutirse.
Vidas alteradas por un clic
En Minneapolis, un grupo de mujeres descubrió que un conocido había utilizado sus fotos de Facebook en la aplicación DeepSwap para fabricar deepfakes sexualizados. El impacto psicológico fue inmediato: pánico, ansiedad y una sensación de pérdida de identidad.
El problema, señalan los expertos, es que las víctimas carecen de recursos legales claros. Como los implicados no son menores de edad y el contenido no siempre se distribuye, en muchos casos no se configura un delito. Esto ha llevado a legisladores locales, como la senadora Erin Maye Quade en Minnesota, a impulsar proyectos de ley que sancionen a las empresas que facilitan la creación de deepfakes.
Negocios opacos y vacío regulatorio
Sitios como DeepSwap operan bajo estructuras empresariales cambiantes, con direcciones que van de Hong Kong a Irlanda y sin representantes verificables. Mientras tanto, estas plataformas se publicitan incluso en redes sociales y tiendas de aplicaciones, enmascaradas como herramientas de entretenimiento.
El proyecto de ley de Minnesota plantea multas de hasta $500,000 por cada contenido generado sin consentimiento. Sin embargo, preocupa que las políticas federales de Donald Trump, que buscan acelerar la industria de la IA como prioridad de seguridad nacional, terminen debilitando los esfuerzos locales de regulación.
Lo cierto es que la facilidad para generar pornografía falsa —con solo una foto y acceso a internet— expone un vacío legal peligroso. Mientras las empresas se esconden tras cláusulas de descargo, las víctimas enfrentan un trauma real, con pocas vías de protección.
No te pierdas la señal en vivo de Comercio TV aquí y mantente al día en la actualidad financiera
