Las aplicaciones basadas en inteligencia artificial son cada vez más comunes y variadas, y sus usos, en muchos casos, atentan contra lo moral y legal. Dentro de este abanico de apps que incumplen con el derecho de las personas, a través de contenido generado por IA, está ClothOff, la protagonista de hoy.
Hablamos de una de las aplicaciones más polémicas, y no podía ser de otra manera, ya que era capaz de generar imágenes pornográficas falsas a partir de fotos reales. Los padres de los niños y las autoridades están preocupados por el reciente crecimiento de esta plataforma. Tanto así que recientemente, la app ha sido demandada por una adolescente de 17 años, por haber creado creado desnudos de ella sin su consentimiento, según cuenta Infobae.
Llegan las primeras denuncias
La denuncia presentada por la víctima en el Tribunal de Distrito de Nueva Jersey, afirma que la joven fue víctima de compañeros de escuela que subieron fotos suyas a la aplicación para generar imágenes en las que la chica apareciese sin ropa. Los resultados, como todo lo creado por la inteligencia artificial, eran difícilmente reconocibles como contenido falso, lo que hizo que la joven haya sufrido un constante miedo a que esas creaciones se mandasen por internet.
La familia de la adolescente responsabiliza a AI/Robotics Venture Strategy 3, empresa responsable de ClothOff, de que la app facilita la creación, difusión y monetización de desnudos ilegales, afectando tanto a personas menores de edad como a adultos. Según la documentación judicial, la plataforma permite generar este tipo de contenidos mediante planes de pago y, agravando la situación más todavía, pone su tecnología a disposición de otros desarrolladores o empresas. Además, la propia promoción de la app animaba a “desnudar a cualquiera”, una publicidad que hace que el caso sea mucho más grave. Estas imágenes se pueden difundir por internet y quedar siempre en la red, algo que haría que las víctimas sufriesen todavía más. Se trata de una herramienta diseñada para hacer daño, tirando por completo todo ápice de privacidad, reputación y bienestar emocional de las personas.
Y lo peor es que esta denuncia no es un caso aislado, ni mucho menos. Sin ir más lejos, en Córdoba, Argentina, un joven de 19 años fue procesado por utilizar inteligencia artificial para generar fotos pornográficas falsas de sus compañeras de colegio, subiéndolas a sitios web como Poringa. La justicia ordenó borrar esas fotos de internet, pero los nombres de las víctimas permanecen asociados en la red junto con contenido pornográfico, como una muestra más de que lo que se sube a internet rara vez desaparece definitivamente de ahí.
Generar y difundir imágenes sin consentimiento, especialmente de menores de edad, es un delito que conlleva penas de cárcel y graves sanciones. Viendo cómo la inteligencia artificial está explorando este campo sin tapujos, urge una regulación que refuerce los controles sobre este tipo de aplicaciones y el uso que se les está dando. Además, también se debe hacer un ejercicio de concienciación de la sociedad y comprensión de que estas herramientas atentan contra los derechos.