Taylor Swift y la IA han protagonizado una de las mayores revoluciones en X
Las herramientas de Inteligencia Artificial pueden ser muy útiles en un contexto apropiado, pero también pueden convertirse en arma de doble filo que se vuelva muy dañino para los afectados. La última en sufrirlo ha sido la estrella de la música Taylor Swift.
En las últimas horas, en la red social X, el antiguo Twitter, el término Taylor Swift AI fue tendencia en varias regiones. El principal causante de este trending topic fue una publicación que obtuvo más de 45 millones de visitas antes de que finalmente fuera eliminada. ¿Qué sucedió para que una publicación tan exitosa sobre la artista fuera borrada?
Los límites de la IA y Taylor Swift
El problema con la publicación de Taylor Swift tan exitosa era que esta contenía imágenes generadas por Inteligencia Artificial y eran deepfakes. No hablamos precisamente de unos bonitos avatares o pósteres de la cantante, sino que se había utilizado su imagen para convertirla en contenido pornográfico falso.
La publicación tenía más 45 millones de visitas y 24.000 reposts, y estuvo activa durante al menos 17 horas hasta que fue eliminada por el equipo de moderación de la red social. Fue entonces cuando no solo se acabó con la publicación original, sino que Twitter eliminó la cuenta del autor original, así como otras cuentas que publicaron imágenes similares. El daño, para entonces, ya estaba hecho y fueron muchos los fans de la cantante o simplemente personas en contra de este uso ilícito los que trataron de llenar el hashtag con mensajes de respeto.
«La IA debería prohibirse a nivel mundial y declararse ilegal por crear imágenes y vídeos explícitos. Cualquiera que lo utilice con tales fines debería enfrentarse a una pena de cadena perpetua, ya que constituye acoso».
Tirando del hilo, medios como 404 Media localizaron que las imágenes pueden haberse originado en un grupo en Telegram, donde los usuarios comparten imágenes explícitas de mujeres generadas por IA, a menudo hechas con Microsoft Designer, una herramienta de generación de imágenes en base a prompts de texto.
Twitter/X toma medidas
El revuelo generado ha sido de tal magnitud viendo el alcance de la publicación que el equipo de Seguridad de Twitter/X ha decidido actualizar sus líneas rojas para a partir de ahora ser más estrictos sobre este tipo de contenidos.
Safety@SafetyPosting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We’re closely… https://t.co/CPYpwjpCDk26 de enero, 2024 • 07:18
2.2K
253
La red social ha aclarado cómo va a proceder: «La publicación de imágenes de desnudos no consensuados está estrictamente prohibida en X y tenemos una política de tolerancia cero hacia dicho contenido. Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos monitorizando de cerca la situación para garantizar que cualquier otra infracción se aborde de inmediato y que el contenido se elimine. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios».
Tan útil como puede llegar a ser la Inteligencia Artificial, esta generación de imágenes pornográficas es uno de los usos más despreciables de la IA. Algunas herramientas de generación de imágenes están autocensuradas para evitar la creación de imágenes de desnudos, pornográficas y/o fotorrealistas de celebridades, pero otras no tienen tanto filtro.
Hay que recordar que la Unión Europea ultima una regulación de la Inteligencia Artificial que entre otras cosas regule o prohíba ciertos usos de estas herramientas. Además, ya advirtió a X de que está difundiendo contenido ilegal y desinformación y que podría dejar de funcionar en Europa si no toma medidas para contrarrestar estos contenidos falsos.
