El PP está creando cuentas falsas en Twitter con caras generadas por IA

El PP está creando cuentas falsas en Twitter con caras generadas por IA

Alberto García

El próximo viernes 12 de abril, Viernes de Dolores, arranca la campaña electoral para las Elecciones Generales que se celebrarán el 28 de abril. A pesar de quedar todavía una semana, los partidos ya están sacando su artillería en redes sociales y medios de comunicación, y uno de ellos está usando cuentas falsas para promocionar hashtags.

El PP está usando thispersondoesnotexist.com y FaceApp para crear caras en sus cuentas falsas de Twitter

Hablamos del PP, que ya en el pasado había usado Twitter para apoyar ideas con las que estaba a favor, así como para criticar aquellas con las que estaba en contra, usando cuentas falsas en ambos casos. En esos casos usaban bots para replicar noticias con tweets idénticos, pero ahora parece haber personas reales detrás de ellas para no levantar sospechas. Sin embargo, a poco que miremos el historial o la foto de esas cuentas vemos cosas que nos hacen sospechar.

En primer lugar, lo que salga a la vista son las fotos. Poniendo todas las fotos juntas, encontramos una gran cantidad de similitudes, y es porque casi todas están generadas a través de la misma IA de la web Thispersondoesnotexit.com. Esa web, como ya comentamos, se basa en un algoritmo de deep learning de NVIDIA para generar las caras. Al usar el mismo proceso, las caras se generan de la misma forma, y ojos siempre están centrados en la misma posición, siendo una forma muy fácil de detectar si esas caras están generadas o no con la IA.

Imagen del usuario de twitter
Proscojoncio
@Proscojoncio
Bueno, pues aquí 20 cuentas creadas en Marzo con avatares creados mediante FaceApp o imágenes de Internet, que casualmente están gestionadas con TweetDeck y escriben para mostrar apoyo a @pablocasado_, sabotear el hashtag #HazQuePase y/o difundir el hashtag #SanchezMentiroso. https://t.co/XZtvyk9dD7
02 de febrero, 2024 • 01:33

7.7K

482

Además de esa IA, para las cuentas hacen uso de FaceApp, o cogen las caras generadas por IA o de fotos de stock y las pasan a su vez por esa app. FaceApp es una aplicación que permite cambiar nuestro estilo totalmente manteniendo la cara. Por ejemplo, puede cambiarnos el color de pelo, el peinado, ponernos gafas, ponernos una sonrisa si en ella estamos serios, cambiarnos de edad, etc. De hecho, hasta en algunas fotos se han dejado el logo de FaceApp en la parte inferior.

Imagen del usuario de twitter
Proscojoncio
@Proscojoncio
Jerrie Passmore ha pensado que tener el avatar en blanco podría hacer que sospecharan de él y ha actualizado su avatar, lo que me hace ya dudar si es falso o no… https://t.co/FIJAA9MNBD
02 de febrero, 2024 • 01:33

194

6

Quién ha descubierto el uso de estas cuentas falsas ha sido Proscojoncio, popular tuitero conocido por sus excelentes dotes de retoque fotográfico. En total, lleva ya recopiladas más de 50 cuentas falsas que han sido usadas para promocionar los hashtags #SánchezMentiroso, #PrisiónPermanenteRevisable, así como #PabloCasadoEH. También hay múltiples menciones a Pablo Casado en los tweets junto con retweets a cuentas como la oficial del Partido Popular.

Estas cuentas han sido creadas en marzo o abril, como podemos ver en este de @EstelaPuiMtn, que coge una cara generada por IA y le añade una sonrisa con FaceApp para generar otra cara distinta.

Este tipo de medidas tienen como objetivo ayudar a arrancar a diversos hashtags que, en casi todas las ocasiones, no llegan a ser Trending Topic. En el caso de que un tema ya sea TT, suelen usar las cuentas falsas para generar opiniones positivas o negativas según vean conveniente. Como vemos, esta medida electoral es un poco torpe y fácil de detectar, ya que además estas cuentas son públicas y cualquiera puede comprobar que son falsas visitando los hashtags y viendo los tweets.