¡Investigada! Los 4 fallos del reconocimiento facial de Mercadona

¡Investigada! Los 4 fallos del reconocimiento facial de Mercadona

Alberto García

El reconocimiento facial lleva años siendo uno de los puntos más criticados del avance tecnológico. A pesar de que grandes empresas como Microsoft, IBM o Google han rechazado crear tecnologías de reconocimiento facial, y de que Amazon ha retrasado sus planes al menos un año, hay varios servicios online utilizan esta tecnología. Y de la nada, Mercadona empezó a instalar sistemas de reconocimiento facial en sus tiendas la semana pasada. Como es lógico, eso ha causado una gran polémica, y la Agencia Española de Protección de Datos (AEPD) les va a investigar.

El reconocimiento facial de Mercadona está presente ya en unos 40 supermercados de Mallorca, Zaragoza y Valencia. La AEPD se enteró de su existencia a través de los medios, y han anunciado que se encuentra en la fase de actuaciones previas a la investigación oficial. No pueden dar detalles todavía, pero están al tanto del suceso y lo están investigando.

AnyVision: el sistema usado por Mercadona

El sistema de detección facial, en principio, identifica a personas que tengan una sentencia firme contra Mercadona u órdenes de alejamiento de sus establecimientos o trabajadores. Al entrar en la tienda, hay un cartel que informa de que Mercadona ha implementado estos sistemas, pero parece un esfuerzo demasiado grande para un número muy limitado de casos.

Mercadona dice que es legal y que no almacena imágenes, donde los datos desaparecen a los 0,3 segundos. El problema es que, aunque sea en poco tiempo, hay un uso de esos datos. Cuando se identifica una cara, se recoge una serie de patrones biométricos, lo cual es lo que luego se compara con la base de datos. Es similar a Face ID en iPhone, donde el móvil no guarda nuestra cara, sino una huella digital de la misma. Cuando alguien da positivo, el equipo de seguridad de Mercadona alerta a las autoridades para que acudan al establecimiento.

El sistema de Mercadona está desarrollado por la empresa israelí AnyVision. Esa empresa ha estado involucrada en varias polémicas, y fue la que abocó a Microsoft a dejar de invertir dinero en el reconocimiento facial el pasado mes de marzo, ya que se descubrió que AnyVision estaba usando su tecnología para identificar a ciudadanos palestinos en el West Bank (la Ribera Occidental conflictiva entre Palestina e Israel). Así, el sistema introducido en España presenta al menos cuatro fallos:

Vulneración de la privacidad

Esta tecnología supone una grave vulneración de la privacidad de los usuarios, además de sembrar dudas sobre si cumple con el RGPD y la ley de protección de datos. No se sabe qué base de datos utilizan para cotejar las identificaciones, ni tampoco la tasa de fallos que tiene el sistema.

Falsos positivos del reconocimiento facial

El problema de la tecnología es que no es perfecta. No existe todavía un sistema que sea capaz de identificar a la perfección a las personas. Además, estos sistemas tienen unos enormes sesgos, donde confunde con bastante frecuencia a personas de raza negra o asiática. En 2018, Amazon hizo una prueba con los 535 miembros del Congreso de Estados Unidos, y confundió la cara 28 de ellos con la de delincuentes que estaban en la base de datos. Si a eso le sumamos que al entrar a la tienda podemos ir tapados, con gorra o gafas, los falsos positivos pueden dispararse.

Vulneración del derecho al honor

Además, esto puede suponer una vulneración al derecho al honor de los ciudadanos, donde si el sistema de identifica erróneamente como un delincuente, a la persona la van a detener delante de los trabajadores o conocidos, los cuales pueden no conocerte tan bien y empezar a tratarte con recelo a partir de ahí, aunque luego se demuestre que fue un falso positivo.

¿Permiso de la AEPD?

Tampoco se sabe si Mercadona ha pedido permiso a la AEPD para instalar estos sistemas. Si la agencia ha afirmado que acaba de enterarse de este sistema, es probable que no cuente con su aprobación. Mientras que hay ciudades que ya prohíben el uso de reconocimiento facial, como San Francisco desde mayo de 2019, en España no hay todavía ninguna normativa al respecto de estos sistemas.