Europa regula la IA: esto es todo lo que no podrá hacer por ley

Europa se prepara para regular ciertas prácticas en las que la IA puede suponer un peligro para la seguridad o los derechos de los ciudadanos europeos. Las negociaciones con el Consejo sobre la forma definitiva del texto comenzarán hoy, pero ya podemos tener una idea bastante aproximada de cómo será el texto final.

Prohibiciones con respecto a la Inteligencia Artificial

Este primer borrador incluye una serie de normas que tendrán que ser adoptadas en toda clase de ámbitos para prevenir riesgos. Tanto los proveedores como aquellos que despliegan herramientas basadas en IA tendrán que adecuar su funcionamiento para cumplir con todas estas restricciones europeas.

«La Ley sobre inteligencia artificial marcará el rumbo a nivel mundial para el desarrollo y gobernanza de esta herramienta, garantizando que la tecnología que transformará nuestras sociedades de manera radical evoluciona y se utiliza de manera acorde con los valores europeos de democracia, derechos fundamentales y Estado de Derecho».

De hecho, los eurodiputados han ampliado la lista que se propuso hace unas semanas por parte de la Comisión Europea. De esta manera, por ejemplo quedan prohibidos aquellos sistemas que son considerados que tienen un nivel inaceptable de seguridad, como la puntuación social (clasificar a las personas a partir de su comportamiento o características personales), que estará totalmente prohibidos.

También se baraja la prohibición total de la IA cuando esta se use para la vigilancia biométrica (con identificación en espacios públicos en tiempo real o no), el reconocimiento de emociones (por parte de las fuerzas del orden en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza) y los sistemas policiales predictivos (basados en la elaboración de perfiles, la ubicación o el historial delictivo). Relacionado con esto, tampoco se permitirá el rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial (que violan los derechos humanos y el derecho a la intimidad).

El texto preliminar también recoge otras prohibiciones y obligaciones para la Inteligencia Artificial en los casos en los que puedan afectar significativamente al medio ambiente o a la salud, la seguridad o los derechos fundamentales de las personas. Por ejemplo, los sistemas de categorización biométrica que utilicen ciertas características identitarias (por género, la raza, la etnia, el estatus de ciudadanía, la religión o la orientación política), sistemas de IA utilizados para influir en los votantes y el resultado de las elecciones y en los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios).

Obligaciones generales en el uso de IA

Este texto sobre el que se va a comenzar a debatir para aprobar próximamente, incluye también ciertas obligaciones que tendrán que llevar a cabo aquellos proveedores de modelos fundacionales que quieran operar en nuestro continente. La primera será la de registrar dichos modelos en bases de datos de la Unión Europea antes de comercializarlos en sus fronteras.

No podía faltar una serie de advertencias y obligaciones con respecto a la IA generativa, quizás la forma más mainstream que ha tenido la Inteligencia Artificial de calar en la sociedad. Se busca aportar una mayor sensación de transparencia para que aquellos que se exponen a los contenidos generados por IA lo sepan, incluyendo algún tipo de identificador para, por ejemplo, distinguir las imágenes reales de las falsas o generadas artificialmente, o contenidos diseñados ilegalmente utilizando ChatGPT.

Igualmente, se pretende apoyar a los creadores originales sobre los que se basan estos modelos generativos para su entrenamiento y deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor que han sido utilizados para su desarrollo.