Pedro Sánchez ha lanzado en Harvard una advertencia sobre el poder de las grandes tecnológicas. “Muchos de los algoritmos que hay detrás de estas tecnologías no están construidos para servirnos”, afirmó antes de añadir que están construidos para esclavizarnos. Además, no dudó en pedir la ralentización del desarrollo de la IA hasta encontrar una forma de hacerla segura, además de limitar su capacidad de automejora y someterla a vigilancia externa.
El presidente del Gobierno pronunció estas palabras el 24 de septiembre durante una intervención en Harvard titulada The Technoligarch Threat to Democracy. Su discurso se centró en la concentración de poder de unas pocas empresas y en los riesgos de dejar que desarrollen sistemas cada vez más potentes sin controles suficientes.
“No están construidos para servirnos”: qué criticaba Sánchez
En su intervención relacionó esos sistemas con la capacidad de captar nuestra atención, influir en el debate público y beneficiar a quienes controlan las plataformas. Esto se enlaza con lo que sentimos al usar una red social y que esta decida lo que vamos a ver a continuación.
Pedro Sánchez enlazó esa sensación con una crítica con el desarrollo de la IA avanzada y con una pregunta: quién debe poner límites a las empresas que la construyen. Su respuesta fue que las instituciones públicas deben recuperar capacidad de decisión y que la industria no puede fijar por sí sola todas las reglas.
Las cuatro medidas que puso sobre la mesa
Sánchez defendió limitar la capacidad de automejora de estos sistemas, establecer una supervisión estricta de terceros y exigir informes completos cuando se produzcan incidentes. Y por si eso no parecía suficiente, también ha pedido ralentizar el desarrollo hasta que la tecnología pueda hacerse segura.
El problema es que eso no es algo que se pueda conseguir fácilmente. Sí, tú puedes aplicar leyes para Europa o Estados Unidos, pero qué pasa con China o con otras regiones que seguramente no se unirán a la propuesta. Personalmente creo que no se le pueden poner puertas al campo y que la carrera de la inteligencia artificial es imparable.
Además, surgen algunas preguntas como: ¿Qué capacidades exigirían una revisión independiente? ¿Qué se consideraría un incidente notificable? ¿Quién decidiría que un sistema es lo bastante seguro para continuar desarrollándolo?
También es importante saber a qué se refiere con el concepto de automejora. Ahora mismo nos preocupa que una IA pueda contribuir cada vez más al diseño de sistemas posteriores y acelerar por sí misma ese proceso. Sin embargo, esto no implica que sea capaz de mejorarse ilimitadamente sin intervención humana.
En resumen, el titular puede desviar la atención de lo que realmente quería explicar el presidente del Gobierno. Este quiere reducir el ritmo de desarrollo de la IA hasta que existan garantías de seguridad, con controles externos e información sobre incidentes. El problema es delimitar qué sistemas se someterían a esos requisitos, quién los supervisaría y cómo se coordinaría una medida de ese tipo fuera de España.