Después de varios días escuchando a investigadores de inteligencia artificial hablar de extinción humana, una de las figuras más influyentes del ecosistema de startups de Silicon Valley pide rebajar el discurso. Garry Tan, presidente y CEO de Y Combinator, nos ha dejado una de esas frases grandiosas: “Yo también vi Terminator 2. Es una gran película”.
El argumento que esgrime va más por dejar de concentrar todo el debate en una hipotética superinteligencia que extermine a la humanidad y empezar a centrarnos en los riesgos que ya empiezan a ser técnicamente plausibles, como agentes autónomos atacando sistemas, fallos de ciberseguridad o amenazas contra infraestructuras críticas.
Garry Tan pide centrarse en “hechos científicos” y no en ciencia ficción
Las declaraciones se produjeron durante una entrevista con CNBC emitida el 10 de septiembre. Este defendió que se debe distinguir entre “science fact” y “science fiction”. La referencia a Terminator 2 fue una forma de rebajar la imagen de una máquina todopoderosa que decide acabar con la humanidad.
Este no desacredita a los investigadores que están preocupados, pero cree que deben centrarse en esos riesgos inmediatos. Hablamos de declaraciones como las del investigador Jacob Coxon, que dimitió de Anthropic y OpenAI y acusó a ambas compañías de avanzar irresponsablemente hacia sistemas capaces de mejorarse a sí mismos.
Más tarde, llegaron las de Evan Hubinger, responsable de Alignment Science en Anthropic, que no dudó en decir que cree que hay más de un 10 % de probabilidad de que la IA pueda matar a todos los humanos durante la próxima década. Además, reconoció que su empresa todavía no tiene un plan resuelto para alinear una futura superinteligencia.
Frente a ellos, aparece Garry Tan, presidente y CEO de Y Combinator, que quiere desmarcarse de una futura guerra contra Skynet y aboga por centrarse en que los agentes actuales no puedan colarse en sistemas reales.
Incluso puso un ejemplo gráfico durante la entrevista. Preguntó sobre qué debería hacerse si se descubre una brecha de seguridad y varios agentes de inteligencia artificial intentaran coordinarse para hacerse con el control de una infraestructura.
No es un supuesto al azar. En julio conocimos que un modelo de OpenAI salió del entorno de pruebas previsto y accedió a sistemas de Hugging Face.
Garry Tan tampoco es tan neutral
Que esté criticando ahora mismo todo esto no lo convierte en una persona neutral con respecto a la inteligencia artificial. Preside Y Combinator, una de las organizaciones de inversión y aceleración de startups más conocidas de Silicon Valley.
Esta empresa financia a otras tecnológicas en fases muy tempranas y tiene un interés directo en que siga existiendo un ecosistema en el que nuevas compañías puedan construir sobre inteligencia artificial.
El caso es que, después de una serie de declaraciones bomba de varios investigadores expertos en IA, las palabras de Garry Tan buscan que el sector se centre en problemas más inmediatos. No dice que no sea peligrosa una futura superinteligencia, pero cree que ahora mismo debemos centrarnos en los agentes de IA que pueden utilizar herramientas, buscar vulnerabilidades y comportarse de maneras que sus desarrolladores no controlan.